《讓你攻略校花,你卻要當科技教父》第560章 半固化模型芯片(1)

作者:我想養只大熊貓·13天前

1月4日,元旦假期結束後的第三天。

網上關於元旦假期出遊的話題已經漸漸褪去,但關於豆包AI的討論卻依然居高不下。

連續三天時間,豆包AI幾乎霸佔了各大社交平臺上一半的熱搜版塊。

無論是在網路論壇,還是線上下辦公室的茶水間裡,隨時都能聽到人們在交流豆包AI的使用心得。

在這個大部分人只在科幻電影和科技新聞裡聽過人工智慧、卻幾乎從未親身接觸過的時代,豆包AI以極低的使用門檻和強大的多模態功能,給整個社會帶來了前所未有的科技衝擊。

羊城,浪潮科技總部。

此時的許浪已經結束了在哈市的假期,重新投入到日常的工作當中。

辦公室裡,豆包科技CEO張薇微正拿著一份剛彙總出來的運營報告,向許浪彙報著這三天的核心資料。

“許總,App上線資料已經統計出來了,全網總下載量直接突破了1000萬大關,使用者留存佔比達到了80%,超越了我們所知的所有應用。”

“從資料上看,只要下載了豆包App的使用者,大部分都成為了我們的活躍使用者。”

許浪點了點頭,直接問道:“付費轉化情況怎麼樣?”

張薇微翻開下一頁報告,語氣中帶著一絲興奮與激動。

“付費率同樣遠超預期,僅僅上線了三天,已有超過50萬用戶開通了付費會員,其中70%的使用者選擇了39元的基礎會員,20%的使用者開通了99元的專業會員......”

“後臺算力和伺服器負載情況呢?每日Token使用量增長如何?”許浪繼續問道。

張薇微快速地回覆:“目前每日呼叫資料和Token消耗量都在成倍增長,僅僅豆包App的人均呼叫次數就超過了20次,每日Token消耗已經超過5000億。”

“但得益於我們在資料中心部署的28n型固化ASIC晶片,單次推理成本極低,目前的伺服器叢集完全能夠穩穩頂住這種爆發式的增長。”

聽完豆包App目前的全部彙報,許浪微微點了點頭,隨即從辦公桌的一旁拿出了一份資料,遞給了張薇微。

“薇微,這是我最新的想法,新的半固化模型晶片。”

“我們現在用的模型固化晶片雖然幫我們把推理成本壓到了最低,但它的短板也很明顯,晶片裡固化了具體的模型權重引數,一旦未來的豆包大模型在權重引數上發生大幅度迭代,這批晶片就會失去作用。”

張薇微一邊認真聽著,一邊翻閱著這份特殊的資料。

許浪沒有停頓,繼續說著。

“我打算讓崑崙半導體研發下一代晶片,一款僅固化底層架構的ASIC晶片。”

“這種晶片不再把具體的權重引數寫死在矽片裡,而是隻固化大模型的底層網路架構與核心矩陣運算單元。”

“只要我們後續研發的豆包新模型依然沿用這套基礎架構,新的模型引數就可以被動態載入進晶片中。”

“這樣一來,雖然在峰值能效上比純靜態固化晶片稍微低了一點,但卻換取了極高的靈活性,能讓同一顆晶片跨代使用三四年。”

說到這,許浪語氣不由得重了幾分,繼續說道。

“這種方案唯一的關鍵就在於需要保證未來幾年內,我們豆包大模型的底層架構不會發生顛覆性的改變,而這一點我們完全可以做到。”

聽著許浪這番兼具技術前瞻性與商業可持續性的規劃,張薇微眼神中滿是錯愕,腦海中迅速消化著這一構想。

。了本力算與態生的年數來未定鎖前提,計設片晶的級構架過始開經已闆老的己自,候時的品產IA代一第完何如著考思在還們行同在

。了開甩全完手對把經已闆老己自,力行執略戰及以見遠技、察業商論

。哀默手對的己自為始開也時同,慨陣一住不忍中心微薇張

......

。料資關相的包豆了到拿也時此,頭巨路網際網大各國龍,時展發續後包豆著劃規微薇張和浪許在

。迫此如到會不還許或家大,務服雲級業企端B於注專只,樣那前之像是還IA包豆果如

。了視重不得不都們頭巨路網際網,後料資長增的怕可樣那了出發且而,後本版端C出推式正ppA包豆當可

。料資的怖恐此如過出打未從也期初線上在,音抖的發近最者或又,聊微的年當是便即,上以%08達高率存留,萬0001破突量載下網全,間時天三

。的完下提前的者用使分部一當相了流分經已,0.3竹小了建就本機手列系5 adnaP在是還,量載下的萬0001個這,是的惕警到業企大各讓更

。策之對應討研,議會略戰部開召紛紛頭巨路網際網大各,擊衝的品產級象現種這對面

。行進在正會通略戰管高場一,團集鵝企,城深

。慌得顯未並但,視重然雖氛氣的部鵝企,一之東的技科包豆是也時同,者資投期早的業企態生系貓熊為作

:略策對應的上IA在鵝企了出做上會在終最,論討番一過經,後報彙的人責負線務業各完聽哥馬小

”。驗品產高提,上玩陪戲遊IA、CPN慧智的遊手大各及以》盟聯雄英《在用應其將,調微次二行進抓群業事戲遊,型模源開0.1包豆署部服伺部司公在刻立,了樣這就那,行“

”。率效營運升提,服客化自的用應大各和OO接型模源開將時同“

”。率效產生的部高提,用使中景場的生態模多階高要需等作創IA漫、作製片影發宣戲遊在,式方的接IAP用採們我,0.2包豆於至“

”。整調行進要需實確個這,嗯,室驗實慧智工人的立新最鵝企“

”。地落接的型模0.1源開與IPA合配力全,線務業各至配調員人發研分部將先,吧樣這“

”。投複重的上型模大在減,合結度深態生樂娛和社的自鵝企與IA將何如究研點重,技代一下索探續持,考參為構架0.1包豆以員人心核餘其“

猜你喜歡

同題材或同分類的其他作品。