《15歲,成為國寶級天才科學家》第241章 我已經長大了(2)

作者:制式希余·2小時前

“林硯,肖宿的助手。”林硯咧嘴一笑,自覺地把自己定位得很清楚。

周慶宇把他們引到會議區,宋曉曼已經沏好了茶。

肖宿沒有坐,目光越過所有人,直接落在了那三排機櫃上。

黑色的機櫃靠牆排列,指示燈像繁星一樣明滅閃爍。

散熱風扇的嗡鳴聲低沉而持續,像某種巨大生物的呼吸。

透過玻璃櫃門,可以看到裡面插滿了一塊塊計算卡,線纜整齊地捆紮成束,沿著走線架延伸到天花板上的橋架裡。

這是京大高效能計算中心的家底。

三臺管理節點,四十八個計算節點,每個節點八張GPU加速卡,總共三百八十四張卡。另外還有兩組專門做資料儲存的磁碟陣列,和一個從去年才開始搭建的液冷實驗叢集。

這些裝置加在一起,峰值算力大約是兩點八個PFlops。

這個數字放在國內高校裡算得上第一梯隊,但跟深度求索那種動輒上萬張H100的商業公司比起來,差了一個數量級。

不過肖宿今天來,關心的不是算力總量。

他關心的是算力被使用的方式。

周慶宇站在機櫃旁邊,開始介紹情況。

“我們目前的排程系統用的是Slur架,搭配自主研發的能耗管理模組。排程策略上,我們採用的是改進後的加權公平佇列演算法,結合動態電壓頻率調節來平衡負載,具體的資源分配邏輯是……”

他說了大概三分鐘。

肖宿一直沒說話,只是安靜地聽著,目光在機櫃的指示燈和旁邊監控螢幕上的即時負載曲線之間來回移動。

等周慶宇說完,肖宿才緩緩開口。。

“你們現在的排程策略,是針對高維特徵空間設計的吧?”

周慶宇愣了一下,隨即點頭:

“對,目前主流的AI訓練任務,特徵維度都很高,所以我們預設按照高維張量運算的負載模型來分配資源。

這個策略是我們去年在SC會議上發表的,核心思想是把高維張量拆分成多個低維子塊,然後分配到不同節點上做平行計算。

業內評價還不錯,有幾個學校還專門來我們這兒取過經。”

肖宿站在監控螢幕前,目光落在那條負載曲線上,看了一會兒。

實驗室裡的人都沒有出聲。

周慶宇站在他側後方,手裡還攥著剛才介紹系統時用來指螢幕的筆,筆帽不知道什麼時候被他在指尖轉鬆了,發出細微的咔咔聲。

他自己都沒注意到。

所有人的注意力都在肖宿身上。

“周老師,你們的排程器在處理通用AI訓練任務的時候,節點利用率大概是多少?”

。來上得答他題問個這,氣口了鬆微微宇慶周

”。上以十九到能值峰,間之五十八到五十七之分百在率用利均平UPG,話的務任用通“

。氣底的顯明不點一著帶裡氣語候時的話這說他

。的料資率用利個這析分是就段一有門專裡文論的議會CS年去,的亮漂算實確裡心中力算的校高國在字數個這

。低是還高是字數個這價評有沒,頭點了點宿肖

。奏節的吸呼種某像,滅明地律規有燈綠排排一那,上燈示指的櫃機了到移線曲載負從目的他

”?呢架框的智小跑果如那“

。了散子下一氣底點那宇慶周

”……率用利點節,右左三了快型模統傳比只度速行執際實是但,致一料資的裡文論和,人驚很實確度耦解,試測準基次一過跑週上們我架框智小“

”。十五之分百到不“,下一了停他

”。多不差的估預我跟“

。淡平很氣語候時的話句這說宿肖

。前板白到走他

。布抹的板白塊那著攥還裡手,步一了讓邊旁往地識意下是乎幾曼曉宋

”。設假提前個一了用,候時的智小計設在我“

。圖次層的晰清構結張一了出畫就快很,移上板白在的速快手的他

。裡量向維高個一同在都全,號符、輯邏、義語。起一在攪訊資有所,的維高是間空徵特的型模大統傳“

。低率頻的訊通點節但,大量算計次單,上作收量張在中集度集算計,下構結種這

”。的對是,跑行並、去出撒、碎拆務任把略策程排以所,小很比佔說來銷開算計於對相銷開訊通

。間之層二第和層一第在停筆的他

。模建獨單再層號符,模建獨單層輯邏,裡間空示表約可不的群緻到被徵表的層義語,了耦解層三這把我,反相路思的智小“

”。級量數個兩近將了低型模統傳比都度維的層一每

。度雜複算計的應對了註標邊旁層一每在他

。)n gol n(O:析解義語

。)2n(O:理推輯邏

。)n(O:映對號符

。雜複型模統傳比係關賴依的間之層三但,了小變量算計次單,後之低降度維“

。換繁頻層號符和要需果結間中的層輯邏,輸的層輯邏是出輸的層義語

”。快最層號符,之次層義語,慢最得算層輯邏,樣一不度雜複算計的層三且而

。線曲載負條那上幕螢控監點了點尖筆,過轉他

。來過傳果結把點節的層輯邏等,轉空後然,了完跑就快很點節的層號符是就那,況個一現出會,去出撒塊子的大等拆都層一每把,略策程排統傳用還果如以所“

”……是就果結,上它在堆全力訊通,料資的點節子總彙責負要還,慢得算就本點節的層輯邏

。句一了接宇慶周”。等在是而,算在不點節分部大“

。頭點宿肖

猜你喜歡

同題材或同分類的其他作品。