《15歲,成為國寶級天才科學家》第419章 別找錯了方向(2)

作者:制式希余·2小時前

他從來不覺得誰說的話會是絕對準確的,當然也不會要求所有人都無條件相信自己。

只是,他並不覺得付霖說對了。

相比於一臺他尚不瞭解效能底細的機器,他明顯更信任自己的腦子。

肖宿在腦海裡仔細回溯了一遍整個計算過程,最後,他的視線停在了螢幕上的那張通訊拓撲圖上。

或許,他已經找到問題的所在了。

他對周偉說:“把譜分解這一步的通訊拓撲圖調出來。”

周偉點頭,低頭敲了幾個命令,一張節點間通訊拓撲圖被投到大屏上。

整張影像一團被貓撓過的毛線球,幾乎每個節點都在和另外所有節點做資料交換,連線密密麻麻堆疊在一起。

“全對全通訊,”肖宿看著那團毛線球,心裡確認了自己的判斷,“你們的並行分塊是按什麼分的?”

“按矩陣的行列做二維塊劃分,標準的ScaLAPACK分佈策略。”

肖宿搖了搖頭。

所以,問題不在於超算架構,而是資料分塊方式出現了問題。

商空間降維裡的等價類劃分有一個被所有人忽略的特性,那就是等價關係本身就帶有區域性性。

兩個樣本點在大多數維度上都不需要做全域性對比,只有落在同一個區域性鄰域內的點才需要精確比較。

但是標準的分塊方式根本沒利用這個特性,把每個節點都當成需要和所有其他節點交換資料來處理,等於白送了一大堆沒用的通訊開銷。

只要按等價類的區域性鄰域結構做圖劃分,讓通訊只發生在圖的割邊上,資料交換量就能從一個數量級壓到另一個數量級了。

肖宿沒再多解釋什麼,他拉過鍵盤,開始敲起了程式碼。

先用區域性敏感雜湊做預分桶,雜湊函式用隨機超平面投影,投影方向從資料的主成分方向裡隨機取樣,保證高機率下近鄰點落在同一個桶裡。

然後分塊策略改用雜湊桶的鄰接圖來做譜圖劃分,每個子圖內的桶分配在同一個節點上,割邊數量最小化。

這樣需要跨節點通訊的就只剩下割邊上的邊界樣本。

周偉看著螢幕上飛速增長的程式碼,眼睛越瞪越大。

肖宿現在寫的這個東西嚴格來說算不上什麼深奧的理論突破,甚至可以說思路出奇的簡潔。

可就是這樣一個簡潔的架構,卻讓周偉起了一身的雞皮疙瘩。

區域性敏感雜湊預分桶、譜圖劃分、邊界通訊封裝,這三層架構拆開來看,每一塊都是現成的演算法積木,他們這兒每個人都懂。

可要把它們拼在一起,變成一把專門解決全對全通訊瓶頸的手術刀,這種事兒,不是誰都能想到的。

它需要你同時吃透雜湊的數學性質、譜圖劃分的組合最佳化,還要對超算底層通訊邏輯有近乎本能的手感。

大部分人連其中一塊都啃不透,更別說三塊融在一起,隨手就寫出一個能直接上機跑的解決方案。

而肖宿連猶豫都沒猶豫一下。

。利紅個這上吃接直能都景場的算計圖模規大要需何任,建構圖疊重的裝組組因基、新更表列鄰近的學力子分、現發群社的路網社,頸瓶訊通的維降間空商決解能只不構架套這,了到識意就馬立偉周

。遍一刷新重被要是怕構架訊通的心中個整,通跑旦一碼式程套這,定確以可乎幾他

猜你喜歡

同題材或同分類的其他作品。