隨著人工智能(AI)模型規(guī)模的持續(xù)擴(kuò)大,智算芯片間、算力節(jié)點(diǎn)間的通信帶寬不足的問(wèn)題愈發(fā)突出。傳統(tǒng)電子互連方式已難以滿足GPU集群、超級(jí)計(jì)算中心和云計(jì)算平臺(tái)對(duì)高速、大容量、高效能數(shù)據(jù)交換的需求。尤其是在大模型訓(xùn)練過(guò)程中,海量參數(shù)需要在計(jì)算節(jié)點(diǎn)之間頻繁傳輸,互連帶寬不足不僅降低系統(tǒng)響應(yīng)速度,甚至可能導(dǎo)致宕機(jī),嚴(yán)重影響計(jì)算效率與用戶體驗(yàn)。
如何突破電子傳輸在帶寬與能耗方面的物理限制,構(gòu)建以光子為信息載體的新型互連架構(gòu)?
日前,復(fù)旦大學(xué)信息科學(xué)與工程學(xué)院張俊文研究員、遲楠教授與相關(guān)研究團(tuán)隊(duì)開展合作,通過(guò)精確設(shè)計(jì)和優(yōu)化,將多維復(fù)用技術(shù)引入片上光互連架構(gòu),不僅顯著提升了數(shù)據(jù)傳輸吞吐量,同時(shí)在功耗和延遲方面表現(xiàn)卓越,具備極強(qiáng)的擴(kuò)展性和兼容性,適用于多種高性能計(jì)算場(chǎng)景。
(來(lái)源:科技日?qǐng)?bào))