大众

大众

今日，記者獲悉，在 2023 年度 AI 網絡創新大會上，騰訊雲星脈網絡獲得了“標杆應用獎”。大會由中國通信學會主辦，該獎項旨在表彰具有強商業價值、高服務水平和顯著應用效益的優秀 AI 網絡行業應用案例。

星脈網絡是騰訊雲自研的大模型專屬高性能網絡。基於騰訊雲新一代算力集群 HCC，可支持 10 萬卡的超大計算規模；同時，星脈網絡具備業界最高的 3.2T 通信帶寬，時延降到 10us-40us，丟包率降到 0，為 AI 大模型帶來 10 倍通信性能提升，提升 40% 的 GPU 利用率，節省 30%-60% 的模型訓練成本。

騰訊雲副總裁王亞晨在現場的分享中介紹了星脈網絡。星脈網絡基於高速以太網絡技術進行構建，為騰訊混元大模型提供了高性能互聯底座。

王亞晨指出，隨著 AI 大模型的不斷發展，對網絡的傳輸和穩定提出了新的需求。傳統的網絡架構已經越來越滿足不了大模型訓練的需求。

騰訊雲副總裁王亞晨

千億、萬億參數規模的大模型，訓練過程中通信占比最大可達 50%，傳統低速網絡的帶寬遠遠無法支撐。同時，傳統網絡協議容易導致網絡擁塞、高延時和丟包，而僅 0.1% 的網絡丟包就可能導致 50% 的算力損失，最終造成算力資源的嚴重浪費。大帶寬、高利用率、信息無損，是 AI 大模型時代網絡麵臨的核心挑戰。

基於全麵自研能力，騰訊雲在交換機、通信協議、通信庫以及運營係統等方麵，進行了軟硬一體的升級和創新，率先推出業界領先的大模型專屬高性能網絡 —— 星脈網絡。

在硬件方麵，星脈網絡基於騰訊的網絡研發平台，采用全自研設備構建互聯底座，實現自動化部署和配置。

在軟件方麵，騰訊雲自研的 TiTa 網絡協議，采用先進的擁塞控製和管理技術，能夠實時監測並調整網絡擁塞，滿足大量服務器節點之間的通信需求，確保數據交換流暢、延時低，實現高負載下的零丟包，使集群通信效率達 90% 以上。

此外，騰訊雲還為星脈網絡設計了高性能集合通信庫 TCCL，融入定製化解決方案，使係統實現了微秒級感知網絡質量。結合動態調度機製合理分配通信通道，可以避免因網絡問題導致的訓練中斷等問題，讓通信時延降低 40%。

網絡的可用性，也決定了整個集群的計算穩定性。為確保星脈網絡的高可用，騰訊雲自研了端到端的全棧網絡運營係統，通過端網立體化監控與智能定位係統，將端網問題自動定界分析，讓整體故障的排查時間由天級降低至分鍾級。同時，大模型訓練係統的整體部署時間從 19 天縮減至 4.5 天，保證基礎配置 100% 準確。

2023 AI 網絡創新大會由中國通信學會指導，中國通信學會信息通信網絡技術委員會、江蘇省未來網絡創新研究院主辦，SDNLAB 協辦；邀請運營商、互聯網公司、設備廠商代表、高校與科研單位代表，圍繞 AI 下的網絡互連架構、AI 網絡設備、高性能網絡傳輸技術、網絡調度與資源分配等議題進行分享交流，搭建國內首個 AI 網絡垂直交流平台，為 AI 行業穩健發展夯實網絡基礎設施，以技術創新升級驅動賦能網絡發展。

廣告聲明：文內含有的對外跳轉鏈接（包括不限於超鏈接、二維碼、口令等形式），用於傳遞更多信息，節省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。