今日,記者獲悉,在 2023 年度 AI 網絡創新大會上,騰訊雲星脈網絡獲得了“標杆應用獎”。大會由中國通信學會主辦,該獎項旨在表彰具有強商業價值、高服務水平和顯著應用效益的優秀 AI 網絡行業應用案例。
星脈網絡是騰訊雲自研的大模型專屬高性能網絡。基於騰訊雲新一代算力集群 HCC,可支持 10 萬卡的超大計算規模;同時,星脈網絡具備業界最高的 3.2T 通信帶寬,時延降到 10us-40us,丟包率降到 0,為 AI 大模型帶來 10 倍通信性能提升,提升 40% 的 GPU 利用率,節省 30%-60% 的模型訓練成本。
騰訊雲副總裁王亞晨在現場的分享中介紹了星脈網絡。星脈網絡基於高速以太網絡技術進行構建,為騰訊混元大模型提供了高性能互聯底座。
王亞晨指出,隨著 AI 大模型的不斷發展,對網絡的傳輸和穩定提出了新的需求。傳統的網絡架構已經越來越滿足不了大模型訓練的需求。
騰訊雲副總裁王亞晨
千億、萬億參數規模的大模型,訓練過程中通信占比最大可達 50%,傳統低速網絡的帶寬遠遠無法支撐。同時,傳統網絡協議容易導致網絡擁塞、高延時和丟包,而僅 0.1% 的網絡丟包就可能導致 50% 的算力損失,最終造成算力資源的嚴重浪費。大帶寬、高利用率、信息無損,是 AI 大模型時代網絡麵臨的核心挑戰。
基於全麵自研能力,騰訊雲在交換機、通信協議、通信庫以及運營係統等方麵,進行了軟硬一體的升級和創新,率先推出業界領先的大模型專屬高性能網絡 —— 星脈網絡。
在硬件方麵,星脈網絡基於騰訊的網絡研發平台,采用全自研設備構建互聯底座,實現自動化部署和配置。
在軟件方麵,騰訊雲自研的 TiTa 網絡協議,采用先進的擁塞控製和管理技術,能夠實時監測並調整網絡擁塞,滿足大量服務器節點之間的通信需求,確保數據交換流暢、延時低,實現高負載下的零丟包,使集群通信效率達 90% 以上。
此外,騰訊雲還為星脈網絡設計了高性能集合通信庫 TCCL,融入定製化解決方案,使係統實現了微秒級感知網絡質量。結合動態調度機製合理分配通信通道,可以避免因網絡問題導致的訓練中斷等問題,讓通信時延降低 40%。
網絡的可用性,也決定了整個集群的計算穩定性。為確保星脈網絡的高可用,騰訊雲自研了端到端的全棧網絡運營係統,通過端網立體化監控與智能定位係統,將端網問題自動定界分析,讓整體故障的排查時間由天級降低至分鍾級。同時,大模型訓練係統的整體部署時間從 19 天縮減至 4.5 天,保證基礎配置 100% 準確。
2023 AI 網絡創新大會由中國通信學會指導,中國通信學會信息通信網絡技術委員會、江蘇省未來網絡創新研究院主辦,SDNLAB 協辦;邀請運營商、互聯網公司、設備廠商代表、高校與科研單位代表,圍繞 AI 下的網絡互連架構、AI 網絡設備、高性能網絡傳輸技術、網絡調度與資源分配等議題進行分享交流,搭建國內首個 AI 網絡垂直交流平台,為 AI 行業穩健發展夯實網絡基礎設施,以技術創新升級驅動賦能網絡發展。
廣告聲明:文內含有的對外跳轉鏈接(包括不限於超鏈接、二維碼、口令等形式),用於傳遞更多信息,節省甄選時間,結果僅供參考,IT之家所有文章均包含本聲明。
鄉村行·看振興丨浙江德清:“數字鄉村一張圖”描繪未來美好圖景
作者: 潇洒↘过头ぃ 2023-12-04 22:51第四屆“長沙·中國1024程序員節”開幕 全國首個程序員街區亮相!
作者: 丿水韵草 2023-12-04 21:11深圳社康開設187個發熱診室 全市將建2000個 就診需注意什麽?
作者: 为你烫的烟疤 2023-12-04 20:3633MB
查看98MB
查看35MB
查看47MB
查看36MB
查看23MB
查看29MB
查看45MB
查看15MB
查看21MB
查看手机扫码安装笔记本电脑报价
网友评论更多
1哥、有哥的谱
很早就在妖妖平台玩遊戲了,有很多許多珍貴的回憶。
13:55 推荐
曖__昧〆圥玍:係統資源占用更少,兼容性更好,壓縮率比較高。軟件功能包括強力壓縮、分卷、加密、自解壓模塊、智能圖片轉換、智能媒體文件合並等。 来自阜新市
从良 :笔记本电脑报价刪多國語言,隻保留英文 簡體中文 繁體中文語言包 来自南阳市
好男人,光芒四射。 回复 够狠才是男人 :快速編輯、創作你的小說,也可以直接導入文本二次編輯,功能超級好用。
1欠吻吗
支持擴展功能,可以將當前的軟件擴展到瀏覽器,也支持Java擴展。
7:20 推荐
1.个狠oK的男人:使用小蜜書軟件已經挺長時間了,效果確實挺明顯的,剛開始接觸小蜜書軟件到現在使用習慣離不開小蜜書軟件,提高了我自己的工作效率,節約了很多時間。 来自泰州市
煙メ点的寂寞 :笔记本电脑报价現在很流行小視頻,自己也來學習一下,Vegas Pro還是很專業的,慢慢學習中。 来自鄂尔多斯市
〆霸气开爷° 回复 声嘶力竭的情歌 :隻需按下“Create”按鈕來欣賞較終的結果~!
1渡河已尽生
可以自動從網絡取得你所在當地的氣象資訊
9:12 推荐
久孤的王:畢竟好多要看的動漫都被愛奇藝買了版權,隻能看這裏咯。 来自玉溪市
我女人.应该幽默 :笔记本电脑报价軟件提供標準的申報表填寫,讓用戶可以快速錄製數據,推薦下載。 来自通辽市
爺就是王の吾等跪下 回复 傷感シ男子 :這款軟件真的特別好用,值得推薦哦。
1如果年少注定要轻狂 ---
一款非常實用的軟件,值得推薦。
17:42 推荐
空巷新友:很喜歡的一款軟件,真的很好用,什麽時候出中文版就好了。 来自衡水市
爷的天空__云雾缭绕 :笔记本电脑报价性能穩定,適應不同的網絡環境,能在超低的網絡下運行良好 来自杭州市
败给没头脑 回复 安静的复苏 :可以將下載的RM/RMVB格式電影轉換為蘋果iPhone手機所支持的視頻格式。
1瞬间的留恋、
它主要可以顯示出處理器、主板及芯片組、pcmcia接口、bios版本、內存等信息
20:47 推荐
爷不死ゞ你都是孙子:才發現魯大師手機模擬大師官方版,可以支持小號多開,牛掰了! 来自辽源市
繁华过後℃寂寞 :笔记本电脑报价用來扣代繳個人所得稅,不用跑來跑去的很方便。需要下載企業所在省份的客戶端版本,不然提示納稅人不存在。 来自南阳市
悲伤、请走开 回复 爷:狠耀眼 :當地特色方言報牌和俏皮話,還原真實的家鄉味道,讓你倍感親切!
1黑米哥哥
界麵很清晰,對於打字指法的指導很好,比其他花裏胡哨又不實用的軟件好多了。
13:26 推荐
酒治不愈:這款軟件給我的工作有很多幫助。我很是喜愛 来自嘉兴市
胡子先生 :笔记本电脑报价很好用,功能也非常齊全,辦公性很強,點讚。 来自宿迁市
耍酷是爷的资本 回复 聆听、你的伤 :不錯,用著很好,就是後麵不是免費的,傷心。