百度沈抖:百舸4.0升級發(fā)布,模型訓練有效時長達99.5%
導讀: 新浪科技訊 9月25日上午消息,今日舉辦的2024百度云智大會上,百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖宣布百度百舸AI異構計算平臺4.0升級發(fā)布,支持多芯混訓、多芯適配,在萬卡集群上實現(xiàn)了超過99.5...
新浪科技訊 9月25日上午消息,今日舉辦的2024百度云智大會上,百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖宣布百度百舸AI異構計算平臺4.0升級發(fā)布,支持多芯混訓、多芯適配,在萬卡集群上實現(xiàn)了超過99.5%的有效訓練時長。
在算力緊缺的當下,效率的提升將能夠幫助企業(yè)有效提升算力使用率,進而降低成本。據(jù)介紹,為解決算力資源短缺的問題,百舸4.0對“多芯混訓”能力進行了重點升級,實現(xiàn)了在萬卡規(guī)模集群上95%的多芯混合訓練效能,達到業(yè)務最領先水平。
在集群部署環(huán)節(jié),升級后的百舸能夠實現(xiàn)工具層面的秒級部署,將萬卡集群運行準備時間從數(shù)周最快縮減至1小時,極大地提升部署效率,縮短業(yè)務上線周期。
針對大模型訓練過程中故障頻發(fā)的問題,百舸4.0全面升級了故障檢測手段和自動容錯機制,可以有效降低故障發(fā)生頻次,大幅減少集群故障處置時間,在萬卡集群上實現(xiàn)了超過99.5%的有效訓練時長。
在模型推理上,最重要的是速度和成本,F(xiàn)在長文本推理逐漸成為主流,百舸4.0整體上做到了推理速度和成本優(yōu)化,長文本推理效率提升了1倍以上。
責任編輯:zsz
網友評論
智能應用排行
- 新國標,新認證,新中式—2024年新中式廚房電器-廢棄食物處
- 華為云發(fā)布AI原生云基礎設施架構CloudMatrix,新一代昇騰AI
- 蘋果官方認可“越獄”術語:特殊版iPhone罕見現(xiàn)身 用于查找
- 釘釘公布數(shù)據(jù):用戶數(shù)7億 軟件付費企業(yè)數(shù)12萬
- 華為運動健康發(fā)布玄璣感知系統(tǒng) 華為手表或將支持情緒健康監(jiān)
- 沃爾瑪?shù)娜斯ぶ悄芰闶鄣暌严蚬婇_放
- AI大模型讓智慧交通“更聰明” 海信亮相2024世界人工智能大
- 百度:智能云業(yè)務Q1營收47億元,生成式AI貢獻比例達6.9%
- 三星5G毫米波設備下載速度達10公里間距1.75Gbps 歷史最高