華為云發(fā)布AI原生云基礎(chǔ)設(shè)施架構(gòu)CloudMatrix,新一代昇騰AI云服務(wù)將于年底上線
如今,AI算力需求高速增長,正在超越對通用算力的需求。構(gòu)建彈性、高效的多元算力基礎(chǔ)設(shè)施是AI發(fā)展的關(guān)鍵。為了進一步提升AI原生基礎(chǔ)設(shè)施的效能,華為云推出AI原生云基礎(chǔ)設(shè)施CloudMatrix,將CPU、NPU、DPU、存儲和內(nèi)存等資源全部互聯(lián)和池化,構(gòu)建“一切可池化、一切皆對等、一切可組合”的分布式對等全互聯(lián)架構(gòu),實現(xiàn)了單體算力向矩陣算力的演進,為客戶提供澎湃的AI算力。
一切可池化:華為通過CPU、NPU為客戶提供通用計算和智能計算。同時,華為云分布式QingTian技術(shù)幫助突破單服務(wù)器的能力邊界,將服務(wù)器內(nèi)的CPU、NPU、DPU、存儲和內(nèi)存等多樣資源的統(tǒng)一池化并靈活配置,以此形成大規(guī)模、緊耦合的多元算力池化架構(gòu),算力得到大幅提升。
一切皆對等:CloudMatrix通過超高帶寬ScaleUp網(wǎng)絡(luò)從“傳統(tǒng)以太網(wǎng)”向“共享總線以太網(wǎng)”演進,實現(xiàn)池化算力的高速互聯(lián),同時通過自適應(yīng)拓?fù)涓兄蚱萍壕性度瓶頸。能夠降大模型訓(xùn)練集群的線性度提升至95%,網(wǎng)絡(luò)故障分鐘級恢復(fù)。
一切可組合:在統(tǒng)一多元算力邏輯池化、高速全對等互聯(lián)的基礎(chǔ)上,通過瑤光智能云腦對云上資源進行多元算力統(tǒng)一建模、靈活調(diào)度組合,按需提供給應(yīng)用。覆蓋大模型和小模型的訓(xùn)練和推理,同時,還能夠用在數(shù)據(jù)分析、媒體內(nèi)容生成等更多應(yīng)用場景。
華為云宣布,基于CloudMatrix的新一代昇騰AI云服務(wù)將于年底上線。
網(wǎng)友評論
智能應(yīng)用排行
- 新國標(biāo),新認(rèn)證,新中式—2024年新中式廚房電器-廢棄食物處
- 蘋果官方認(rèn)可“越獄”術(shù)語:特殊版iPhone罕見現(xiàn)身 用于查找
- 釘釘公布數(shù)據(jù):用戶數(shù)7億 軟件付費企業(yè)數(shù)12萬
- 沃爾瑪?shù)娜斯ぶ悄芰闶鄣暌严蚬婇_放
- 百度:智能云業(yè)務(wù)Q1營收47億元,生成式AI貢獻比例達6.9%
- 華為運動健康發(fā)布玄璣感知系統(tǒng) 華為手表或?qū)⒅С智榫w健康監(jiān)
- 部分AI系統(tǒng)已學(xué)會欺騙人類
- 科大訊飛發(fā)布首個長文本、長圖文、長語音大模型,安卓端App
- 三星5G毫米波設(shè)備下載速度達10公里間距1.75Gbps 歷史最高
最新智能應(yīng)用
- 華為云發(fā)布AI原生云基礎(chǔ)設(shè)施架構(gòu)CloudMatrix,新
- 阿里CEO吳泳銘:AI算力需求滲透率已超50%,正主導(dǎo)
- 羅技發(fā)布 G PRO 2 LIGHTSPEED(GPW4 朱雀)
- 華為:將啟動“鴻蒙生態(tài)伙伴及開發(fā)者見非凡體驗計
- 華為運動健康發(fā)布玄璣感知系統(tǒng) 華為手表或?qū)⒅С?/a>
- 開啟穿戴設(shè)備未來十年之承,華為正式發(fā)布玄璣感知
- 新國標(biāo),新認(rèn)證,新中式—2024年新中式廚房電器-
- 人形機器人元年來了?大咖眼中的能與不能
- “上下游”成“左右鄰” 北京亦莊加速構(gòu)建融
- 豆包上線音樂生成,用戶可一鍵生成詞曲