華為云發(fā)布AI原生云基礎設施架構CloudMatrix，新一代昇騰AI云服務(wù)將于年底上線(xiàn)

新浪科技訊 9月20日下午消息，在華為全聯(lián)接大會(huì )2024上，華為云發(fā)布AI原生云基礎設施架構CloudMatrix，以滿(mǎn)足AI時(shí)代企業(yè)對于算力的大規模、高效穩定、彈性靈活的需求。

如今，AI算力需求高速增長(cháng)，正在超越對通用算力的需求。構建彈性、高效的多元算力基礎設施是AI發(fā)展的關(guān)鍵。為了進(jìn)一步提升AI原生基礎設施的效能，華為云推出AI原生云基礎設施CloudMatrix，將CPU、NPU、DPU、存儲和內存等資源全部互聯(lián)和池化，構建“一切可池化、一切皆對等、一切可組合”的分布式對等全互聯(lián)架構，實(shí)現了單體算力向矩陣算力的演進(jìn)，為客戶(hù)提供澎湃的AI算力。

一切可池化：華為通過(guò)CPU、NPU為客戶(hù)提供通用計算和智能計算。同時(shí)，華為云分布式QingTian技術(shù)幫助突破單服務(wù)器的能力邊界，將服務(wù)器內的CPU、NPU、DPU、存儲和內存等多樣資源的統一池化并靈活配置，以此形成大規模、緊耦合的多元算力池化架構，算力得到大幅提升。

一切皆對等：CloudMatrix通過(guò)超高帶寬ScaleUp網(wǎng)絡(luò )從“傳統以太網(wǎng)”向“共享總線(xiàn)以太網(wǎng)”演進(jìn)，實(shí)現池化算力的高速互聯(lián)，同時(shí)通過(guò)自適應拓撲感知打破集群線(xiàn)性度瓶頸。能夠降大模型訓練集群的線(xiàn)性度提升至95%，網(wǎng)絡(luò )故障分鐘級恢復。

一切可組合：在統一多元算力邏輯池化、高速全對等互聯(lián)的基礎上，通過(guò)瑤光智能云腦對云上資源進(jìn)行多元算力統一建模、靈活調度組合，按需提供給應用。覆蓋大模型和小模型的訓練和推理，同時(shí)，還能夠用在數據分析、媒體內容生成等更多應用場(chǎng)景。

華為云宣布，基于CloudMatrix的新一代昇騰AI云服務(wù)將于年底上線(xiàn)。

021yin.com