在6月20日舉行的云基于華為開發(fā)者大會2025（HDC 2025）上，華為常務(wù)董事、服務(wù)華為云計算 CEO張平安宣布基于CloudMatrix384超節(jié)點的全面新一代昇騰AI云服務(wù)全面上線，為大模型應(yīng)用提供澎湃算力。上線

隨著大模型訓(xùn)練和推理對算力需求的云基于爆炸式增長，傳統(tǒng)計算架構(gòu)已難以支撐AI技術(shù)的服務(wù)代際躍遷。華為云新一代昇騰AI云服務(wù)基于CloudMatrix384超節(jié)點，全面首創(chuàng)將384顆昇騰NPU和192顆鯤鵬CPU通過全新高速網(wǎng)絡(luò)MatrixLink全對等互聯(lián)，上線形成一臺超級“AI服務(wù)器”，云基于單卡推理吞吐量躍升到2300 Tokens/s。服務(wù)超節(jié)點架構(gòu)能更好地支持混合專家MoE大模型的全面推理，可以實現(xiàn)“一卡一專家”，上線一個超節(jié)點可以支持384個專家并行推理，云基于極大提升效率。服務(wù)同時，全面超節(jié)點還可以支持“一卡一算力任務(wù)”，靈活分配資源，提升任務(wù)并行處理，減少等待，將算力有效使用率（MFU）提升50%以上。

對于萬億、十萬億參數(shù)的大模型訓(xùn)練任務(wù)，在云數(shù)據(jù)中心，還能將432個超節(jié)點級聯(lián)成最高16萬卡的超大集群；同時，超節(jié)點還可以支持訓(xùn)推算力一體部署，如“日推夜訓(xùn)”，訓(xùn)推算力可靈活分配，幫助客戶資源使用最優(yōu)。

張平安表示，昇騰AI云服務(wù)得到了全球客戶、伙伴和開發(fā)者的支持。正是因為他們對華為的堅定信任，才有機會讓昇騰構(gòu)筑起一個比肩巔峰，開創(chuàng)未來的AI算力底座！

新浪與華為云深度合作，基于CloudMatrix384昇騰AI云服務(wù)，為“智慧小浪”智能服務(wù)體系構(gòu)建了統(tǒng)一的推理平臺，底層由昇騰AI算力提供支持。推理的交付效率提升了超過 50%，模型上線速度成倍加快；通過軟硬協(xié)同調(diào)優(yōu)，NPU利用率提升超過40%，每一份資源都得到更高效的使用。

硅基流動正在使用CloudMatrix384超節(jié)點，為數(shù)百萬用戶高效提供DeepSeek V3、R1的推理服務(wù)。面壁智能使用CloudMatrix384超節(jié)點，讓他們的小鋼炮模型的推理業(yè)務(wù)性能得到了2.7倍提升。

在科研領(lǐng)域，中科院基于CloudMatrix384超節(jié)點打造了自己的模型訓(xùn)練框架，快速構(gòu)建了中科院AI for Science科研大模型，擺脫了對國外高性能AI算力平臺的依賴。

在互聯(lián)網(wǎng)領(lǐng)域，360打造的納米AI搜索，為用戶提供超級AI搜索服務(wù)，對AI算力有極大需求，也已開啟了CloudMatrix384超節(jié)點的測試。

當(dāng)前，昇騰AI云服務(wù)已經(jīng)成為AI基礎(chǔ)設(shè)施的最優(yōu)選擇，為超過1300家客戶提供澎湃的AI算力，加速千行萬業(yè)智能化升級。

本文來源：http://www.cx2088.cn/news/5f699988.html

版權(quán)聲明：本文內(nèi)容由互聯(lián)網(wǎng)用戶自發(fā)貢獻(xiàn)，該文觀點僅代表作者本人。本站僅提供信息存儲空間服務(wù)，不擁有所有權(quán)，不承擔(dān)相關(guān)法律責(zé)任。如發(fā)現(xiàn)本站有涉嫌抄襲侵權(quán)/違法違規(guī)的內(nèi)容，請發(fā)送郵件舉報，一經(jīng)查實，本站將立刻刪除。