7月15日消息,全球AI基礎設施企業(yè)TensorWave宣布,首個速已經完成了北美地區(qū)最大AI訓練基地的直觸最建設與部署,采用了多達8192塊AMD Instinct MI325X AI加速卡。液冷
同時,北美這也是訓練顯存全球首個已公開的采用直觸液冷散熱的大型AI數據中心。
AMD MI325X是基地X加去年剛剛發(fā)布的,采用5nm制造工藝,配備擁有304個計算單元(19456個核心)、全球1530億個晶體管,首個速FP8精度算力2.6千萬億次計算每秒,直觸最搭配256GB HBM3E高帶寬內存(顯存),液冷帶寬6TB/s。北美
雖然AMD最新發(fā)布了MI350X、訓練顯存MI355X,基地X加但部署尚需時日,MI325X仍然是已落地的最先進的AMD AI加速卡。
8192塊放在一個系統(tǒng)內,總的核心數就到了幾乎1.6億個,F(xiàn)P8性能達到恐怖的2100億億次浮點每秒。
同時,顯存總容量多達2048TB,總帶寬超過2PB/s!
單卡功耗就有1000W,滿載情況下一個小時就是8000多度電,確實需要配液冷,所有節(jié)點的GPU都使用了TensorWave自有的芯片直觸液冷循環(huán)系統(tǒng),確保高效帶走熱量。
這套系統(tǒng)將以云服務的方式,對外提供租賃服務。
這還只是TensorWave更宏大工程的第一階段,預計今年晚些時候引入AMD MI350X,支持FP4/FP6格式,性能和帶寬更猛,但功耗也將最高達到1400W。
本文來源:http://www.cx2088.cn/news/05f24199753.html
版權聲明:本文內容由互聯(lián)網用戶自發(fā)貢獻,該文觀點僅代表作者本人。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。如發(fā)現(xiàn)本站有涉嫌抄襲侵權/違法違規(guī)的內容,請發(fā)送郵件舉報,一經查實,本站將立刻刪除。