摩根士丹利最新報告：輝達GB200穩居AI霸主 效能、獲利完勝AMD

記者孫敬／編譯

隨著GPU經濟學日益成為金融圈的熱門話題，華爾街巨頭摩根士丹利（Morgan Stanley）報告指出，在大型AI資料中心中，輝達（NVIDIA）的GB200 NVL72 GPU具有高經濟效益。

舉例來說，一份NVL72 AI機櫃，包含72個輝達B200 GPU和36 個 Grace CPU，這些元件透過NVLink 5高頻寬、低延遲的互連技術連接。雖然每個機櫃成本高達310萬美元，遠高於上一代H100機櫃的19萬美元，但摩根士丹利認為，從經濟角度來看，選擇輝達最新一代的機櫃規模產品，比舊款H100更具意義。

延伸閱讀：量子運算結合AI！IBM與AMD合作打造「量子中心超級電腦」新世代

AMD平台竟虧損，高總成本反而最賺錢？

根據摩根士丹利的計算，輝達的GB200 NVL72營收和利潤方面的表現遙遙領先，緊追其後的是Google的TPU v6e陣列（pod）。具體而言，一個100MW（百萬瓦）的AI資料中心，若採用輝達的GB200 NVL72，可實現77.6%利潤率。Googl的TPU v6e則以74.9%的利潤率緊追在後。雖然Google TPU v6e的租賃價格通常比NVL72低了40%到50%，但利潤率仍略遜一籌。

意外的是，採用超微（AMD）MI300和MI355平台的AI資料中心，反而會出現負利潤率，分別為-28.2%和-64%。

以上數據來自摩根士丹利做出的假設，一個100MW的AI資料中心，基礎設施成本為6.6億美元，並以十年攤提。GPU成本則從低端的3.67億美元到高端的22.73億美元不等，並以四年攤提。最終，銀行透過考量不同散熱系統的能源效率和全球平均電價，計算出其營運成本。

有趣的是，從總體擁有成本（Total Cost of Ownership, TCO）來看，輝達的GB200 NVL72系統以8.0658億美元的成本位居最高，其次是AMD的MI355X平台，成本為7.7411億美元。

資料來源：Wccftech