Google發表AI超大型電腦 整合第8代TPU、輝達Rubin與Axion處理器

記者彭夢竺/編譯

在Google Cloud Next 26大會上,Google正式宣布推出「AI超大型電腦(AI Hypercomputer)」,整合了自研的TPUv8系列、Axion Cloud CPU以及輝達最新的Rubin GPU,目的在為代理型AI時代提供最強大的算力支撐。Google強調,傳統超級電腦的時代已經過去,未來的核心將是能提供極致靈活性與效能的超大型運算架構。

在Google Cloud Next 26大會上,Google宣布推出「AI超大型電腦(AI Hypercomputer)」。(圖/Google提供)
在Google Cloud Next 26大會上,Google宣布推出「AI超大型電腦(AI Hypercomputer)」。(圖/Google提供)

TPU 8t訓練強者與TPU 8i推論尖兵

Google同步發表了第8代TPU系列,並針對不同需求推出2款晶片。

TPU 8t(訓練優化):專為大規模訓練設計,能將前沿模型的部署時間從數月縮短至數週,單一Pod的FP4算力達121 Exaflops,為前代產品Ironwood的2.84倍。具備9,600顆晶片的擴展規模,並支援2 PB的共享高頻寬記憶體(HBM)。

TPU 8i(推論優化):配備驚人的288 GB HBM記憶體與384 MB片上SRAM(容量提升3倍),讓模型能完全駐留在晶片上運行, FP8總算力達331.8 Exaflops,推論效能較前代提升6.74倍。

更多科技工作請上科技專區:https://techplus.1111.com.tw/
科技社群討論區:https://pei.com.tw/feed/c/tech-plus

全面導入自研Axion CPU與輝達Rubin GPU

為了提升效率,Google在伺服器中將物理CPU主機數量翻倍,並全面採用自研的Axion Arm架構CPU,其價位效能比優於傳統x86架構100%。

此外,Google宣布將成為首批提供輝達Vera Rubin NVL72系統的雲端供應商,並結合Google全新的Virgo網路技術,構建可容納數十萬個加速器的超大型叢集。

Virgo網路與儲存創新 打破算力瓶頸

在網路與儲存層面,Google推出了專為AI優化的Virgo網路,能將輝達Rubin或TPU 8t超大型Pod連接成邏輯上的巨型電腦。儲存方面則提升了Managed Lustre效能,透過RDMA技術提供每秒10 TB的吞吐量,並推出具備語義理解能力的「智慧儲存」,為企業知識圖譜奠定基礎。

導入第4代液冷技術 算力成本大幅調降

面對高密度算力產生的熱能,TPU 8t與8i均支援Google第4代液冷技術。在效能表現上,TPU 8t在大規模訓練中的性價比提升了2.7倍,而TPU 8i在處理專家混合(MoE)模型的低延遲目標時,性價比提升了80%。2款晶片的每瓦效能均翻倍成長,對降低AI總體持有成本(TCO)至關重要。

全球頂尖機構採用 奠定代理型AI基礎設施地位

Google的AI超大型電腦已獲得多個重量級客戶採用,包括美國能源部(DOE)、波士頓動力(Boston Dynamics)、Citadel Securities以及Thinking Machine Labs等。

這套整合了自研晶片、高效能網路、先進儲存與液冷技術的硬體架構,正標誌著Google在代理型AI賽道上,已建立起難以撼動的基礎設施優勢。

資料來源:wccftech

Loading

在 Google News 上追蹤我們

發佈留言

Back to top button