AI運算效能大躍進 黃仁勳：輝達新一代晶片已全面量產

記者黃仁杰／編譯

輝達(NVIDIA)執行長黃仁勳表示，輝達新一代 AI 晶片已進入「全面量產」階段，運算效能在處理聊天機器人與各類人工智慧應用時，較前一代晶片提升約 5 倍。

黃仁勳是在美國拉斯維加斯舉行的消費性電子展 CES 上發表上述談話。他同時揭露，新一代晶片預計於今年稍晚正式推出，目前已在輝達實驗室中，交由多家 AI 業者進行測試。在 AI 晶片市場競爭日益激烈、且部分客戶加速發展自研晶片的背景下，輝達正面臨來自競爭對手與客戶雙重壓力。

輝達指出，新平台「Vera Rubin」由 6 顆不同晶片組成，旗艦伺服器將搭載 72 顆 GPU 與 36 顆新一代 CPU。黃仁勳在演講中展示，該平台可進一步串接成超過 1,000 顆 Rubin 晶片的「運算叢集（pods）」，在生成 AI 系統所需的「token」效率上，可提升約 10 倍。

黃仁勳也透露，Rubin 晶片採用了輝達自有的資料格式與技術，藉此實現效能大幅提升，並期盼該技術未來能成為產業標準。他指出，雖然新晶片的電晶體數量僅增加約 1.6 倍，但仍能帶來跨世代的效能飛躍。

儘管輝達在 AI 模型訓練市場仍具主導地位，但在 AI 應用部署與推論領域，競爭已明顯升溫。對手不僅包括超微 等傳統晶片廠，也涵蓋 Google 等自行開發 AI 晶片的雲端服務業者。黃仁勳此次演說，也將重點放在新晶片如何提升大規模 AI 應用的執行效率。

在技術層面，輝達同步揭露一項名為「情境記憶體儲存（context memory storage）」的新儲存層，目標是協助聊天機器人在面對長時間對話或複雜問題時，提供更即時、順暢的回應。

輝達也發表新一代網路交換器，導入「共同封裝光學（co-packaged optics）」技術，用於串聯成千上萬台伺服器，與博通、思科的相關產品形成競爭。

在客戶採用方面，輝達表示，CoreWeave 將成為首批導入 Vera Rubin 系統的業者，並預期微軟、甲骨文、亞馬遜 與 Alphabet 等雲端巨頭也將跟進採用。

在其他發表中，黃仁勳亦介紹可支援自駕車決策的新軟體，能在車輛選擇行進路徑時，同步留下可供工程師回溯的決策紀錄。該套名為「Alpamayo」的軟體，輝達已於去年展示相關研究成果，並計畫進一步對外釋出，同時開放訓練資料，協助車廠進行驗證與評估。黃仁勳強調，唯有模型與資料同時開源，才能真正建立對 AI 系統的信任。

此外，輝達上月也透過收購新創公司 Groq 的相關人才與晶片技術，進一步強化研發布局。Groq 團隊中，包含曾協助 Google 設計自研 AI 晶片的關鍵高層。黃仁勳在與分析師的問答中表示，相關交易不會影響輝達核心業務，但可能催生新的產品線。

針對中國市場，黃仁勳也表示，輝達 H200 晶片在中國需求仍然強勁。該晶片為川普允許出口至中國。輝達財務長 Colette Kress 補充，公司已向美國及其他政府申請相關出口許可，目前仍在等待核准。

來源：路透社