輝達與AWS深化合作 雲端自研晶片全面接軌AI垂直架構

記者黃仁杰／台北報導

輝達（NVIDIA） 與 Amazon Web Services（AWS）在 AWS re:Invent 大會上宣布擴大全面合作，將把 NVIDIA 最新的晶片互連技術 NVLink Fusion，導入 AWS 自研晶片與雲端架構中，打造更快、更高效的 AI 運算平台。

NVLink Fusion 是一種讓多顆晶片之間能以高速交換資料的技術，原本多用在 NVIDIA 的 GPU 上。AWS 這次首次將它整合進自家處理器，包括用於 AI 訓練與推論的下一代 Trainium4、處理一般運算工作的Graviton CPU、以及雲端虛擬化基礎 Nitro System。藉由這項整合，AWS 的晶片之間能以更快速度協同運算，可望縮短大模型訓練時間並提升能源效率。

AWS 也將擴大採用 NVIDIA 最新的 Blackwell 架構 GPU，包括 HGX B300 與 GB300 NVL72，作為未來雲端運算的核心硬體。這些 GPU 將支撐 AWS 即將推出的「AI Factories」服務，協助企業在自有資料中心內部署由 AWS 維運的專用 AI 環境，在符合資料主權規範的前提下使用最先進的 AI 能力。這對政府機構和對資料保護要求高的產業尤具吸引力。

在軟體整合方面，NVIDIA 的開放模型 Nemotron 已納入 Amazon Bedrock，企業可直接在 Bedrock 上使用 NVIDIA 的文本、影像與影片模型，無須自行管理硬體資源。同時，AWS 的 OpenSearch 服務也加入 NVIDIA cuVS GPU 加速技術，使向量索引速度可提升至原本的 10 倍，成本降低至四分之一，大幅強化 RAG 等生成式 AI 應用。

雙方也將合作延伸至機器人領域。NVIDIA 的 Cosmos 世界基礎模型與 Isaac Sim 模擬環境如今可在 AWS 上運行，讓機器人公司能以更大規模蒐集資料、模擬場景與驗證動作。Agility Robotics、ANYbotics 等國際機器人公司已開始採用這套架構加速開發週期。

NVIDIA 執行長黃仁勳表示，AI 應用越來越廣，全球對高效運算的需求正快速飆升，與 AWS 的整合將協助企業更快取得先進的 AI 能力。AWS 執行長 Matt Garman 則說，雙方合作已超過 15 年，此次整合將為客戶帶來更高效、更具擴充性的 AI 平台。