英特爾新一代GPU「D系列」攻推論市場！單卡記憶體達480G、支援3千億參數模型　

記者黃仁杰／台北報導

隨著代理式AI（Agentic AI）逐漸從單一問答走向多步驟任務執行，資料中心對運算效能、記憶體容量及能源效率的需求持續攀升。英特爾今（13）日於開放運算計畫（Open Compute Project，OCP）全球峰會上，公布新一代Intel GPU D系列（代號Crescent Island）的技術規格，同時展示採用Xeon處理器的新款機櫃設計，透過CPU、GPU及開放式軟體整合，布局大規模AI推論市場。

英特爾此次發布的重點之一，是專為記憶體密集型AI推論設計的GPU D系列。該產品採用最新Xe3P架構，在350瓦功耗下，最高可搭載480GB LPDDR5X記憶體，提供1.5TB/s記憶體頻寬，以及1.3 PFLOPS的FP8運算效能。

在模型支援能力方面，單張GPU卡可支援多達3千億個參數的模型，搭載8張GPU的系統則可支援超過1兆個參數的模型，鎖定大型語言模型、長上下文處理、多租戶AI服務及機器人等應用。

與需要特殊機櫃及液冷設備的AI加速系統不同，GPU D系列採用標準PCIe規格與氣冷式設計，可部署於既有資料中心環境，降低企業導入AI推論運算的基礎設施門檻。

英特爾資料中心事業群AI產品與市場策略副總裁Anil Nanduri表示，推論正逐漸成為AI主要的工作負載，企業需要在效能與成本之間取得平衡。GPU D系列的設計方向，便是讓高記憶體容量的推論系統更容易部署，同時改善大規模運作的成本效益。

目前GPU D系列已開始提供客戶樣品，英特爾也正與OEM、ODM、新世代雲端服務業者（neocloud）及軟體供應商合作，推動相關平台與部署方案。

代理式AI推升CPU需求 Xeon 6+單機櫃核心數突破4.6萬

除了GPU加速器，英特爾也將Xeon處理器定位為代理式AI基礎架構的重要運算核心。相較於傳統生成式AI主要著重模型推論與內容生成，代理式AI需要處理資訊檢索、任務規劃、工具呼叫、資料傳輸及多個AI代理之間的協調，使CPU在整體系統中的角色更加重要。

英特爾此次展示與合作夥伴共同開發的新款Xeon機櫃設計，其中多款採用OCP Open Rack v3（ORv3）標準，以利整合至開放式資料中心架構。

在運算密度方面，部分Xeon 6+配置可讓單一機櫃搭載超過46,000個CPU核心，整體機櫃功耗為133.45kW，藉此滿足大規模代理式AI工作流程的通用運算需求。

英特爾認為，隨著AI代理應用日益普及，資料中心的效能評估方式也將出現變化。除了GPU運算能力，未來還需要衡量單一機櫃在符合延遲要求的情況下，能同時支援多少個AI代理運作。

在這類架構中，Xeon主要負責工作負載協調、資料處理、I/O管理及任務執行，GPU則處理大型模型推論，兩者透過分工提升整體系統的資源利用率。

強化開放式軟體布局 降低企業AI部署門檻

在硬體之外，英特爾也持續擴大開放式AI軟體生態系，讓企業能在不同CPU與GPU平台之間部署AI工作負載。

GPU D系列採用共通的Xe軟體基礎，支援不同Intel GPU平台間的應用程式移植，開發人員可重複使用既有程式，減少導入新硬體時所需的調整。

英特爾也持續整合主流AI框架、推論服務引擎及開發工具，並透過效能函式庫與可程式化軟體層，最佳化AI推論吞吐量。

針對開放式AI模型，英特爾正推動新模型發布時同步提供硬體支援，包括近期Meta推出的Muse Glimmer，便在發布首日獲得英特爾平台支援。

此外，英特爾針對企業代理式AI應用推出的Intel AI for Enterprise Agent Toolkit，目前已針對Xeon處理器完成最佳化，可支援企業部署涉及任務協調與工具使用的AI代理工作流程，未來也可延伸至Intel GPU平台。

推動開放式機櫃與加速器標準 布局異質AI架構

在資料中心系統設計方面，英特爾持續參與OCP開放運算計畫，並與產業夥伴推動機櫃及加速器標準化。

英特爾表示，自2011年以來，已向OCP貢獻116項成果。今年則進一步展示與Open Adapter Card工作小組共同制定的標準化加速器卡規格，涵蓋機構、電氣及管理介面，希望提升不同加速器與機櫃系統之間的互通性。

透過標準化設計，系統業者與雲端服務供應商可在既有資料中心架構中導入不同運算設備，不必因更換加速器而全面重新設計機櫃。

英特爾資料中心事業群執行副總裁暨總經理Kevork Kechichian表示，代理式AI正在改變企業對資料中心的需求，未來AI基礎架構將不再只依賴單一運算元件，而是需要結合Xeon處理器、專用加速器及可互通軟體的異質運算架構。