美光推出全球首款256GB SOCAMM2記憶體模組 瞄準代理式AI運算需求

記者黃仁杰／編譯

記憶體大廠美光（Micron）宣布推出新一代 SOCAMM2 記憶體模組，單模組容量提升至 256GB，被稱為「全球首款」達到此容量規格的產品，主打更高效能與更低功耗，鎖定快速升溫的 Agentic AI（代理式 AI）應用浪潮。

隨著 AI 應用層持續擴展，推論與長上下文（long-context）運算規模快速放大，記憶體瓶頸問題日益明顯。因此，包括 HBM 在內的 AI 專用記憶體技術成為 DRAM 廠商研發重點。

美光表示，新一代 SOCAMM2 模組容量提升至 256GB，相較上一代 192GB 大幅提升，為 AI 基礎設施建立新的效能基準。該產品將整合至新一代 AI 伺服器與運算設備中，以緩解 AI 工作負載的記憶體限制。

更多科技工作請上科技專區：https://techplus.1111.com.tw/

在架構方面，美光將 LPDRAM 單一晶片容量提升至 32GB。若搭配 8 通道 CPU 架構，可提供 最高 2TB LPDRAM 容量，讓 AI 伺服器能更順暢處理長上下文推論任務。

美光指出，採用 SOCAMM2 後，長上下文推論的 TTFT（Time-to-First-Token）速度可提升 2.3 倍，有助於降低延遲並提升推論效率，特別適合 Agentic AI 工作負載，這類應用通常需要 CPU 主導的獨立運算能力。

SOCAMM2 記憶體模組是 美光與 NVIDIA 合作開發的產品之一。先前已有消息指出，NVIDIA 新一代 AI 基礎設施平台 Vera Rubin 將成為首批採用 SOCAMM2 標準的系統。

在 AI 計算領域中，記憶體容量與延遲已成為關鍵競爭資產。美光也指出，SOCAMM2 可能占用大量 DRAM 產能，甚至可能壓縮部分 GDDR7 等通用型記憶體的供應。

目前 256GB SOCAMM2 模組樣品已出貨給客戶，並預計在 GTC 2026 大會正式展示。

來源：wccftech