美光192GB SOCAMM2模組完成送樣 低功耗DRAM強攻AI伺服器市場

記者孫敬/台北報導

記憶體大廠美光(Micron),23日宣布已向客戶送樣192GB SOCAMM2(小型壓縮附加記憶體模組),主要針對其先前發表的LPDRAM SOCAMM設計的功能強化版,在維持相同尺寸規格的前提下,成功將模組容量提升了50%。

另外,在即時推論工作負載中,例如生成式AI應用,首個Token生成的時間(TTFT)能大幅縮減超過80%。

延伸閱讀:NextSilicon發表RISC-V架構CPU 對標英特爾、AMD與輝達晶片

美光
SOCAMM2鎖定低功耗記憶體在AI資料中心內的應用版圖。(圖/美光)

美光SOCAMM2記憶體容量與能效雙重突破

美光表示,這款192GB SOCAMM2採用美光最先進的1γ (1-gamma) DRAM製程技術,使能源效率提升超過20%、單一模組容量達192GB、傳輸速度為9.6 Gbps,後續量產作業將配合客戶的產品推出時程規劃。

SOCAMM2採用模組化設計,使得全機櫃式AI部署環境可配置超過40TB的CPU直連低功耗DRAM主記憶體,不僅在性能與節能表現有所提升,同時也為資料中心提供了所需的維修便利性,並為未來的容量擴展奠定了可靠的基礎。

Micron SOCAMM2
美光SOCAMM2產品圖。(圖/美光)

相較於同等級的RDIMM,SOCAMM2的能源效率提升逾三分之二 ;同時將高效能濃縮於體積僅三分之一的模組中,有效提升資料中心的空間利用率,並最大化容量與頻寬。SOCAMM採用模組化設計與創新堆疊技術,提高系統維修便利性,有助於液冷伺服器的設計。

美光資深副總裁暨雲端記憶體事業部總經理 Raj Narasimhan 表示:「隨著AI工作負載日益複雜且需求更嚴苛,資料中心伺服器必須提高效率,在每瓦功耗下產出更多tokens。美光能確保SOCAMM2模組具備卓越的資料傳輸量、能源效率、大容量,同時保有資料中心所需的頂尖品質。」

Loading

在 Google News 上追蹤我們

發佈留言

Back to top button