【科技小辭典】HBM高頻寬記憶體是什麼?開啟半導體產業新一輪競爭

記者彭夢竺/整理報導

隨著AI時代來臨,HBM(High Bandwidth Memory,高頻寬記憶體)已經成為全球科技巨頭關注的焦點,輝達NVIDIA)執行長黃仁勳多次在公開場合強調HBM對AI算力的重要性。到底什麼是HBM呢?《科技島》整理給大家。

HBM是一種先進的記憶體技術,通常應用在需要大量資料處理和高速存取的場景。(圖/123RF)
HBM是一種先進的記憶體技術,通常應用在需要大量資料處理和高速存取的場景。(圖/123RF)

HBM是一種先進的記憶體技術,主要設計目的是為了提供比傳統DRAM(如DDR4、DDR5)更高的資料傳輸速度和更低的功耗。它通常應用在需要大量資料處理和高速存取的場景,像是AI與機器學習(AI/ML)、高效能運算(HPC)、圖形處理單元(GPU)、資料中心與伺服器。

HBM的核心特色

3D堆疊設計:將多層DRAM晶片垂直堆疊,並利用TSV(Through-Silicon Via,矽穿孔)技術進行高速連接,實現極高的資料傳輸頻寬。

高頻寬、低功耗:比傳統DRAM(如DDR、GDDR)有數倍甚至十倍以上的頻寬,且功耗更低,特別適合AI大模型、大數據運算等需要大量資料即時傳輸的場景。

體積小、密度高:垂直堆疊設計讓單一封裝內可容納更多記憶體容量,且佔用空間更小,有助於設備輕薄化。

HBM最早由三星、SK海力士、AMD等公司共同推動,2013年被JEDEC制定為業界標準。首批應用於AMD Radeon Fury顯示卡,後來廣泛用於NVIDIA、AMD、Intel等AI與高效能運算晶片。
(註:JEDEC是固態及半導體工業界的一個標準化組織,約3300名技術人員通過50個不同的委員會運作,制定固態電子方面的工業標準。)

HBM最早由三星、SK海力士、AMD等公司共同推動。(圖/123RF)
HBM最早由三星、SK海力士、AMD等公司共同推動。(圖/123RF)

HBM主要公司及市場分布

隨著AI和高效能運算(HPC)需求的快速增長,HBM市場預計將持續擴大。根據TrendForce的報告,2025年全球HBM產能將達到每月約54萬片晶圓,年增率超過 100% 。

SK海力士:市佔率約70%
SK海力士在HBM領域的技術創新和早期布局使他們獲得顯著領先,特別是在滿足輝達等主要客戶對功耗和散熱的高標準要求方面表現出色。

三星:市佔率約30%上下
三星過去在先進封裝技術和產品設計上偏向保守,較強調成本而忽略功耗與熱量管理。不過,三星已計畫在2025 年第一季推出修訂版的HBM3e技術,並著重優化底層介面晶片的邏輯電路,以改善功耗與散熱性能。

美光科技:市佔率約5.1%
美光正積極提升其HBM產能,目標在2025年將市佔率提升至20-25%。他們採取跳過HBM3直接進入HBM3e的策略,並已成功向輝達的H200 GPU供應 HBM3e。
(註:以上市佔率是綜合Counterpoint Research和TrendForce截至2025年第一季的數據。)

科技巨頭積極搶進

輝達的的H100、H200、B100、GB200等AI GPU均採用HBM作為關鍵記憶體。AMD則是最早期HBM的推動者與應用者,Radeon Fury、MI300等高端GPU都採用HBM。

Google、Meta、微軟等雲端企業也都在自家AI伺服器、雲端運算平台大量採購HBM GPU,並公開表示HBM是AI基礎設施升級的關鍵。

Naver、Tesla等等電動車汽車產業也逐步導入HBM以支援即時AI運算。

隨著AI和高效能運算(HPC)需求增長,HBM市場預計將持續擴大。(圖/123RF)
隨著AI和高效能運算(HPC)需求增長,HBM市場預計將持續擴大。(圖/123RF)

台灣與全球供應鏈

2023年全球HBM市場規模約50億美元,預計到2027年將成長至150億美元。在台灣部分,台積電與SK海力士合作,提供CoWoS先進封裝,支援HBM堆疊。

力成、日月光、欣興、南電則是台灣先進封裝、載板、測試設備供應商,積極投入HBM相關產線。

記憶體廠商方面,南亞科、華邦電、旺宏、愛普、鈺創等公司部分已重啟或投入HBM技術開發,並與國研院半導體中心合作新型3D DRAM/HBM製程。至於應用材料,則是提供HBM製造所需的先進材料工程與設備,支援TSV、微凸塊等製程。

擴產與技術升級

由於AI伺服器、超大語言模型(如GPT-4)對記憶體頻寬需求爆炸,HBM高頻寬記憶體已成為AI與高效能運算時代的核心技術,產能供不應求,預計2025到2026年仍將維持緊繃狀態。

目前SK海力士、三星、美光正積極擴產與技術升級,台積電與台灣封裝、載板廠商也深度參與供應鏈。隨著AI應用爆發,HBM將持續帶動半導體產業新一輪競爭與成長。

瀏覽 109 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button