AI 晶片荒真相：GPU 沒缺，最卡關的是 HBM 記憶體！

30 秒看重點

• 事件：記憶體巨頭 SK 海力士指出，當前 AI 晶片短缺的最主要瓶頸在於 HBM 記憶體。
• 意義：AI 算力的物理限制已轉移到傳輸頻寬，使 HBM 成為各大科技廠的必爭之地。
• 影響：台積電先進封裝（CoWoS）地位更形穩固，台廠設計 IP 如力旺、創意同步受惠。

為什麼決定 AI 勝負的不是 GPU 而是 HBM？

要讓 AI 模型跑得又快又準，運算晶片與記憶體之間的溝通速度是最大關鍵。過去大家都把焦點放在輝達的 GPU 算力有多強，但當運算速度呈現指數級成長時，傳統記憶體傳輸數據的速度跟不上，就會造成嚴重的「記憶體牆」（Memory Wall）瓶頸，讓強大的 GPU 只能晾在原地等數據。HBM（高頻寬記憶體）就是為了解決這個痛點而生，它透過 3D 堆疊技術，將多層 DRAM 垂直疊合，創造出超寬的數據傳輸通道。

然而，HBM 的製造難度極高，不僅良率難以提升，且每個客戶（如輝達、超微）需要的規格高度定製化，無法像傳統記憶體那樣大量生產囤貨。SK 海力士作為目前 HBM 的市場霸主，明確指出這項技術的開發週期極長。也就是說，即便台積電產能全開，只要 HBM 供貨卡關，AI 伺服器的出貨速度就會被死死卡住。這也解釋了為什麼科技巨頭們如今寧可捧著現金，也要先向韓廠搶下明後年的 HBM 產能產能預訂權。

1. 2024-03：SK海力士率先量產 8 層與 12 層 HBM3E，獨佔輝達主要訂單，奠定霸主地位。
2. 2024-Q3：SK海力士赴美上市路演，宣告 HBM 產能供不應求，產業瓶頸正式由 GPU 轉向記憶體端。
3. 2025-H2：下一代 HBM4 預計導入台積電的先進製程（12奈米/5奈米）作為基礎邏輯晶片，台韓合作關係更趨緊密。

台灣怎麼看這件事？

台灣雖然不直接大量生產 HBM 記憶體顆粒（主要由韓國 SK 海力士、三星及美商美光壟斷），但台灣卻掌握了將 HBM 發揮極致的關鍵鑰匙。HBM 必須與 GPU 進行「異質整合」，這完全仰賴台積電的 CoWoS 先進封裝技術。此外，到了 HBM4 世代，最底部的控制晶片（Base Die）因為需要極高能效，韓廠已決定打破常規，交由台積電代工。這意味著，不論韓廠如何競爭，台積電都是無可取代的贏家。同時，隨著先進製程需求大增，台灣矽智財（IP）大廠如力旺（eMemory）在 3 奈米等先進案源的貢獻也將隨之飆升，台灣在全球 AI 生態系中的護城河只會越挖越深。

編輯觀點

以前大家用「鐵鍬理論」形容台積電是淘金潮中賣鏟子的人，現在看來，HBM 就是那把鏟子上的鋼鐵手把，沒有它，鏟子根本使不上力。SK 海力士的表態無疑戳破了市場對於「AI 泡沫化」的部分質疑，因為限制產出的不是需求，而是實體物理的產能極限。對投資人而言，關注 AI 的焦點必須從單純的晶片設計，擴大到封裝、散熱與 HBM 生產鏈，這才是未來兩年利潤率最高的黃金賽道。

常見問題

什麼是 HBM？它跟一般記憶體差在哪？

HBM 是「高頻寬記憶體」，利用 3D 堆疊技術把好幾層 DRAM 像大樓一樣蓋起來，並用垂直電極連接，傳輸速度比傳統記憶體快上數倍，專為處理 AI 龐大數據而生。

為什麼現在 AI 晶片最缺的是 HBM 而非 GPU？

因為 GPU 運算速度極快，如果記憶體傳輸速度不夠，就會產生塞車（記憶體牆）。HBM 製造工藝極其複雜、良率低且需高度定製，導致產能增長速度遠跟不上 GPU 的需求。

台灣在這波 HBM 熱潮中能分到什麼好處？

台灣雖不產 HBM，但台積電是唯一能把 GPU 和 HBM 封裝在一起（CoWoS）的廠商，且下一代 HBM4 的底部邏輯晶片將交由台積電製造，台廠供應鏈是不可或缺的隱形盟友。

HBM 的供需失衡狀況預計會持續到什麼時候？

根據 SK 海力士等大廠的產能規劃與路演說法，由於研發與建廠週期長達 10 個月以上，HBM 供不應求的狀況至少會持續到 2025 年底。

這對台灣的 AI 概念股與 ETF 有什麼影響？

這代表 AI 的剛性需求依舊強勁，含有台積電、先進製程 IP（如力旺、創意）以及先進封裝設備股的 AI 主題 ETF，長期基本面將獲得強力支撐。

名詞小教室

HBM (高頻寬記憶體)

想像傳統記憶體是「單線道平面道路」，HBM 就是「3D立體的多線道高架橋」，能讓龐大的 AI 數據洪流在瞬間抵達處理器，不卡關。

CoWoS 封裝

台積電的晶片封裝絕活，就像是極其精密的「積木膠水」，把運算晶片（GPU）和記憶體（HBM）緊緊貼在同一個基板上，確保它們傳輸零時差。