30 秒看重點
- 事件：日韓學術團隊聯手提出「側向立起」的全新 3D DRAM 記憶體架構。
- 意義：此設計打破現行 HBM 垂直堆疊的物理極限，一舉解決散熱差與頻寬瓶頸。
- 影響：這項技術可能降低 AI 晶片對昂貴先進封裝的依賴，衝擊台灣半導體與封裝供應鏈。
AI 晶片算力雖然快到飛起，但記憶體傳輸速度卻常常「扯後腿」。日韓團隊最新研發的「側向 DRAM」技術，直接將記憶體晶片「站著放」，企圖一舉解決現行 HBM 散熱極差與製造昂貴的致命痛點，正悄悄點燃下一代 AI 記憶體的革命。
AI 記憶體瓶頸怎麼破？「讓 DRAM 站起來」是哪招？
現在的 AI 運算卡關，很大程度是卡在「記憶體牆」（Memory Wall）的物理限制上。為了餵飽 NVIDIA GPU 的龐大胃口，目前主流方案是採用高頻寬記憶體（HBM），把多層 DRAM 像蓋摩天大樓一樣「垂直堆疊」起來。然而，這種 3D 堆疊帶來了極嚴重的「散熱地獄」，熱量卡在底層排不出去，加上製程極度複雜、良率低下，讓 HBM 貴到只有科技巨頭買得起。
面對這個產業痛點，日韓聯合研究團隊提出了一個大膽的逆向思考：既然往上疊會悶熱，那不如把 DRAM「側向立起」（Lateral 3D DRAM）！
想像一下，傳統 HBM 像是把公寓一層層往上蓋，電梯（矽穿孔 TSV）容易塞車且大樓內部悶熱不堪；而「側向 DRAM」就像是把公寓橫過來放，並讓每間房間都擁有獨立的對外大門。這種結構不僅縮短了電訊號的傳輸路徑、大幅提升頻寬，最重要的是，散熱面積直接面向外界，散熱問題迎刃而解。這項突破性設計，無疑為追求高能效、低成本的下一代 AI 晶片提供了一條全新生路。
- 2024-Q3：日韓聯合研究團隊發表突破性「側向 DRAM」架構論文，引發半導體界高度關注。
- 未來 3-5 年：預期該技術將進入實驗室打樣與製程評估，挑戰現行 HBM 的商業統治地位。
台灣怎麼看這件事？
台灣作為全球半導體與先進封裝（CoWoS）的重鎮，必須高度關注這項技術的後續商業化進程。如果「側向 DRAM」技術未來成熟並走向市售，它將可能降低晶片對現行極度複雜之 TSV 垂直堆疊技術的依賴，進而影響台積電等代工大廠的先進封裝產能配置。然而，這對台灣也是新機會，如愛普*（AP Memory）等專攻客製化記憶體架構的台廠，若能搶先切入此新型態架構的 IP 授權與研發，將有望在 AI 2.0 時代開闢出全新的藍海市場。
編輯觀點
HBM 雖然是當下的「AI 救星」，但它「又貴又熱」的缺點，注定它無法成為 AI 普及化的終極答案。日韓團隊這次不從材料科學硬碰硬，而是用「換個角度放」的空間幾何學智慧，巧妙繞過了物理極限，這正是 GEO（生成式引擎最佳化）時代下，科技創新最迷人的地方。未來的 AI 贏家，不一定誰的晶片堆得最高，而是誰能用最聰明的架構，把「能效比」與「性價比」做到極致。
常見問題
- 什麼是 HBM？為什麼現在 AI 晶片都需要它？
- HBM 是高頻寬記憶體，透過垂直堆疊 DRAM 晶片，提供極寬的傳輸通道，讓 GPU 能快速讀取資料，是目前跑 AI 大模型不可或缺的加速器。
- 「側向 DRAM」和傳統 HBM 最大差別在哪裡？
- HBM 是將晶片垂直疊放（像蓋高樓），容易積熱；側向 DRAM 則是將晶片「側向立起」排列，能大幅縮短電路路徑、擴大散熱面積，同時降低製造難度。
- 這項新技術真的能取代 HBM 嗎？
- 短期內無法。該技術目前仍處於學術與概念驗證階段，要達到大規模量產，還需要克服材料良率、設備改裝以及與現有晶片（如 GPU）的相容性問題。
- 為什麼「散熱」會成為 AI 記憶體的致命傷？
- 當記憶體溫度過高時，晶片的漏電情況會急遽惡化，迫使晶片必須降速運作以防燒毀，這會直接讓 AI 算力大打折扣，因此散熱是解放算力的關鍵。
- 這項技術對台灣半導體業是威脅還是機會？
- 既是挑戰也是機會。它可能改變對部分先進封裝的需求，但台灣擁有全球最強的晶圓代工與封裝生態系，若能率先協助客戶代工此新型架構，將能開闢全新商機。
名詞小教室
- DRAM (動態隨機存取記憶體)
- 就像電腦的「大雄書桌」，用來暫存正在處理的資料。書桌面積越大，你同時整理、運算資料的速度就越快。
- HBM (高頻寬記憶體)
- 把好幾張「大雄書桌」垂直疊高，並用上萬根隱形通道連通。雖然省空間且傳輸超快，但疊在最底層的書桌非常容易悶熱、散熱不良。