30 秒看重點
- 事件：AMD 宣布收購晶片新創 Taalas，取得「模型直接硬體化」的非 HBM 晶片技術。
- 意義：這項技術打破了輝達（NVIDIA）靠高速記憶體築起的高牆，大幅降低 AI 運算成本。
- 影響：台灣台積電先進製程與 ASIC 客製化晶片設計業者，將迎來新一波推論晶片大商機。
這是不必依賴 HBM（高頻寬記憶體）的全新 AI 晶片路徑！AMD 透過收購 Taalas，直接將 AI 演算法「刻」進晶片，不僅能實現百倍的效能功耗比，更從根本上解決了 AI 算力太貴、記憶體產能不足的痛點，正式在 AI 推論市場向輝達宣戰。
不用 HBM、把模型刻進晶片，這到底是什麼神科技？
一般我們熟知的 AI 晶片（如輝達的 H100、Blackwell 或 AMD 的 MI300X）之所以價格高昂且供不應求，很大一部分原因在於它們必須搭載昂貴的 HBM（高頻寬記憶體）。傳統架構下，運算單元與記憶體是分開的，這就像廚師（處理器）每次做菜，都得大老遠跑到倉庫（記憶體）去拿食譜與食材，高頻寬的馬路（HBM）雖然能讓運送變快，但造價卻高得嚇人。而 Taalas 的作法非常顛覆：他們直接把「食譜（AI 模型）」鑄造在「鍋底（晶片電路）」上，晶片一開機，它就已經是那個特定的大型語言模型了，根本不需要大容量的 HBM 來回搬運數據，省電又便宜。
這種「演算法硬體化」的 ASIC（特殊應用積體電路）設計，雖然失去了像通用 GPU 那樣可以隨意更改模型的彈性，但在「推論（Inference）」市場卻具有毀滅性的優勢。目前全球 AI 市場正從「大模型訓練」走向「日常推論應用」，企業需要的是便宜、能大量部署的算力，而不是每天都在變動的實驗性架構。Taalas 的技術正好切中這個甜蜜點，讓 AMD 能用極低的硬體成本，提供客戶超高性價比的推論解決方案，直接繞過輝達最強的生態系護城河。
- 2023-03：Taalas 由前 Tesla、AMD、Tenstorrent 的資深晶片設計專家共同創立。
- 2024-01：Taalas 成功完成首款非 HBM 的 AI 推論晶片設計，並送交晶圓代工廠流片。
- 近期：AMD 正式宣布收購 Taalas，將其專利架構納入自家 AI 晶片版圖，補足推論產品線。
台灣怎麼看這件事？
台灣半導體供應鏈在這波「免 HBM」的硬體革命中，非但不會被邊緣化，反而會成為最大受益者。當 AI 晶片不再受限於 HBM 的產能瓶頸，客製化 ASIC 晶片的需求將會迎來爆發式成長，這將直接灌溉台積電的先進製程（3奈米、5奈米）產能。此外，台灣擁有一流的 ASIC/IP 設計服務公司，如世芯-KY、創意電子與 M31 等，隨著越來越多科技巨頭想要效法 AMD「將模型寫死在晶片上」的降本策略，台灣的晶片設計服務商將接獲大量客製化委託，成為推動這波平價 AI 浪潮的幕後推手。
編輯觀點
蘇姿丰這步棋下得非常精準，直接點中了當前 AI 產業「投資報酬率（ROI）焦慮」的死穴。當華爾街開始質疑 AI 基礎建設開銷過大時，誰能幫客戶省錢，誰就能贏得下半場。Taalas 的技術雖然犧牲了通用性，但換來了極致的成本優勢，這正是將 AI 推向邊緣運算、智慧終端與特定垂直領域的關鍵鑰匙。AMD 這次收購，可望在推論市場上，硬生生從輝達手中搶下一塊極具利潤的版圖。
常見問題
- Q1：什麼是「模型直接寫入晶片」？
- 這是指將 AI 演算法（例如特定大型語言模型）直接用硬體電路（ASIC）實現，不需要透過傳統處理器讀取記憶體指令，運算極快且極省電。
- Q2：為什麼這種晶片可以不用 HBM 記憶體？
- 因為模型結構已經固定在晶片電路中，運算時不需在處理器與外部記憶體之間高頻寬地來回搬移龐大數據，因此擺脫了對昂貴 HBM 的依賴。
- Q3：這會威脅到輝達（NVIDIA）的霸主地位嗎？
- 在「AI 推論」與特定應用市場會帶來極大威脅，因為成本更低；但在需要高度靈活性的「AI 訓練」與通用運算領域，輝達依舊擁有絕對優勢。
- Q4：這種「模型刻死在晶片」的技術有什麼缺點？
- 缺點是缺乏彈性。一旦 AI 模型有重大架構更新或演算法改變，原本刻死在晶片上的電路就無法變更，必須重新設計並製造新晶片。
- Q5：對台灣半導體產業是利多還是利空？
- 絕對是利多。無論是 AMD 還是其他科技巨頭，要製造這種高密度的客製化推論晶片，都高度依賴台積電的先進製程與台灣的 ASIC 設計服務生態系。
名詞小教室
- HBM (高頻寬記憶體)
- 就像是在晶片旁邊蓋一條超寬的高速公路，讓數據能以極快速度進出，但造價昂貴且產能吃緊。
- ASIC (特殊應用積體電路)
- 為特定用途客製化的晶片，就像只會做一道特定料理的專用廚具，雖然不能做別的菜，但速度和效率都是極致。