30 秒看重點
- 事件:AMD MI355X 運行 GLM 5.2 大模型,算力成本僅需輝達同級產品的一半。
- 意義:這打破了輝達長期以來的價格壟斷,大幅降低企業部署 AI 的資金門檻。
- 影響:台積電先進製程與台灣伺服器代工廠將迎來「紅綠雙雄」爭相下單的全新紅利期。
AMD 最新 MI355X 晶片在執行 GLM 5.2 大語言模型時,展現出極致的性價比。以僅有輝達(Nvidia)一半的算力成本,向市場宣告 AI 硬體高昂售價的時代即將結束。
AI 算力成本減半,AMD 是如何辦到的?
AMD 這次之所以能給輝達一記重拳,關鍵在於其超大記憶體頻寬與優異的軟硬體優化整合。AI 算力成本一直是企業落地 AI 應用的最大痛點,過去大家非輝達不可,主要是因為 CUDA 生態系的護城河。然而,這次實測數據顯示,AMD MI355X 配備了新一代 HBM3e 記憶體,傳輸速度與容量都大幅提升,這意味著原本需要好幾張輝達晶片才能跑的複雜大模型,現在用較少的 AMD 晶片就能搞定,硬體購置與後續的電費直接砍半。這就像是用原本買一台跑車的預算,買到了兩台性能相仿的跑車,讓企業在「每秒生成字數」的成本效益上取得壓倒性勝利。這項突破證明了,市場上「天下苦輝達久矣」的企業,終於有了一個高性價比且能實質落地的替代方案。
- 2024-10:AMD 正式發表 MI325X 並預告下一代 MI355X 架構,正式向輝達 Blackwell 宣戰。
- 近期:最新實測數據出爐,MI355X 運行 GLM 5.2 大模型,算力成本僅需輝達同規格硬體的一半。
台灣怎麼看這件事?
這場「紅綠大戰」的背後,真正的最大贏家依然是台灣的半導體與伺服器代工供應鏈。不論是輝達的 Hopper、Blackwell,還是 AMD 的 Instinct 系列,全都高度依賴台積電(TSMC)的 3 奈米先進製程與 CoWoS 先進封裝技術。此外,台灣的伺服器代工巨頭如廣達、緯穎、英業達等,也早已做好雙向佈局。AMD 晶片性價比的提升將刺激非一線雲端大廠(Tier 2 CSP)與一般企業的採購意願,進而轉化為台灣伺服器供應鏈源源不絕的全新訂單動能,讓台灣在 AI 時代的硬體制霸地位更加穩固。
編輯觀點
AI 晶片去壟斷化是市場發展的必然趨勢,性價比將成為下半場競爭的勝負手。當 AMD 能以一半的成本提供同等的推論性能時,非一線的雲端服務商與中大型企業將會出現「倒戈潮」。這不僅會迫使輝達在定價策略上做出讓步,也會加速整個 AI 應用在各行各業的普及,對整個產業生態來說是極大的利多。
常見問題
- AMD MI355X 的算力成本為何能比輝達便宜一半?
- 主要得益於其配備了超大容量與超高頻寬的 HBM3e 記憶體,在運行特定大模型時,能用更少的晶片數量達到相同的推論速度,大幅降低硬體與電力成本。
- 這會威脅到輝達(Nvidia)的霸主地位嗎?
- 短期內輝達仍憑藉強大的 CUDA 軟體生態系領先,但 AMD 的高性價比正快速吸引預算有限、注重推論成本的中大型企業,市場版圖已開始鬆動。
- 這項進展對台灣科技產業有什麼好處?
- 台灣是最大受益者。台積電包辦了兩家的晶片代工,而廣達、緯穎等台灣 AI 伺服器代工廠也能左右逢源,接獲更多 AMD 平台的伺服器訂單。
- 什麼是 GLM 5.2 模型?
- GLM 5.2 是一款高效能的大語言模型。當它與 AMD 晶片進行深度優化後,能在極低的硬體資源下,展現出媲美一線大模型的生成速度與精準度。
- 企業現在應該立刻轉向 AMD 平台嗎?
- 如果企業的應用場景以「AI 推論」為主且極度注重營運成本,AMD MI355X 是極具吸引力的選擇;若是重度依賴 CUDA 進行複雜開發則需評估轉移成本。
名詞小教室
- AI 推論 (Inference)
- 就像是學生在考卷上寫答案。相對於「訓練」是讀書學習,推論是 AI 晶片直接理解使用者問題並產生回覆的運算過程。
- HBM3e (高頻寬記憶體)
- 像是資料傳輸的超級高速公路。它能把大量數據用極快的速度送進晶片大腦,是決定 AI 晶片跑得快不快的關鍵燃料。