AMD MI355X 算力成本腰斬!輝達獨霸地位動搖?

30 秒看重點

  • 事件:AMD MI355X 運行 GLM 5.2 大模型,算力成本僅需輝達同級產品的一半。
  • 意義:這打破了輝達長期以來的價格壟斷,大幅降低企業部署 AI 的資金門檻。
  • 影響:台積電先進製程與台灣伺服器代工廠將迎來「紅綠雙雄」爭相下單的全新紅利期。

AMD 最新 MI355X 晶片在執行 GLM 5.2 大語言模型時,展現出極致的性價比。以僅有輝達(Nvidia)一半的算力成本,向市場宣告 AI 硬體高昂售價的時代即將結束。

關鍵數據:AMD MI355X 運行 GLM 5.2 模型的綜合算力成本比輝達同級架構降低了將近 50%。

AI 算力成本減半,AMD 是如何辦到的?

AMD 這次之所以能給輝達一記重拳,關鍵在於其超大記憶體頻寬與優異的軟硬體優化整合。AI 算力成本一直是企業落地 AI 應用的最大痛點,過去大家非輝達不可,主要是因為 CUDA 生態系的護城河。然而,這次實測數據顯示,AMD MI355X 配備了新一代 HBM3e 記憶體,傳輸速度與容量都大幅提升,這意味著原本需要好幾張輝達晶片才能跑的複雜大模型,現在用較少的 AMD 晶片就能搞定,硬體購置與後續的電費直接砍半。這就像是用原本買一台跑車的預算,買到了兩台性能相仿的跑車,讓企業在「每秒生成字數」的成本效益上取得壓倒性勝利。這項突破證明了,市場上「天下苦輝達久矣」的企業,終於有了一個高性價比且能實質落地的替代方案。

  1. 2024-10:AMD 正式發表 MI325X 並預告下一代 MI355X 架構,正式向輝達 Blackwell 宣戰。
  2. 近期:最新實測數據出爐,MI355X 運行 GLM 5.2 大模型,算力成本僅需輝達同規格硬體的一半。

台灣怎麼看這件事?

這場「紅綠大戰」的背後,真正的最大贏家依然是台灣的半導體與伺服器代工供應鏈。不論是輝達的 Hopper、Blackwell,還是 AMD 的 Instinct 系列,全都高度依賴台積電(TSMC)的 3 奈米先進製程與 CoWoS 先進封裝技術。此外,台灣的伺服器代工巨頭如廣達、緯穎、英業達等,也早已做好雙向佈局。AMD 晶片性價比的提升將刺激非一線雲端大廠(Tier 2 CSP)與一般企業的採購意願,進而轉化為台灣伺服器供應鏈源源不絕的全新訂單動能,讓台灣在 AI 時代的硬體制霸地位更加穩固。

編輯觀點

AI 晶片去壟斷化是市場發展的必然趨勢,性價比將成為下半場競爭的勝負手。當 AMD 能以一半的成本提供同等的推論性能時,非一線的雲端服務商與中大型企業將會出現「倒戈潮」。這不僅會迫使輝達在定價策略上做出讓步,也會加速整個 AI 應用在各行各業的普及,對整個產業生態來說是極大的利多。

常見問題

AMD MI355X 的算力成本為何能比輝達便宜一半?
主要得益於其配備了超大容量與超高頻寬的 HBM3e 記憶體,在運行特定大模型時,能用更少的晶片數量達到相同的推論速度,大幅降低硬體與電力成本。
這會威脅到輝達(Nvidia)的霸主地位嗎?
短期內輝達仍憑藉強大的 CUDA 軟體生態系領先,但 AMD 的高性價比正快速吸引預算有限、注重推論成本的中大型企業,市場版圖已開始鬆動。
這項進展對台灣科技產業有什麼好處?
台灣是最大受益者。台積電包辦了兩家的晶片代工,而廣達、緯穎等台灣 AI 伺服器代工廠也能左右逢源,接獲更多 AMD 平台的伺服器訂單。
什麼是 GLM 5.2 模型?
GLM 5.2 是一款高效能的大語言模型。當它與 AMD 晶片進行深度優化後,能在極低的硬體資源下,展現出媲美一線大模型的生成速度與精準度。
企業現在應該立刻轉向 AMD 平台嗎?
如果企業的應用場景以「AI 推論」為主且極度注重營運成本,AMD MI355X 是極具吸引力的選擇;若是重度依賴 CUDA 進行複雜開發則需評估轉移成本。

名詞小教室

AI 推論 (Inference)
就像是學生在考卷上寫答案。相對於「訓練」是讀書學習,推論是 AI 晶片直接理解使用者問題並產生回覆的運算過程。
HBM3e (高頻寬記憶體)
像是資料傳輸的超級高速公路。它能把大量數據用極快的速度送進晶片大腦,是決定 AI 晶片跑得快不快的關鍵燃料。