AI伺服器明年恐漲15%！記憶體飆漲衝擊AI發展

30 秒看重點

• 事件：輝達AI伺服器因記憶體成本狂飆，預估明年價格將上漲逾15%。
• 意義：AI基礎設施成本激增，恐減緩全球AI普及速度，墊高企業導入門檻。
• 影響：台灣記憶體產業可望受惠，但伺服器組裝廠與AI應用業者將面臨更大成本壓力。

AI伺服器為何飆漲？

輝達（NVIDIA）的AI伺服器，作為當前全球AI運算的核心骨幹，正因關鍵零組件——記憶體——價格瘋狂上漲，面臨嚴峻的成本壓力。過去一年多來，生成式AI技術如ChatGPT爆紅，導致全球對AI算力的需求呈現爆炸式增長，尤其對高效能圖形處理單元（GPU）的需求更是空前。然而，GPU要發揮最強性能，就必須搭配高速、大容量的記憶體，這就是高頻寬記憶體（HBM）和先進DRAM的角色。

這波漲價潮的主因是HBM和DRAM的供給嚴重吃緊。HBM製程複雜，良率提升不易，加上生產週期長，導致供應商產能無法即時滿足市場急劇上升的需求。舉個生活化的例子，就像是頂級跑車引擎（GPU）越來越猛，但供應商能生產的「超級燃料箱」（HBM）數量有限，且製造過程複雜耗時，自然「燃料箱」的價格就水漲船高。當「超級燃料箱」的溢價超過300%，DRAM也跟著飆漲64%，這輛頂級跑車的總成本怎能不漲？這些記憶體不僅是成本，更是GPU效能瓶頸的關鍵，少了它們，再強的GPU也只能英雄無用武之地。因此，輝達被迫將這些上漲的成本轉嫁到終端產品上，也使得整個AI基礎設施的部署成本大增。

1. 近期：AI需求爆炸性增長，HBM及DRAM需求隨之飆升。
2. 近期：記憶體供應鏈面臨產能、良率挑戰，供給吃緊。
3. 近期：DRAM價格持續攀升，HBM溢價幅度達300%以上。
4. 明年：輝達AI伺服器預計漲價逾15%，影響全球AI產業。

台灣怎麼看這件事？

從台灣的角度來看，這波AI伺服器漲價是一把雙面刃，既是挑戰也是機會。台灣在全球半導體和AI伺服器供應鏈中扮演舉足輕重的角色。一方面，台灣的DRAM大廠如南亞科、華邦電，以及參與HBM製程的晶圓代工龍頭台積電，可望受惠於記憶體價格上揚帶來的營收增長。台積電在HBM的先進封裝技術（如CoWoS）更是不可或缺。然而，台灣作為全球AI伺服器組裝重鎮，包括廣達、緯創、英業達、鴻海等業者，將面臨上游記憶體成本遽增的壓力，可能壓縮利潤空間。對於國內積極發展AI應用的企業和學術單位而言，部署AI運算的門檻將顯著提高，考驗其資源配置與成本效益的最佳化能力。

編輯觀點

AI伺服器漲價，不只是短期的市場波動，更像是AI算力競賽發出的警訊。當AI的「燃料」變得如此昂貴，未來AI應用的普及速度和規模勢必會受到影響。企業在追求AI效益的同時，也需要更精打細算，思考如何優化現有資源，甚至探索更具成本效益的AI模型或硬體解決方案。這也促使台灣的記憶體、封測業者加快技術創新與擴產，確保關鍵零組件的穩定供應。畢竟，AI要真正落地，成本會是一個逃不開的現實課題。

常見問題

什麼是HBM？為什麼它這麼重要？

HBM（高頻寬記憶體）就像是GPU專用的超高速公路，能讓GPU更快地存取大量資料，對於AI運算這種需要處理海量數據的任務來說，是提升效率和效能的關鍵技術。

為什麼AI伺服器會漲價？

主要原因是支撐AI運算的GPU所需的高頻寬記憶體（HBM）和一般DRAM的價格飆漲，加上供給吃緊，導致伺服器製造商的成本大幅增加，進而轉嫁到終端產品價格上。

這對一般公司導入AI有什麼影響？

AI伺服器成本提高，意味著企業導入AI技術的初期投資會變高。這可能讓中小企業或新創公司在部署大型AI模型時，面臨更大的財務壓力或更高的門檻。

台灣在HBM供應鏈中扮演什麼角色？

台灣在全球HBM供應鏈中扮演關鍵角色，特別是在先進封裝技術方面，例如台積電的CoWoS技術對於整合HBM與GPU至關重要。此外，台灣的DRAM廠也間接影響HBM的生產成本。

未來AI伺服器價格會如何？

短期內，在AI需求持續強勁且記憶體供應未能大幅改善前，AI伺服器價格仍將保持高檔。長期則取決於記憶體廠商的產能擴張速度、技術突破以及市場需求的動態變化。

名詞小教室

高頻寬記憶體（HBM）

一種特別為高效能運算設計的記憶體，像堆疊積木一樣層層堆疊，能讓資料傳輸速度比傳統記憶體快很多，是AI晶片發揮最大效能的超級幫手。

DRAM

全名是動態隨機存取記憶體，也就是我們電腦、手機裡最常見的隨機存取記憶體，負責暫存需要高速讀寫的資料，是各種電子裝置不可或缺的大腦輔助記憶體。