AI新戰場：CPU重返資料中心！推論與代理式AI成新主流

30 秒看重點

• 事件：AI推論與代理式AI崛起，讓CPU在資料中心運算中重獲核心地位。
• 意義：AI發展不再是GPU獨大，CPU在應用端展現價值，改變硬體需求結構。
• 影響：台灣半導體及伺服器產業迎來新機會，需加強CPU相關技術布局。

CPU為何重返AI舞台？

這波CPU重返AI核心的浪潮，背後有兩大關鍵推手：「AI推論（AI Inference）」的大量需求，以及「代理式AI（Agentic AI）」的快速發展。以往大家聽到AI，第一個想到的就是輝達（NVIDIA）的GPU，因為AI模型「訓練」階段需要強大的平行運算能力，GPU正是箇中翹楚。它就像一台超級精密的樂高積木工廠，能同時處理上百萬片積木，快速組裝出複雜的模型。

然而，當AI模型「訓練」完成後，實際應用於生成文字、圖像或執行任務時，這就進入了「推論」階段。推論運算雖然也需要效率，但它的特性通常是序列性、非同步性，而且不需要像訓練那樣極致的吞吐量。此時，CPU的通用性、成本效益和更低的功耗，使其成為許多推論工作，特別是邊緣AI裝置或輕量級AI應用，更具吸引力的選擇。你可以把CPU想像成一位全能的工程師，雖然沒有積木工廠的速度，但能靈活處理各種專案，而且成本相對低廉。

而「代理式AI」更是讓CPU鹹魚翻身的重要原因。代理式AI是一種能自主規劃、執行任務並與環境互動的AI系統，例如AI助理或自動化工作流工具。這類AI需要大量的邏輯判斷、任務排程、記憶管理和多模態資料處理，這些都是CPU的強項。代理式AI就像一個「AI大腦」，不只會「算」，還要會「想」、會「計畫」，這些思維過程往往更依賴CPU的邏輯處理能力，而非GPU的蠻力。隨著越來越多企業導入這類AI應用，對CPU的需求自然水漲船高，形成「AI推論運算」與「代理式AI應用」的黃金交叉，讓CPU再次成為資料中心不可或缺的AI核心運算單元。

台灣怎麼看這件事？

對台灣而言，這波AI硬體趨勢變化絕對是個超前部署的黃金機會。台灣在全球半導體產業鏈中，不僅是晶圓代工龍頭，更在CPU晶片設計、伺服器組裝及零組件供應鏈（如散熱、電源、連接器等）扮演關鍵角色。當「AI推論最佳化」與「代理式AI」對CPU需求增加，台廠在X86及Arm架構CPU的IP設計、高效能運算（HPC）伺服器製造（如廣達、緯穎、英業達）將直接受惠。這不只是現有優勢的延伸，更是一個重新定義AI硬體策略、減少過度依賴單一晶片架構的絕佳時機，讓台灣AI晶片發展更趨多元平衡。我們有機會從純代工走向更高附加價值的設計服務與系統整合，成為「AI推論晶片」與「AI伺服器解決方案」的全球領導者。

編輯觀點

AI硬體市場從來不是一成不變。CPU重返資料中心，不代表GPU地位下滑，而是AI應用場景的多元化，需要更彈性、成本效益更高的硬體方案。台灣產業鏈反應要快，除了持續在AI訓練晶片領域保持領先，更要積極布局「AI推論晶片」與「代理式AI」相關的CPU設計與整合能力。這考驗的不僅是技術力，更是預測市場趨勢、靈活調整供應鏈的智慧，才能在AI的下一個黃金十年持續發光發熱。

常見問題

AI推論是什麼？

AI推論是指將已訓練好的AI模型應用到新資料上，生成預測、分類或內容的過程，例如聊天機器人回覆、圖片辨識等。

什麼是代理式AI？

代理式AI是一種能自主理解、規劃、執行多步驟任務，並與環境互動的AI系統，就像一個有自主思考能力的智慧助理。

為什麼CPU對AI推論很重要？

CPU在處理序列性、邏輯性強的推論任務時，擁有成本效益、功耗及通用性優勢，特別適合邊緣運算及多元應用場景。

這是否表示GPU不再重要？

不是。GPU仍是AI模型訓練的主力，而對於大規模、高並行度的推論任務仍不可或缺，CPU與GPU是互補而非取代關係。

這對台灣科技業有何影響？

台灣在CPU設計、伺服器製造和零組件供應鏈具優勢，這波趨勢帶來AI推論晶片和伺服器的新商機，有助產業升級。

名詞小教室

AI推論 (AI Inference)

把學會的AI模型拿來實際工作，比如讓AI聊天、辨識照片，就像人學會技能後實際運用。

代理式AI (Agentic AI)

一種能自主思考、規劃步驟並執行任務的AI，不只回答問題，還會主動去完成一件事，像個聰明的個人助理。

CPU (中央處理器)

電腦的大腦，負責執行各種指令、處理邏輯運算和管理資料，是電腦系統最核心的元件。

GPU (圖形處理器)

原本設計來處理大量圖形運算，因其高度平行處理能力，成為AI模型「訓練」的超級加速器，適合一次處理大量重複計算。