高通力推「裝置端AI」:你的手機將成為AI個人超算

30 秒看重點

  • 事件: 高通積極推動「裝置端AI」,預估每年20億顆處理器能直接運行AI模型。
  • 意義: AI應用將從大型雲端伺服器下放至個人裝置,讓AI更貼身、普及與安全。
  • 影響: 台灣半導體產業鏈,特別是晶片設計與製造,將迎來裝置端AI龐大商機。

高通正大張旗鼓地推動AI從雲端走向個人裝置,預計未來每年有高達20億顆處理器能在你的手機、電腦上直接執行AI模型。這不只是技術革新,更是AI普及化的關鍵一步,它將讓AI應用更貼近生活,也重新定義了台灣在全球AI供應鏈中的角色。

關鍵數據: 高通預估,每年將有高達20億顆搭載其技術的處理器,具備在「裝置端」直接運行AI模型的強大能力。

為何裝置端AI是下一個科技浪潮?

過去幾年,當我們談到人工智慧,特別是ChatGPT這類大型語言模型(LLM),絕大部分的運算其實都發生在遠端的「雲端」伺服器上。就像是你的手機連上一個超級大的資料中心,讓那邊的超級電腦幫你「思考」再把結果傳回來。這種模式雖然強大,但隱私、延遲和龐大的運算成本始終是難題。現在,晶片大廠高通(Qualcomm)正攜手像Liquid AI這樣的夥伴,積極推動「裝置端AI」的新藍海,要讓你的手機、筆電、甚至汽車,都變成一個能直接跑AI模型的「個人超算」。

這項轉變的本質,就是要把AI模型的運算能力,從遠方的雲端機房,直接移植到你手上、家裡、車上的各式智慧裝置內。高通與Liquid AI合作的目標,是透過優化AI模型與晶片設計,讓每年數十億顆處理器,都能在不連網或僅需輕度連網的情況下,直接執行AI應用。這並非要裝置端AI去跑跟雲端一樣龐大、通用的大模型,而是專注於針對特定任務進行優化的「小而精」AI模型。例如,更即時的照片語意搜尋、在手機上完成AI修圖、離線的語音助理、或個人化的建議系統。透過在晶片層級的深度最佳化,大幅提高能效比,讓這些AI功能在有限的功耗下也能順暢運作。這不僅能大幅提升AI應用的即時性、保護用戶隱私(資料不需上傳雲端),長期來看也能降低雲端運算成本,讓AI應用普及化。

台灣在全球裝置端AI浪潮中扮演什麼角色?

台灣在全球半導體產業鏈的中心地位,讓它在裝置端AI的浪潮中,絕對是核心中的核心。從最前端的IC設計(例如聯發科與瑞昱,他們在手機、IoT晶片市場佔有重要份額),到全球晶圓代工龍頭台積電(台積電的先進製程是高通等晶片大廠生產AI晶片的關鍵),再到後段的封裝測試(日月光、力成等),台灣的產業鏈幾乎涵蓋了高通裝置端AI策略所需的所有環節。隨著裝置端AI對高效能、低功耗AI晶片的需求激增,台灣的半導體製造與設計能力將更顯重要,這意味著新的設計訂單、先進製程代工需求將源源不絕,也將吸引更多國際大廠與台灣合作。同時,台灣的軟體開發商也面臨機會,如何結合這些強大的硬體能力,開發出符合在地需求、創新實用的裝置端AI應用,將是台灣AI生態系能否全面起飛的關鍵。

編輯觀點

高通力推裝置端AI,明確指出AI普及化的下一步。當AI不再只是遠方的「超級大腦」,而是你我手中裝置的「智慧助理」時,隱私、即時性與客製化將成為關鍵。台灣必須緊抓這波裝置端AI趨勢,不僅要在硬體製造上維持領先,更要鼓勵軟體與應用開發,讓台灣成為「智慧裝置AI」的實踐者,而不僅是代工者。這是台灣從硬體王國轉型為軟硬整合創新中心的絕佳機會。

常見問題

什麼是「裝置端AI」?
裝置端AI(On-device AI 或 Edge AI)是指AI模型直接在智慧型手機、筆記型電腦等終端裝置上執行運算,不需透過雲端伺服器處理,大幅提升反應速度與資料隱私。
裝置端AI跟雲端AI有什麼差別?
雲端AI運算力強大,適合處理複雜、大量資料任務;裝置端AI則著重即時性、個人隱私與客製化,讓AI功能更貼近使用者,且可離線運作。
高通為何力推裝置端AI?
高通的晶片是許多智慧裝置的核心,推動裝置端AI能增加其晶片附加價值與市場份額,並滿足消費者對即時、隱私AI應用的需求。
裝置端AI對一般消費者有什麼好處?
你的手機AI助理會更快回應、照片修圖能離線完成、個人資料更受保護,甚至在沒有網路的地方也能使用AI功能,體驗更流暢、更個人化。
台灣將如何受惠於裝置端AI?
台灣在半導體產業鏈的核心地位,能承接AI晶片的設計與製造訂單,並有機會發展相關的軟體與應用服務,鞏固在全球AI供應鏈的關鍵地位。

名詞小教室

裝置端AI (On-device AI / Edge AI)
想像你的手機裡住了一個很聰明的AI秘書,所有資料處理、思考判斷都在手機裡完成,不用打電話給遠在天邊的「中央大腦」求助。
Liquid AI
這是一家專注於將大型AI模型「瘦身」並優化,使其能在較小、功耗較低的裝置(如手機)上高效運行的技術公司,是裝置端AI普及的重要推手。