陽明交大攜手群聯!獨創「算力共享」如何榨乾每一顆 GPU?

30 秒看重點

  • 事件:陽明交大攜手群聯電子,首創「AI 算力共享平台」將 GPU 效能榨到極致。
  • 意義:利用 SSD 快取技術突破硬體限制,免百萬台幣就能跑千億參數大模型。
  • 影響:降低台灣學術界與中小企業研發門檻,翻轉高階 GPU 被科技巨頭壟斷的困境。

買不起昂貴的 NVIDIA H100 晶片也能做 AI 研發!陽明交大與群聯電子的「算力共享」合作,透過軟硬體客製化整合,證明了台灣能利用平價硬體與在地技術,突圍全球 AI 算力短缺的軍備競賽。

關鍵數據:群聯「aiDAPTIV+」技術預期可降低高達 70% 以上 的 AI 硬體建置與模型微調成本。

買不起天價晶片?「SSD 變記憶體」如何拯救台灣 AI 研發?

在生成式 AI 爆發的時代,算力就是國力,但動輒百萬台幣的 NVIDIA 高階 GPU 讓許多台灣學術單位與中小企業望洋興嘆。為了解決這個痛點,國立陽明交通大學與快閃記憶體控制晶片大廠群聯電子(Phison)強強聯手,打造出全台首創的「AI 算力共享平台」。這項合作的核心在於群聯獨家的「aiDAPTIV+」技術,它能將高速 SSD 虛擬化為 GPU 的顯示記憶體(VRAM)延伸空間。簡單來說,過去跑大語言模型就像在極窄的廚房(VRAM)裡做滿漢全席,廚房不夠大就根本做不出來;而群聯的技術就像是在廚房旁加蓋了一張超大「備料桌」(SSD),讓平價 GPU 也能分批處理千億參數的模型。陽明交大更進一步將此技術平台化,像「共享機車」一樣讓校內各科系隨租隨用,徹底解決研究設備閒置與預算不足的雙重難題。

  1. 2023-07 群聯電子正式發表 aiDAPTIV+ 技術,主打以平價 SSD 協同 GPU 進行大型模型運算。
  2. 2024-03 陽明交大與群聯展開深度技術對接,將此方案導入校內研究所,測試多學科算力分配。
  3. 近期 雙方正式展示「算力共享平台」成果,成功讓非資訊科系也能以低成本跑起專屬 AI 模型。

台灣怎麼看這件事?

這項本土技術的突破,無疑是台灣在面臨「輝達依賴症」時的一劑務實解藥。台灣擁有世界頂尖的半導體與儲存產業鏈,群聯與陽明交大的合作,證明了透過「軟體優化硬體」的軟硬整合實力,能繞過天價的晶片搶購潮。對於預算有限的台灣中小企業、IC 設計廠,甚至是醫療與法律等在地學術研究,這代表未來不必再向國外雲端巨頭租用昂貴的算力,利用現有的中低階硬體,就能在本地端安全地進行繁體中文與機密資料的模型微調,真正加速台灣 AI 產業的落地應用。

編輯觀點

算力不該是科技巨頭的專利,民主化的算力才是推動普惠 AI 的關鍵。群聯這次不賣晶片,而是賣「空間利用率」,精準切中了市場的痛點。當全球都在盲目追求更快的 GPU 時,這種「把舊車改裝發揮極致」的台灣水牛精神,才是地緣政治與預算限制下最務實的生存之道。這套模式一旦成功複製到全台大專院校與科學園區,將大幅釋放台灣學術界的創新能量。

常見問題

什麼是群聯的 aiDAPTIV+ 技術?
這是一項軟硬體整合技術,能將高速 SSD 虛擬化為 GPU 顯示記憶體的延伸,讓低階 GPU 也能處理需要超大記憶體的大型 AI 模型。
陽明交大的「算力共享」有何特別之處?
它打破了傳統研究室各自採購硬體的壁壘,透過平台化管理,將閒置的 GPU 算力動態分配給不同科系,將每顆晶片的效能榨到極致。
這項技術能幫企業省下多少預算?
相較於直接購買 NVIDIA H100 等天價運算卡,採用群聯 aiDAPTIV+ 方案預估可降低 70% 甚至是 80% 的初期硬體建置成本。
用 SSD 代替顯示記憶體,運算速度會不會很慢?
雖然速度確實慢於純顯示記憶體,但群聯透過獨家算法優化,能在可接受的時間內完成模型微調,非常適合預算有限的研發與教學階段。
這對一般台灣民眾有什麼切身關係?
這能降低台灣在地 AI 應用的開發門檻,未來會有更多貼近台灣在地用語、醫療習慣或法律規範的專屬 AI 系統誕生,讓生活更便利。

名詞小教室

VRAM (顯示記憶體)
就像是 GPU 工作時的「書桌桌面」,桌面越大,能同時翻開參考的資料(模型參數)就越多,運算大型 AI 就不會卡關。
模型微調 (Fine-tuning)
就像是讓一個已經讀完大學(預訓練)的通用 AI,去研讀特定公司的內部考卷(專業數據),讓它變成該領域的專家。