30 秒看重點
- 事件：OpenAI 官方證實阻斷中國背景帳號利用 ChatGPT 進行「生成式認知作戰」。
- 意義：AI 降低了跨國資訊戰的技術與語言門檻，假輿論變得更難被偵測。
- 影響：台灣面臨類似的能源與供應鏈爭議，極易成為 AI 帶風向的下一個主戰場。
AI 不只會寫程式，現在更成了地緣政治的「水軍製造機」！OpenAI 最新報告指出，有中國背景的惡意勢力正利用 ChatGPT 偽裝成美國選民，在社群平台上針對 AI 資料中心電價與川普關稅等敏感話題煽動民怨，揭示了生成式 AI 認知戰的真實威脅。
AI 怎麼變成「水軍製造機」？
這次被 OpenAI 破獲的中國認知作戰代號為「SweetSpecter」等群組，其運作模式代表了新型態的「生成式影響力作戰（Generative Influence Operations）」。過去，境外勢力要跨國帶風向，常因為「英語不道地」或「語法生硬」而被輕易識破；如今，他們直接利用 ChatGPT 的 API 進行批次寫作，產出語氣極其自然、帶有強烈情緒渲染力的美式英語貼文。這些帳號在 X（前推特）等平台上，精準鎖定美國大選、AI 基礎設施建設導致的電價上漲、以及川普關稅政策等「最容易引發社會對立」的痛點借題發揮。這種手法不再是傳統死板的機器人自動發文，而是利用大型語言模型（LLM）模擬出有溫度的「真人網民」意見，傳統的社交媒體防護演算法幾乎難以察覺，大幅降低了跨國干預輿論的成本與門檻。
- 2024-05：OpenAI 首次發布報告，揭露俄羅斯、中國等勢力嘗試利用 AI 模型產出分化社會的政治內容。
- 2024-08：OpenAI 成功攔截並清除伊朗利用 ChatGPT 生成針對美國總統大選的評論與虛假新聞。
- 2024-10：OpenAI 正式證實阻斷中國背景帳號，以 AI 假冒美國人操弄資料中心電價與關稅輿論的惡意活動。
台灣怎麼看這件事？
台灣作為全球地緣政治與資訊戰的第一線，這起事件對我們的警示意義極為沉重。台灣近年同樣面臨 AI 資料中心設立、台電電價調整、台美供應鏈重組等高度敏感且具爭議性的社會議題。若境外勢力利用繁體中文 LLM 模型，生成極具台灣在地口語（如使用「炎上」、「割韭菜」或在地鄉民術語）的假輿論，在 PTT、Dcard 或 Threads 上大規模帶風向，將會嚴重撕裂台灣社會的信任。這意味著，未來台灣在討論能源政策與半導體產業時，我們所看到的「網路民意」，背後很可能只是一堆免洗的 AI 帳號在操盤。
編輯觀點
防範 AI 認知戰不能只期待科技巨頭的「課後審查」。當生成一個煽動性言論的成本趨近於零，傳統的事後刪文根本緩不濟急。未來，網路輿論的防線必須從「內容審查」轉向「來源驗證（Provenance）」，例如推廣數位內容簽章機制。同時，台灣亟需發展本土的「AI 假訊息鑑識技術」，並提升大眾對於 AI 生成內容的識讀能力，否則在下一場關鍵選舉或政策辯論中，民主社會的集體決策將輕易被演算法玩弄於股掌之間。
常見問題
- 什麼是生成式認知作戰？
- 這是指惡意勢力利用生成式 AI（如 ChatGPT）大規模、自動化地產生極具說服力的虛假文章、評論或社群貼文，藉此分化社會並引導輿論走向。
- OpenAI 是如何發現這些中國假帳號的？
- OpenAI 透過內部安全機制追蹤異常的 API 呼叫模式、相同的提示詞（Prompt）特徵，以及帳號背後的來源 IP 位址，進而鎖定並封鎖這些惡意群組。
- 為什麼這些假帳號要針對「AI 電價」與「關稅」借題發揮？
- 因為電價和關稅直接關係到民生荷包與經濟利益，最容易激起大眾的對立情緒，中方企圖藉此放大美國民眾對科技發展與政府政策的不滿。
- 一般民眾在社群平台上要如何分辨是不是 AI 假帳號？
- 可以注意帳號是否短時間內大量發言、頭像是否為 AI 合成照片，以及其論點是否過於極端且缺乏個人生活化的互動紀錄。
- 台灣該如何防範這類型的 AI 假訊息攻擊？
- 台灣政府與民間應合作開發繁體中文的 AI 偵測工具，並引導平台業者建立更嚴格的帳號驗證機制，同時提升公眾對網路訊息的防禦意識。
名詞小教室
- 認知戰（Cognitive Warfare）
- 這就像是一種「不流血的大腦植入術」，不靠實體武器，而是透過量身打造的假訊息潛移默化地改變你的政治立場與價值判斷。