30 秒看重點
- 事件：舊金山市政府正式要求蘋果與 Google 下架並封殺「一鍵脫衣」AI 深偽應用程式。
- 意義：公權力不再只抓源頭網站，而是直接向科技巨頭施壓，強化平台審查責任。
- 影響：台灣未來在 AI 應用合規上將面臨更嚴格的審查，開發者需加強安全預防機制。
當 AI 技術變成侵害個人隱私的武器，政府終於動手了！舊金山市政府直接對 Apple 和 Google 發出最後通牒，要求兩大巨頭從源頭切斷「一鍵脫衣」等 Deepfake 軟體的生存空間，象徵著科技平台「避風港時代」的終結。
一鍵脫衣AI防不住？為什麼政府這次要對科技巨頭「重拳出擊」？
「一鍵脫衣」（Nudify）深偽軟體在全球氾濫成災，已經讓舊金山市政府決定不再姑息。舊金山市檢察官邱信福（David Chiu）日前正式致信蘋果執行長庫克與 Google 執行長皮查伊，要求這兩大科技巨頭立即採取行動，從 App Store 與 Google Play 中徹底下架、並在搜尋引擎中阻斷這些助長數位性暴力的 AI 軟體。這些軟體利用先進的生成對抗網路（GAN）與擴散模型，使用者只需上傳一張普通的生活照，AI 就能在幾秒鐘內合成出逼真的不雅照片。更諷刺的是，這些軟體開發商甚至公然在兩大巨頭的平台上投放廣告吸引流量，賺取不義之財。這就像是一家大型百貨公司，一邊宣稱禁止違法交易，一邊卻允許攤商在地下室公然販售盜錄工具，甚至還幫忙發傳單。因此，政府這次決定不再只與境外非法網站玩「打地鼠」的遊戲，而是直接卡死科技巨頭的「分銷管道」，逼迫他們履行應有的審查義務。
- 2023 年底：多款標榜「一鍵脫衣、換臉」的 AI 工具在各大社群平台與廣告版面公然氾濫，引發社會公憤。
- 2024 年初：美國各州及聯邦政府開始研擬相關法案，試圖將非自願生成與散布深偽不雅影像的行為入刑。
- 近期：舊金山市政府開出公權力第一槍，致信蘋果與 Google 要求承擔「守門人」職責，封殺該類 App 的下載與推廣。
台灣怎麼看這件事？
台灣社會對於 Deepfake 科技暴力的痛楚記憶猶新，早在 2021 年就曾因網紅「小玉」換臉事件震驚全台，隨後立法院也迅速修法，於刑法中增訂了「妨害性隱私及不雅影像罪」。美國這次直接從「應用程式商店源頭」進行管制的做法，對台灣未來的數位政策與防詐機制具有極高的參考價值。未來，台灣的 App 開發者在設計任何涉及人像處理、美顏或 AI 繪圖的工具時，都必須在防禦機制與安全浮水印上做得更徹底，否則一不小心就會面臨全球雙平台無預警下架的巨大風險。對台灣民眾而言，這也敲響了隱私防禦的警鐘，大眾在網路分享照片時將需要更有隱私安全意識。
編輯觀點
AI 的科技紅利絕對不應該建立在剝奪他人的尊嚴與安全感之上。過去，科技大廠總是習慣躲在「我們只是平台、技術無罪」的盾牌後面消極應對；然而在生成式 AI 時代，不雅影像的製作與傳播成本已降至零，被動的「事後檢舉」根本無法挽回受害者名譽。平台業者必須將「AI 安全前置審查」納入核心合規流程，用演算法防堵演算法，這才是負責任的 AI 時代該有的企業高度。
常見問題
- 什麼是「一鍵脫衣」AI 軟體？
- 這是一種利用 AI 影像生成技術，透過演算法分析正常照片中人物的衣著邊界與身形，進而自動合成、補齊「虛構裸體」的深偽不雅影像工具。
- 蘋果與 Google 目前對這類軟體有什麼處理機制？
- 兩大平台雖宣稱禁止色情內容，但目前多採用被動的「事後檢舉」機制，常需等到輿論壓力或媒體曝光後，才會將違規 App 進行下架。
- 台灣法律如何懲治利用 AI 製作不雅照的行為？
- 依據台灣刑法修正條文，未經他人同意製作或散布他人深偽不雅影像，最高可處 5 年有期徒刑；若意圖營利，刑責與罰金還會加重。
- 一般民眾該如何防範自己的照片被 AI 惡意合成？
- 建議避免在公開社群分享過於清晰、高解析度的正面照片；一旦發現受害，可立即向「iWIN 網路內容防護機構」申訴要求協助下架。
- 政府要求平台下架，真的能徹底消滅這些 AI 軟體嗎？
- 雖然無法完全杜絕暗網或地下網站，但切斷 App Store 與搜尋引擎等主流管道，能大幅提高一般人取得工具的門檻，有效抑制受害人數增加。
名詞小教室
- Deepfake（深偽技術）
- 就像是「數位換臉和變身術」，利用 AI 深度學習特定人物的臉部表情、聲音與身形特徵，完美套用到其他影音中，達到真假難辨的效果。