AI 防線告急！研究揭密：「直覺」才是辨識 Deepfake 關鍵

事件總覽：從 Meta 推出的 AI 圖像偵測工具的局限性，到英國與澳洲研究團隊提出「直覺」辨識方法，AI 防線正經歷重大轉變。

📅 2023年10月：Meta 推出 AI 圖像偵測工具

Meta 今年十月推出了全新的 AI 圖像偵測工具，旨在辨識由 AI 生成的圖像。然而，路透社分析 40 張由 Muse Image 生成的圖片後發現，工具雖能準確辨識「原始」AI 圖，但一旦圖片被裁切編輯，高達 55% 的圖像便能成功躲過驗證。

這直接顯示了即使是最先進的自動偵測系統，也難以做到百分之百的準確。Meta 解釋，內建的「Content Seal」浮水印設計在一般編輯後仍能辨識，但大幅裁切會導致訊號流失。這表明，無論是自動偵測系統還是浮水印，都難以成為完美的守門員。

面對不斷進化的 AI 圖像技術，英國阿伯丁大學與澳洲國立大學的研究團隊深入探討了人類判斷的重要性。過去，人們常尋找不合理的手指數量、變形耳環或扭曲背景來識破 AI 圖片，但隨著 StyleGAN3 與新擴散模型的成熟，這些低級瑕疵已逐漸消失。

研究員指出，依賴「視覺缺陷」辨識 AI 圖的策略已失效。為了建立新的辨識標準，團隊轉而訓練受試者觀察 AI 臉孔常有的六項特徵：過度對稱、完美比例、異常吸引人、臉部結構通用、表情變化少、缺乏記憶點。

實驗數據顯示，未受訓前，受試者辨識真偽的準確率僅約 40%；但經過約一小時的引導學習，並反覆接觸真實與合成臉孔後，準確率大幅飆升至接近 80%，少數人甚至能達近乎完全辨識的程度。此外，受試者判斷時的「自信心」也更貼近實際表現。

培養這項能力已是迫在眉睫的任務，因為 Deepfake 技術早已跨越娛樂範疇，成為嚴重的社會安全威脅。根據 Deloitte 估算，明年美國因 AI 深偽詐騙造成的損失，可能從 2023 年 120 億英鎊暴增至 400 億英鎊。

這類跨國犯罪已真實上演，例如香港曾發生詐騙集團利用深偽視訊會議，成功誘騙企業員工匯款高達 2,500 萬英鎊；此外，也有調查揭露 AI 生成的 LinkedIn 假檔案已成功滲透美國政策圈。

當 AI 越來越懂得偽裝成人類，單靠機器防禦已顯不足。這項研究清楚傳達訊息：在這個真假難辨的時代，大腦也需要執行系統性「升級」。培養人類大腦的直覺能力，成為未來對抗深偽內容的重要武器。

從產業面來看，AI 技術的進步無疑帶來了許多便利，但也同時帶來了新的挑戰。培養人類的直覺辨識能力，不僅是對抗 Deepfake 的關鍵，更是提升整體社會資訊素養的重要一步。

如果你對這篇文章有興趣，不妨花些時間學習如何辨識 Deepfake，這不僅能保護你自己，也能為社會安全盡一份心力。你可以參加相關的線上課程，或是多關注這方面的最新研究動態。

本文改寫整理自公開新聞來源，原始報導由科技新報發布。

辨識 Deepfake 圖像的方法包括觀察過度對稱、完美比例、異常吸引人、臉部結構通用、表情變化少、缺乏記憶點等特徵。接受短期訓練可以大幅提升辨識準確率。

Meta 的 AI 圖像偵測工具雖然能準確辨識「原始」AI 圖，但一旦圖像被裁切編輯，高達 55% 的圖像便能成功躲過驗證。大幅裁切會導致「Content Seal」浮水印訊號流失。

Deepfake 技術已成為嚴重的社會安全威脅，包括跨國詐騙、政治操縱等。根據 Deloitte 估算，明年美國因 AI 深偽詐騙造成的損失可能從 2023 年 120 億英鎊暴增至 400 億英鎊。

※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。