隨著生成式 AI 工具日益普及，辨識 AI 生成或修改圖像的重要性與日俱增。過去製作逼真假圖需要專家投入大量時間精力，如今只需簡單的鍵盤輸入或滑鼠點擊即可完成。

微軟AI for Good Lab近期發表的重要研究顯示，人類辨識AI圖像的能力「僅略高於擲硬幣機率」，這一發現令人警醒。該研究基於微軟2024年8月推出的「真假圖像測驗」（Real or Not），吸引超過12,500人參與，進行約28.7萬次圖像判斷，整體正確率僅達62%。

（Source：微軟）

研究結果揭示了幾個關鍵發現。首先，人們在辨識人物圖像方面表現較佳，正確率約65%，而辨識自然風景的正確率僅59%。研究人員認為這與人類天生對人臉的高度敏感有關，正如英國薩里大學（University of Surrey）研究指出，人腦會被臉部吸引，甚至「在各處看到臉部」。

令人意外的是，最難辨認的圖像往往是真實照片，但包含看似「不自然」的元素，如特殊光照條件造成的怪異光線效果。而由生成對抗網路（GAN）製作的圖片辨識錯誤率最高，達55%。

這項研究特別關注日常生活中可能遇到的圖像類型，避免選用刻意刁鑽或誤導性的圖片。即便如此，結果仍顯示普通的AI圖像也能輕易欺騙人眼。研究團隊強調，隨著生成式AI快速發展和圖像生成器不斷更新，產出圖像越來越逼真，因此研究結果很可能高估了當今人們分辨AI圖像的實際能力。

面對這項挑戰，AI偵測工具展現出更高的可靠性。微軟正開發的AI偵測工具據稱能以超過95%的準確率識別真實與AI圖像，遠優於人類表現。然而，研究團隊也提醒這些自動化工具同樣會出錯。

為應對AI帶來的資訊誤導風險，微軟推動更高透明度標準，包括加入可見浮水印和強化圖像辨識機制。不過報告指出，僅靠浮水印可能不夠，因為容易被裁切或修改移除。

這份研究提醒我們，視覺欺騙正變得日益高明，而我們可能根本察覺不到。未來值得關注的是，偵測工具能否跟上甚至超越它們要偵測的AI技術。目前「真假圖像測驗」仍開放參與，為持續研究提供寶貴數據。

• “Only slightly better than a coin flip” — most people can be fooled by AI images. Think you can do better?
• Microsoft’s Study Reveals Humans Are Struggling to Spot AI Images

（首圖來源：AI 生成）

延伸閱讀：

• 「看起來精緻但其實錯了」，生成式 AI 醫學影像準確性堪憂

文章看完覺得有幫助，何不給我們一個鼓勵

想請我們喝幾杯咖啡？

每杯咖啡 65 元

您的咖啡贊助將是讓我們持續走下去的動力