OpenAI開發生成圖片分辨工具   準確率不給力

記者／劉閔

隨著生成式 AI 技術不斷發展，以往分辨一張是否為 AI 創作的圖片多少仍有跡可循，但如今似乎已經無法光靠肉眼分辨，因此以假亂真的 AI 生成圖充斥著社交媒體、並淪為一個亟需解決的社會問題。對此，ChatGPT 開發商 OpenAI 表示正試圖開發一套可以檢測自家 DALL-E 3 影像生成器產生的圖像工具，且號稱準確率可達 98%，然而事實真是如此嗎？

檢測工具仍存缺陷

根據 OpenAI 指出，大多數情況下這套工具檢測出 DALL-E 3 生成的內容準確率可達 98%，不過其實它存在著相當大的限制。據了解，首先要達到公布的數據，受測的圖像必須是由 DALL-E 3 所創建，然而 DALL-E 3 只是坊間眾多個圖片生成引擎工具中的其中一個。來自內部知情人士透露，如果換成其他 AI 模型所創作的圖片，那麼該系統只能成功識別出當中的 5% 至 10% 左右。

更多新聞：傳三星將推「電池優化 AI」 使用壽命延長10％

圖片色調改變 分辨工具可靠度受影響

不僅如此，當這些圖像經過裁剪或截圖後，雖然只算是輕微修改，但辨識成功率還是會受影響。如果只是調整這些照片的色調，那麼該工具的可靠性就會大打折扣，對此官方甚至沒有公布這些情況下的成功率，僅簡單聲稱「其他修改將會降低辨識表現」。

關於這些限制，OpenAI 承認正在對外尋求研究人員的幫助，希望共同找出解決方案。據《華爾街日報》報導，OpenAI 正著手與微軟（Microsoft）啟動一項 200 萬美元的「社會韌性」（societal resilience）基金，希望能藉由 AI 相關教育，加強人們辨識造假圖片的能力。

瀏覽 112 次