OpenAI開發生成圖片分辨工具   準確率不給力

記者/劉閔

隨著生成式 AI 技術不斷發展,以往分辨一張是否為 AI 創作的圖片多少仍有跡可循,但如今似乎已經無法光靠肉眼分辨,因此以假亂真的 AI 生成圖充斥著社交媒體、並淪為一個亟需解決的社會問題。對此,ChatGPT 開發商 OpenAI 表示正試圖開發一套可以檢測自家 DALL-E 3 影像生成器產生的圖像工具,且號稱準確率可達 98%,然而事實真是如此嗎?

為了有效幫助分辨圖片是否為 AI 創作,OpenAI 正在對外尋求研究人員的幫助,希望共同找出解決方案。圖 / 123RF

檢測工具仍存缺陷

根據 OpenAI 指出,大多數情況下這套工具檢測出 DALL-E 3 生成的內容準確率可達 98%,不過其實它存在著相當大的限制。據了解,首先要達到公布的數據,受測的圖像必須是由 DALL-E 3 所創建,然而 DALL-E 3 只是坊間眾多個圖片生成引擎工具中的其中一個。來自內部知情人士透露,如果換成其他 AI 模型所創作的圖片,那麼該系統只能成功識別出當中的 5% 至 10% 左右。

更多新聞:傳三星將推「電池優化 AI」 使用壽命延長10%

圖片色調改變 分辨工具可靠度受影響

不僅如此,當這些圖像經過裁剪或截圖後,雖然只算是輕微修改,但辨識成功率還是會受影響。如果只是調整這些照片的色調,那麼該工具的可靠性就會大打折扣,對此官方甚至沒有公布這些情況下的成功率,僅簡單聲稱「其他修改將會降低辨識表現」。

關於這些限制,OpenAI 承認正在對外尋求研究人員的幫助,希望共同找出解決方案。據《華爾街日報》報導,OpenAI 正著手與微軟(Microsoft)啟動一項 200 萬美元的「社會韌性」(societal resilience)基金,希望能藉由 AI 相關教育,加強人們辨識造假圖片的能力。

瀏覽 143 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button