如何分辨深度偽造?多項細節可看出端倪

編譯/Cynthia

深度偽造(Deepfake)技術快速發展,使真實和虛構界線變模糊,對政治家和名人產生影響,最近倫敦市長Sadiq Khan和歌手Taylor Swift遭深度偽造攻擊,即引起社會高度關注,OpenAI的Sora技術更進一步挑戰真偽識別。

深度偽造技術快速發展,使真實和虛構界線變模糊。示意圖。圖/123RF

AI業界應對挑戰

受到Taylor Swift深度偽造風波啟發,Microsoft全面禁止製作名人影像,OpenAI和Google實施內容審查,但使用者仍巧妙規避,挑戰政策效力。AI業者嘗試透過數位浮水印提升,但要找到解決策略仍面臨艱鉅挑戰。風險管理公司Deloitte的Leena Ammanath指出,隨AI技術進步,操控內容變得更容易,需更多努力防止惡意擴散。

更多新聞:AI發展兩面刃、Deepfake恐武器化 Check Point示警8大網路安全趨勢

美國和歐盟在深度偽造法規方面仍處於初步階段,美國已有14個州提出法案應對選舉風險。儘管法規進展有限,但突顯了監管機構對AI生成內容風險的關切。歐盟致力將非同意分享私密影像視為刑事行為,而英國則計劃將分享深度偽造圖像視為刑事行為,都反映國際上對應對AI生成內容挑戰的共同關切。

深度偽造的檢測技巧

為了預防深度偽造的威脅,使用者應留意以下特徵,有效檢測深度偽造的影像、視訊和音訊:

  • 不尋常的手部描繪:觀察手部動作是否與真實環境相符。
  • 臉部周圍邊緣粗糙:細看臉部周圍邊緣,粗糙或不自然的外觀可能是深度偽造的線索之一。
  • 皮膚紋理不一致:觀察影像中的皮膚紋理,不一致或異常的紋理可能暗示著深度偽造的存在。
  • 部分模糊:注意圖像中是否有部分區域出現模糊,這可能是深度偽造工具無法完全模擬真實場景的表現。
  • 異常照明或失真: 注意光線和影像中的照明情況,異常的燈光或失真可能是深度偽造的痕跡之一。
  • 不自然的眼睛、手和身體律動:觀察影片中人物的眼神和身體律動,不自然的眼神或動作可能是深度偽造的特徵。
  • 嘴唇動作是否與聲音同步:注意嘴唇動作是否與聲音同步,不一致的情況可能顯示影片經過修改。
  • 不尋常的燈光及陰影:留意影片中的燈光和陰影,不自然的光線情況可能是深度偽造的線索之一。

雖然以上特徵供參考,但深度偽造檢測不容易,使用深度偽造檢測工具,如機器學習算法和神經網路,是更可靠的手段之一。

總體而言,深度偽造趨勢無法避免,AI業者和監管機構找到解決方案,使用者需持續學會辨識深度偽造,特別是在這數位內容時代,信任數位內容的真實性沒有單一方法可依賴,但透過提高警覺性和持續學習,仍有助於防止虛假資訊的傳播。

資料來源:Techopedia

瀏覽 942 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button