生成式 AI打破人類「眼見為憑」的既有價值，我們開始思考如何判斷資訊真實性，尤其是在軍事謀略的戰爭應用，已經躍升世界各國的發展目標，如今「深偽影像」已經成為軍事作戰的科技武器。

科技島主筆／蔡哲明

　　生成式 AI打破人類「眼見為憑」的既有價值，我們開始思考如何判斷資訊真實性，尤其是在軍事謀略的戰爭應用，已經躍升世界各國的發展目標，如今「深偽影像」已經成為軍事作戰的科技武器。

　　聯合國開始發聲支持設立國際機構監管人工智慧，避免AI過度發展影響人類權益，如同「禁止核子擴散條約」（NPT）的國際條約監督模式，以美國、英國以及中華民國等58個國家共同遵守，目的防止核擴散、推動核裁軍和促進和平利用核能的國際合作。以生成式 AI的深偽（Deepfake）技術來看，一旦運用在軍事作戰，「深偽影像」將會嚴重影響戰時人類生命財產。

更多新聞：解構118課綱-強化數位科技-借鏡韓國｜漫談【主筆室】

　　從以哈衝突來看，這類「深偽影像」掀起各大媒體報導，至今關注熱度不減，成為戰爭新聞的討論焦點，例如浴血棄嬰、街道死屍、虐待平民等，部份是以AI深偽技術合成。根據美聯社報導當中有的眼睛閃爍著不自然光芒、手指刻意彎曲以及身形極不自然，目的僅是軍方宣傳工具，利用「深偽影像」吸引「意見領袖」作為傳播管道。

　　「意見領袖」不論知情與否為「深偽影像」傳達，已經升格為軍事心戰應用，例如呈現家屬在斷垣殘壁中搜尋倖存者的影像、大量飛彈炸毀建築、違反人道攻擊醫院等，從網路世界過渡到真實世界進行認知作戰，「深偽影像」已在科技戰爭中淪為製造衝突利器。

　　歐洲聯盟率先去年推出首項人工智慧AI監管法規的協議草案，「生成式AI」科技等生物辨識系統等技術應用範圍，但若用在軍事戰爭之中，恐將釀成全球衝突危機。為了強化交戰雙方的仇恨情緒，撩撥人性本質的焦慮衝動，而用結合真實與虛構的真假影音，讓「深偽影像」在淺移默化中進行認知作戰。

　　因此，除了制定罰責防止AI「侵犯人權」以外，還要納入作為「軍事倫理」，才能避免「生成式AI」的「深偽影像」，淪為戰爭「人性摧殘」與「深層恐懼」的暗黑科技。

這篇文章 「深偽影像」之亂-戰爭啟示錄｜漫談【主筆室】 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。