湯姆克魯斯、歐巴馬、蘇納克和泰勒絲有什麼共同點？答案是它們都是網路上發布的深度偽造影片的主題，Deepfakes 是使用人工智慧生成的內容，它們可以用來模仿真人，而且栩栩如生，只有電腦才能偵測出它們不是真人。

作者：Howie Su（產業分析師）

生成式偽造AI正在入侵民主世界

湯姆克魯斯、歐巴馬、蘇納克和泰勒絲有什麼共同點？答案是它們都是網路上發布的深度偽造影片的主題，Deepfakes 是使用人工智慧生成的內容，它們可以用來模仿真人，而且栩栩如生，只有電腦才能偵測出它們不是真人。人工智慧工具的激增引發人們對利用深度造假來破壞聲譽、破壞民主選舉以及損害對經過驗證的真實線上資訊來源的信任的嚴重擔憂，世界經濟論壇的《2024 年全球風險報告》將錯誤訊息和假訊息列為未來兩年​​世界面臨的頭號威脅，2024 年 2 月，網路上出現模仿美國總統喬·拜登聲音的深度偽造影音，該音頻片段被用於針對美國新罕布什爾州民主黨選民的自動電話通話，在偽造的訊息中，可以聽到人工智慧產生拜登聲音，敦促人們不要在該州初選中投票。

由於定於 2024 年 11 月舉行美國大選，拜登看起來鄭宇川普爭奪總統寶座，為防止進一步深度偽造，美國當局正在起草新的法律，禁止生產和傳播冒充個人的深度偽造內容。

擬議的法律由美國聯邦貿易委員會（FTC）提出。美國聯邦貿易委員會警告說，先進技術正在推動用於欺騙毫無戒心的公眾的深度偽造品大幅增加，當局認為，詐欺者正在使用人工智慧工具以令人毛骨悚然的精確度和更廣泛的範圍冒充個人。隨著語音和其他人工智慧型態的詐騙不斷增加，保護民眾免受冒充者詐欺比以往任何時候都更加重要。，雖然這些擬議的法律旨在阻止詐騙者，但它們也適用於冒充政府和商業實體，因此如果簽署成為法律，可以提供保護選舉過程的法律保障。

深度假貨和分裂的社會

2024 年 1 月在達沃斯舉行的世界經濟論壇年會的關鍵主題之一是重建信任，深度造假對公眾信任的潛在影響是深遠的。當它們被用來歪曲政治家、公民領袖和行業領袖時，它們可能會削弱人們對政府、媒體、司法系統和私人機構的信心，隨著大眾對數位內容的真實性越來越懷疑，這種懷疑可能會導致人們普遍脫離公民生活，並減少知情的公共論述。包括微軟在內的大型科技組織已經開發了工具包來確保家庭的線上安全。其中包括透過批判性思考和質疑他們所看到的內容是否真實來幫助人們發現錯誤訊息和虛假訊息的指導，隨著世界深入進入人工智慧時代，控制人工智慧濫用的法律措施對於保護資訊和機構的信任至關重要。作為線上用戶，我們可能都必須更頻繁地挑戰自己：這是真的嗎？

事實上，不只美國，全球今年有七十幾個國家進入選舉，國內相關的法規與打假的措施需要不斷提出，否則將可能落入大量的偽造內容之中。

這篇文章 美國正在起草新法律以防止人工智慧深度偽造｜專家論點【Howie Su】 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

記者／劉閔 電視出現詐騙的新聞總是屢見不鮮，並且手法一直推陳出新，就連國外也是飽受其害。近期從美國聯邦貿易委員 …

記者／劉閔

電視出現詐騙的新聞總是屢見不鮮，並且手法一直推陳出新，就連國外也是飽受其害。近期從美國聯邦貿易委員會（Federal Trade Commission，FTC）公布 2022 年詐騙數據可發現「冒名詐騙」數量最為盛行，並且在這 5 千多起電話詐騙案件中財損金額就高達 1,100 萬美元；而令人憎恨的是這些電話詐騙的發話者可能藏於世界任何角落，以致很難將之繩之以法。

由於電話詐騙成本低廉，僅需一台電話便可執行，所以成為常見的詐騙手段。另外由於人工智慧技術持續進步，變相也提供詐騙者更好使用的工具。例如在 2019 年時詐騙集團便是利用人工智慧技術，合成仿冒英國能源母公司主管聲音，並向其下屬謊稱供應商需要資金，要求立即匯款，下屬不疑有他進而讓公司損失 20 多萬美元的案例。

而近幾年合成語音詐騙更是層出不窮，並且由於技術發展出現「深度聲音」、和「深度偽造」等令人更難以分辨的形式。這都是透過電腦深度學習技術來獲得人類語言、特徵，之後再製造出能夠以假亂真的相似內容。

根據外媒報導，來自加州大學的數位鑑識學教授 Hany Farid 表示，兩年前電腦還需要長時間樣本分析，才有辦法將聲音模仿到位；但現在 AI 僅需要短短 30 秒就可以捕捉聲音特徵，包含年齡、性別甚至口音等如此精細地步。

有鑑於此各界總是不斷呼籲，面對突來的或是感覺不安甚至疑惑的電話，第一步仍然需要先保持冷靜，不可貿然輕易相信對方，並且嘗試於通話後主動聯繫當事人，確認事件真偽。唯有如此再三確認，才能免於淪為人工智慧下的犧牲品。

這篇文章 AI 技術推波助瀾　語音偽造成詐騙工具 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

編譯／曲姵蓉 中國中央網絡安全和信息化委員會辦公室和國家互聯網信息辦公室，1月10日發布最新法規命令。該辦公室 …

編譯／曲姵蓉

中國中央網絡安全和信息化委員會辦公室和國家互聯網信息辦公室，1月10日發布最新法規命令。該辦公室認為現今全球網路和深偽技術（ Deepfake，也稱深度偽造）發展快速，已經引發人民對假訊息影像的擔憂，因而推出相關法規，以規範深度偽造技術的使用和政府監管依據。

根據報導，深度偽造建立於人工智慧的技術基礎，讓其用戶可以在社群媒體上，將想要的任何臉替代原始影片的臉，或者扭曲原始影片內人說的話，它不僅會造成假訊息風波，更會侵害人的肖像權，因此近年來成為許多民眾的隱患。中國中央網絡安全和信息化委員會辦公室和國家互聯網信息辦公室就曾經發出警告，認為這項技術可能會被不法分子利用，傳播非法訊息，或盜用他人身分進行詐欺行為。

因此，該辦公室在新法規中明令要求有提供深度偽造技術的企業，必須向政府提供用戶的真實身分，除此之外也要在其APP內提供影片內容適當的標籤，以避免用戶有其他的混淆。

報導也進一步提到，中國一直在致力於監管那些會對共產黨權力構成威脅的技術。在過去一年，中國就已經針對相關產業進行控制，數家本土科技巨擘都向北京政府提交其嚴密保護的企業機密。

中國近年來對科技行業以及網路業務不斷進行打壓，最顯著的例子就是2020的螞蟻金服事件。

資料來源：TechXplore

這篇文章 防範DeepFake 中國祭出新法規 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。