遏止AI亂象　中國立法禁止無浮水印AI生成品

AI趨勢興起，成為中國最新的管制對象。近日「中國國家互聯網信息辦公室」發布命令：禁止創建、散布沒有明確標籤，如浮水印的 AI 生成產品。

根據《Ars Technica》報導，這項禁令將於 2023 年 1 月 10 日生效。中國的國家互聯網信息辦公室負責監管、監督和審查各種網路活動。 而根據新規定，政府展現了他們對AI「深度合成」技術的密切關注。

中國政府指出，文字、圖像、語音和影片合成等AI浪潮，對於未來的經濟增長來說很重要。雖然近年來，AI合成技術因為發展迅速，大大提升了用戶體驗，但同時卻也常常被一些不法之徒用來犯罪、影響社會秩序、損害人民合法權益、危害國家安全和社會穩定。

根據新規定，每個AI生成產品都將先接受政府的安全評估，要符合規定才能發布。此外，監管部門還特別強調，智慧型對話、合成人聲、人臉生成、沉浸式虛擬現實等服務都應該有醒目的標誌，如浮水印，以避免公眾混淆或誤認。同時，任何組織和個人都不得利用技術手段刪除、篡改或隱藏相關標誌。此外，提供AI合成技術的公司都必須依法保留生成記錄，使用該技術的人也必須用真實姓名註冊帳號，以利追蹤。

中國表示，訂定此規定是為了防範和化解安全風險，同時也是為了促進AI綜合服務的健康發展。隨著生成式AI越來越進步，為其訂定規範與標準成為了每個國家都需要面對的問題。（編譯 / 莊閔棻）

參考資料：Ars Technica

瀏覽 569 次