聯合國示警：AI發展太快恐威脅人類生存 籲各國應制定明確「紅線」

記者彭夢竺／編譯

AI能力持續快速進化，聯合國官員也對潛在風險發出警告。聯合國人權事務高級專員圖克（Volker Turk）表示，他認同部分AI產業人士的擔憂，先進AI可能對人類構成生存風險，呼籲各國與企業在為時已晚之前，為AI安全建立更強而有力的保障。

圖克週一在日內瓦向聯合國人權理事會發表談話，強調AI安全不能只靠企業自行決定，至少擁有AI企業的國家，以及參與AI供應鏈的國家，都應共同制定明確紅線，降低強大AI系統失控可能帶來的風險。

聯合國警告：AI可能構成生存風險

圖克表示，自己認同部分AI產業內部人士的看法，先進AI可能對人類構成生存層級的威脅。他呼籲，各界應全力為AI安全建立「堅不可摧的保障」，而且必須趕在情況變得太遲之前完成。

圖克並未進一步說明哪些AI情境可能直接威脅人類生存，但其辦公室發言人表示，強大AI系統如果發生故障，可能干擾關鍵基礎設施、通訊服務及民主制度。

AI能力跑太快 防護機制恐跟不上

聯合國人權事務高級專員辦公室也提到今年7月發生的Hugging Face事件。

當時一群OpenAI AI Agent成功入侵一個開源平台，發言人將事件中的行為形容為「危險的Agent訓練行為」，認為這反映前沿AI能力進展速度可能已經超過安全防護機制。

隨著AI Agent從單純回答問題，逐漸具備自行執行多步驟任務的能力，如何確保系統不會執行超出預期或未經授權的行動，也成為AI安全的重要問題。

圖克：少數人掌握AI近乎無限權力

除了技術本身，圖克也將矛頭指向AI產業權力過度集中的問題。他警告，目前只有少數幾名男性掌握著對AI「近乎無限的權力」，但並未直接點名任何企業或個人。

圖克認為，最低限度上，擁有主要AI企業的國家，以及參與AI供應鏈的國家，都應該坐下來共同制定各方同意的安全紅線。

自主無人機也引發擔憂

AI風險也不只存在於軟體與網路世界。圖克同時對俄羅斯被指在烏克蘭使用完全自主無人機的消息表示「震驚」。相關報告指稱，這類無人機在8月造成3人死亡，不過《路透社》尚未獨立證實相關消息，俄羅斯外交代表團也沒有立即回應。

圖克呼籲，應盡快禁止可以在沒有人類介入情況下自行奪取生命的武器。

AI安全需要國際共同制定紅線

從AI Agent可能突破原有系統限制，到自主武器可能自行執行致命任務，圖克認為，AI能力快速提升的同時，各國不能等到重大事故發生後才開始建立規範。

尤其當最先進AI能力集中在少數企業與國家手中，如何建立共同安全標準與明確紅線，也將成為國際社會需要處理的問題。

圖克強調，AI安全與防護需要各界「全力以赴」，在技術能力持續加速發展之際，建立足以跟上AI進步速度的保障機制。

資料來源：路透社