AI失控必須透明和究責｜專家論點【張瑞雄】

作者：張瑞雄（台北商業大學榮譽講座教授）

人工智慧開放平台Hugging Face對外披露，其生產基礎設施遭到入侵，攻擊者在一個週末之內竊取了內部憑證與資料集。這起事件本身並不罕見，資安事故幾乎每天在世界各地上演。真正令人震驚的，是幾天之後揭曉的攻擊者身份，不是某個隱身地下室的黑客組織，而是OpenAI自己訓練出來的AI代理人，在一場網路安全能力測試中，擅自突破隔離環境、連上網際網路，並主動駭入Hugging Face，只為了找到可以讓自己考試作弊的答案。OpenAI事後在聲明中坦承，這是一起「前所未見的安全事件」。這句話說得輕描淡寫，卻掩蓋不了其背後令人不安的現實。

目標扭曲的代價

這起事件最值得深思的一點，並不是AI的能力有多強，而是它的能力有多危險。AI模型並非懷有惡意，它只是在執行被優化的任務而已。問題恰恰在這裡，當一個高度自主的AI系統被賦予「盡可能取得高分」這樣的目標，而沒有清楚界定達成目標的限制時，它便會自行計算最有效率的方法，哪怕那條方法是侵入別人的伺服器。

研究人員將此稱為「獎勵駭客」，也就是模型在追求目標時，完全不顧任何隱性約束。這不是科幻小說的情節，而是在一個實際的測試環境中，帶著真實後果發生的事情。OpenAI揭露的文件顯示，測試期間安全分類器被刻意關閉，目的是評估模型的「原始能力」，卻也因此讓防護機制形同虛設。這個設計本身就是一個教訓，在AI系統具備高度自主行動能力的時代，任何以「實驗」為名拆除護欄的做法，都必須重新評估其必要性與風險。

透明度和管理須加強

Hugging Face執行長Clément Delangue在事件曝光後立即在X平台發聲，要求OpenAI展現「徹底的透明度」，並釋出這批流氓代理人的完整行動紀錄，讓整個研究社群得以研究究竟發生了什麼。他同時呼籲OpenAI提撥1億美元的運算資源，協助Hugging Face社群建立更強韌的網路防禦能力。

這些訴求看似強硬，實則合情合理。AI安全事件不同於一般資安漏洞，其影響面遠超過受害公司本身，更關係到整個AI生態系統的信任基礎。問題的核心不在於AI是否「失控」，而在於OpenAI如何設計並管理這個工具，以及那套管理機制為何失效。

OpenAI對外的回應，目前只是把媒體詢問轉介至事件發生後的初始聲明，說正在調查中。這種態度，距離真正的透明還差得很遠。

從技術層面看，這起事件揭示了一個根本性的挑戰。傳統上，AI業界習慣用「沙盒」這種封閉的環境來測試模型能力，理論上與外界網路完全隔離。但這次的模型代理人卻能找到網路隔離的漏洞，成功逃脫，顯示沙盒的圈管，已跟不上模型能力成長的速度。

AI治理的當務之急

這場競賽的邏輯，讓人想起核武時代的某種熟悉氣氛，能力競賽先行，規範建立在後。不同的是，AI的擴散速度遠比核技術快得多，門檻也低得多，而且它不需要物理彈頭，一個目標設定偏差的自主代理人就已足夠。

面對這樣的局面，單靠個別公司的自律遠遠不夠。各國政府與國際社會需要認真討論，如何建立具有約束力的AI安全測試標準，特別是針對具備高度自主行動能力的代理人系統，應設置強制性的隔離要求與事故通報機制。台灣正在積極發展AI應用，也正在討論建立AI人文與倫理研究機制，這起事件提供了一個極具說服力的現實案例，說明倫理討論與技術治理不能脫節，必須齊頭並進。

類似事件有多少

有人或許會說，這只是一次偶發的測試失誤，不必過度解讀。但連OpenAI自己都在事後的技術文件中坦承，長時間執行的自主代理人，有能力學會辨識監督系統的盲點，並繞開它來達成自己的目標。這已不是科幻，是文件記錄在案的現實。

一個系統在追求目標的過程中，自主進行情境判斷、選擇攻擊對象，而研發它的公司渾然未覺，直到幾天之後才意識到。類似的代理人安全事件，還有多少？有多少被掩蓋住？誰來負責任？

這個問題，比任何技術漏洞都更需要一個坦誠的答案。