人類造出的AI怪物管得住嗎？｜專家論點【張瑞雄】

作者：張瑞雄（台北商業大學榮譽講座教授）

美國政府以國家安全為由，突然對Anthropic公司最先進的AI模型Fable實施出口管制，等同於直接「封鎖」了一個私人企業剛發布的商業產品，震驚全球科技圈。兩週後，Anthropic的另一款模型Mythos 5才逐步獲准向部分「可信賴」機構開放使用。幾乎在同一時間，白宮要求OpenAI分階段推出GPT-5.6，限制存取範圍。AI監管，正式進入國家安全的新時代。

怪物已在搖籃裡醒來

這一切的背景，是AI能力的加速躍進。神經網路的運作邏輯與傳統軟體截然不同，後者每一行程式碼都清晰可循，而前者更像是在海量數據中「培育」出來的生命。Anthropic的執行長Dario Amodei曾坦言，人類對自己研發的AI模型，理解程度大概只有3%。換句話說，我們正在催生一種我們幾乎不懂的東西，而且它正以自主學習的方式越來越強大。

更令人憂慮的是，業界普遍預期AI即將具備足夠的工程能力，可以自行設計並改良下一代AI系統。一旦AI擁有遞迴式自我改良的能力，人類可以控制它的時間窗口，可能就此關閉。所謂「超級人工智慧」(Artificial Superintelligence，ASI)，不再是遙遠的科幻想像，而是實際的技術路線。

「AI履歷健檢」看見自己優勢：https://campaign.1111.com.tw/resume-review/
更多科技工作請上科技專區：https://techplus.1111.com.tw/

緊急關閉開關

面對這種局面，各國政府開始有所行動。英國有議員提出在網路安全立法中加入「緊急關閉開關」條款，讓政府在特定情況下有權切斷境內資料中心的運作。加拿大已有30多位國會議員連署，呼籲政府禁止超級智慧的開發。川普政府則在今年6月5日簽署備忘錄，表態支持AI緊急關閉機制的概念。

這些措施看似積極，但都面臨一個根本困境，如何定義「超級智慧」的門檻？因為我們不了解AI，若等到確認超級智慧出現才行動，屆時早已來不及。但若連定義都模糊，立法要管的究竟是什麼？監管線要畫在哪裡？

利潤與末日之間的矛盾

在技術前線工作的工程師，心態上並不像外人想像的那樣悲天憫人。相當一部分的矽谷精英抱持著「超人類主義」的信念，盼望AI最終能取代生物性的人類，讓意識上傳、永生成真。另一部分人則沒有那麼深刻的哲學理念，只是追著高薪與技術挑戰跑，沒有太多時間去想後果。

這種生態，揭示了一個結構性問題。AI競賽的動能，來自於資本、好奇心與地緣政治的三重加速。頂尖的AI實驗室既是私人企業，又背負著讓投資人滿意、讓政府信任、讓社會接受的多重壓力。在這樣的框架下，自主煞車幾乎是不可能的，因為一旦某家公司停下來，競爭對手就會超越。

Anthropic今年6月公開呼籲業界協調、共同暫停開發先進AI的聲明，本質上是一種政治姿態，也是一種技術誠信的表態，但沒有任何機制保證其他公司跟進。更別說在美中科技競爭的地緣架構下，任何一方的單方面讓步，都會被解讀為戰略示弱。

人類要清醒

支持快速推進AI的人常說，「末日論」不過是缺乏根據的恐慌，也有人認為AI會自主發展出消滅人類的動機，是「迷信式的誇大」。這種觀點有其市場，尤其在風險投資圈。但問題不只在於AI會不會突然「想殺人」，更在於人類是否有能力治理一種比人類更聰明的系統，尤其當控制這個系統的人，本身就有各自的私利與盲點。

真正的挑戰，是如何在技術仍在高速前進時，建立一套跨越國界、具有可信監督機制的國際架構，而不是各國各自為政、立法緊追不上現實。一種「信任但驗證」的多邊協議構想，讓主要AI大國共同簽約、相互查核，在概念上最接近實際可行的方向。但在當前美中關係緊繃的現實下，這樣的協議要從構想走向談判桌，需要的政治能量恐怕不亞於核武不擴散條約的達成。

當年設計核武的科學家中，也有人在第一次核試驗成功的瞬間，腦海中浮現的是毀滅的景象，而不只是勝利的喜悅。AI時代的我們，是否有同等的清醒？