AI發展恐失控毀滅人類？科技先驅接連示警「生存危機」

記者許若茵／編譯

隨著研究人員警告人工智慧可能帶來災難性風險，一些協助開發這項技術的先驅也開始提出警告，提醒外界注意AI能力不受限制發展所可能帶來的危險。

過去一週，一連串嚴峻的AI安全警告陸續出現，包括Anthropic、OpenAI與Google DeepMind等主要AI實驗室的研究人員，都對開發這項技術可能造成的災難性風險發出警訊。包括Sam Altman、Dario Amodei、Demis Hassabis與Elon Musk在內的AI企業領導人，也罕見地在要求放緩AI發展與加強監管方面出現共識。

與此同時，相關疑慮也加劇華盛頓的辯論。美國國會部分民主黨與共和黨議員主張透過法案限制AI發展，但美國總統川普週一則猛烈抨擊日益增加的AI監管呼聲。

加拿大電腦科學家Yoshua Bengio被視為現代深度學習的重要先驅。Anthropic研究員Jacob Coxon宣布辭職並警告AI可能「在這個十年結束前殺死我們所有人」後，Bengio於9月9日表示，「前沿AI實驗室的科學家對最先進模型有獨特的洞察。」他補充，科學家通常會在模型向大眾發布前數個月，就看到「相關風險」。「他們的觀點對讓社會了解情況至關重要，應該受到非常認真的看待。」

在社群媒體上的討論爆發前幾天，OpenAI首席科學家也曾警告，「沒有人準備好面對AI的後果」，Bengio週五在一篇部落格文章中表示，目前的AI系統「已經具備必要的駭客技能與說服能力，可能被用來對抗人類利益，造成嚴重傷害」，近期事件已經顯示AI能夠進行持續數天或數週的規劃，而如果AI持續提升長期策略能力，風險將會更加嚴重。

Bengio說，「我對AI公司目前試圖降低錯位風險的做法感到擔憂，這些努力可能只是透過獎勵並挑選不被發現作弊的AI，將錯位行為隱藏起來。」，應該持續研究更好的方法，以監控AI的行動、思考鏈，以及其網路內部的活動。

多倫多大學榮譽教授Geoffrey Hinton被視為神經網路與深度學習先驅。BBC於9月10日詢問Hinton，他是否認為AI在十年內殺死所有人類的機率高於10%，Hinton表示：「這是非常難以估計的事情，因為我們以前從未遇過類似情況。我們從未創造過可能很快就比我們更聰明的存在。」他認為，10%的機率並非「不合理」，但也補充說，「沒有人真正知道該如何提出合理的估計」。

Hinton表示，AI系統可能設計出「非常可怕」的生物病毒，也可能製造電腦病毒並發動「毀滅性的網路攻擊」。「如果它想要消滅我們，還有無數其他方法。我們必須想辦法設計它，讓它不會想這麼做。」他補充說，「我們有兩種可能的未來。一種是我們在這些危險失控前，找到處理它們的方法；另一種則是我們沒有做到。」

AI公司Cohere共同創辦人兼執行長Aidan Gomez，是2017年研究論文《Attention Is All You Need》的作者之一，該論文為今日主流AI模型奠定基礎。

Gomez於9月1日接受CNBC節目《The Tech Download》Podcast訪問時回應，「我認為這些模型是有史以來最強大的網路武器，也是我們見過最強大的網路武器。它們非常擅長大規模尋找並利用漏洞。」他表示，「近期事件讓一件事變得很清楚，部署環境的安全性決定了安全程度。」他所指的是夏季期間由失控AI模型進行的網路安全攻擊。

Gomez告訴CNBC，「薄弱的容器安全性才是造成突破事件的原因，而不是系統本身存在走向自主化的內在傾向。」政策制定者在思考如何治理AI時，應該認識到不同系統承擔的風險各不相同，規則不應只由追求AGI的大型科技公司來塑造。

資料來源：CNBC