憂AI失控風險 OpenAI與Anthropic齊聲示警：AI治理刻不容緩

記者許若茵／編譯

擔心AI研發隨著技術日益進步，擔憂AI失控，OpenAI呼籲，成立一個國際性組織，負責監督人工智慧發展，並在必要時協調全球放緩先進AI技術研發進程，這也與Anthropic上周發表的聲明相呼應。

OpenAI執行長Sam Altman與首席科學家Jakub Pachocki於周一發布的部落格文章中表示，這類組織的重要目標之一，是讓全球能夠採取協同行動，包括在必要時減緩前沿AI技術發展速度，確保社會韌性、安全性與技術對齊能力能跟上發展步伐。

Anthropic上周發表的聲明表示，如果有能力做到，單方面踩煞車減緩全球AI發展速度，可能是一件有益的事，Anthropic提出這項看法的原因，來自公司內部觀察到所謂的「遞迴式自我改進」現象，也就是AI模型能夠協助訓練下一代更先進的AI模型，公司認為，這種能力可能加速技術進步，同時也提高人類失去控制權的風險。

這類被稱為「智慧爆炸」的情境，過去也曾引發科技界高度關注，2023年一封Elon Musk、Yoshua Bengio等科技界人士聯署支持的公開信便曾呼籲暫停開發前沿AI模型六個月，理由是商業利益可能凌駕安全考量，進而導致不可預測風險。

「AI履歷健檢」看見自己優勢：https://campaign.1111.com.tw/resume-review/

OpenAI在最新文章中同樣提到AI具備自我改進潛力，Altman與Pachocki表示，他們相信AI參與AI研究，將在未來幾年成為決定技術進步速度的關鍵因素，兩人預測，到了2028年3月，OpenAI相當大比例的研究工作可能由AI系統與研究人員共同完成。

OpenAI指出，目前公司重要目標之一，就是打造自動化AI研究員，另一項目標則是為全球每個人提供個人化AGI，不過，目前人工通用智慧（AGI）仍缺乏業界公認定義。

一般而言，AGI被視為能夠執行所有認知任務，且表現至少達到一般人類水準的人工智慧系統，然而，這類系統是否能夠透過現今大型語言模型架構實現，仍存在廣泛爭議。

更多科技工作請上科技專區：https://techplus.1111.com.tw/

多年來，OpenAI持續將AGI描繪為未來發展方向，而這項願景也協助公司吸引大量投資，直到最近之前，OpenAI一直是全球估值最高的新創公司，但上個月已被Anthropic超越，目前市場預期OpenAI與Anthropic都可能於今年上市。

隨著兩家公司逐步邁向公開市場，外界也開始擔憂企業對股東獲利責任，未來是否可能超越對AI安全議題的重視，因此，兩家公司接連呼籲成立獨立國際監管機構，被部分觀察人士視為一項警訊，在AI能力快速提升的情況下，全球或許需要更完善的治理機制，否則技術發展速度可能很快超出現有監管能力範圍。

資料來源：gizmodo