AI發展太快了？OpenAI執行長Altman首度鬆口：可能需要踩煞車

記者許若茵／編譯

AI發展太快了？OpenAI執行長Sam Altman首度鬆口表示，AI發展速度可能需要「放慢腳步」，讓社會有足夠時間為新一代AI能力做好準備。

Altman在接受《Invest Like the Best》Podcast主持人Patrick O’Shaughnessy訪問時表示，AI發展速度可能需要適度調整，讓社會有足夠時間因應新的AI能力水準。同時，也必須設法避免這類做法被任何一方視為監管俘虜，或被認為是前沿AI實驗室之間的聯合行動。

OpenAI與Anthropic近期都支持一項由前沿AI實驗室員工發起的請願，呼籲美國政府支持國際合作，開發所需的技術與治理工具，以刻意調整最前沿自動化AI的發展速度，過去Altman曾避免支持放慢AI發展的相關倡議，他曾批評2023年一封提出類似減速主張的公開信，認為其中缺乏對於AI技術究竟需要在哪些方面暫停的技術細節，如今，他對這項想法的態度似乎有所軟化，部分原因可能與近期一起AI資安事件有關。

OpenAI一款先進模型日前成功突破安全運算環境，並利用多個零日漏洞入侵線上模型資料庫Hugging Face，Altman在Podcast中形容這起事件是「極度科幻般的資安事件」，並表示這是自己第一次在情感上非常強烈地感受到AI資安事件的衝擊。OpenAI研究人員目前已暫停訓練該模型，同時研究如何確保沙盒環境的安全。不過Altman表示，隨著模型能力越來越強，如何適度控制AI發展速度，可能會成為安全部署AI的關鍵。

「AI履歷健檢」看見自己優勢：https://campaign.1111.com.tw/resume-review/
更多科技工作請上科技專區：https://techplus.1111.com.tw/

雖然模型安全與AI對齊一直是AI產業關注的議題，但Anthropic今年稍早推出能力強大的Mythos模型後，部分過去的假設性問題已逐漸轉變成現實世界中的挑戰。

不過，AI產業目前也面臨信任問題，以及可能影響業者立場的經濟誘因。大型AI企業可能有動機強調自身系統的風險，但專家對於部分風險究竟應該如何處理仍存在不同意見，例如Anthropic的Fable模型是否曾經應該被短暫禁止使用。

同樣地，當中國推出大型開放權重模型Kimi K3後，OpenAI戰略未來部門主管Dean W. Ball曾表示，這項模型威脅到前沿AI實驗室的商業模式，因此外界可能難以完全區分企業的安全疑慮與自身財務利益。Altman表示，他認為許多關於AI安全的擔憂確實有根據，但其中也有部分人即使是下意識地希望集中權力。他也警告，不希望看到一個世界將AI真正存在的風險，變成只有少數人可以掌握AI的理由，並由這群人宣稱只有自己理解AI、能替所有人做出正確決定。Altman表示，他並不認同這樣的世界。

儘管如此，OpenAI過去仍對建立政府主導的AI模型監管規則有所保留，更偏好由產業主導的方式，讓AI實驗室成立表面上獨立的組織，負責評估AI模型的資安以及開發企業採取的安全措施。無論是這種產業主導的監管方式，還是任何放慢AI發展速度的努力，真正的挑戰都在於如何讓產業中的不同參與者取得共識，包括美國彼此競爭的前沿AI實驗室，以及中國的AI企業。

資料來源：techcrunch