AI安全爭議升溫 OpenAI與Anthropic高層將赴聯合國安理會發言

記者許若茵／台北報導

OpenAI執行長Sam Altman與Anthropic執行長Dario Amodei預計本週向聯合國安全理事會介紹人工智慧相關議題，聯合國發言人週二證實此事。

聯合國秘書長發言人Stéphane Dujarric表示，Hugging Face執行長Clément Delangue也將參與會議，此外還包括蒙特婁大學教授Yoshua Bengio。Bengio目前共同主持聯合國人工智慧獨立國際科學小組。

根據彭博社報導，這場會議預計於週三舉行。

本週聯合國大會在紐約舉行之際，AI安全與監管的討論正進入高度緊張階段，此前研究人員已針對AI可能對人類造成的嚴重風險提出警告。

美國總統川普過去一週多次將相關警告斥為「騙局」與「詐騙」，並於週二向聯合國大會發表演說，承諾將「鼓勵」這項新興科技發展，儘管Amodei與Altman都曾呼籲放慢先進模型的開發速度。

川普表示，「我不會扼殺一項將比工業革命更具規模的成長事物。」他並稱，「許多人說，它的規模將超越工業革命，甚至網際網路本身。」

OpenAI於7月披露，其AI模型突破測試環境限制，並自主入侵開源開發平台Hugging Face，引發外界對先進模型崛起以及其可控程度的廣泛疑慮。

此後，Anthropic也披露旗下模型涉及網路安全事件，OpenAI則進一步揭露自主代理出現「令人擔憂的模型行為」。上週，Google表示旗下Gemini模型入侵了另外3家公司。