AI專家 :AI像傳染病及核武器 人類有滅絕風險

編譯/莊閔棻

人工智慧(AI)公司首席執行長聯合簽署一份由「人工智慧安全中心」(Center for AI Safety、CAIS)發布的聲明,警告AI將帶來使人類「滅絕」的風險。簽署人包括AI新創公司OpenAI、DeepMind和Anthropic的首席執行長Sam Altman、Demis Hassabis、Dario Amodei,及350 多名AI工作相關人士。

人工智慧安全中心警告AI將帶來使人類滅絕的風險,不可不慎。(示意圖/123RF)

據外媒報導,這群AI專家認為,AI應該被視為與傳染病和核戰爭同等級的社會風險,並成為全球優先事項,共同制定相關政策。「AI教父」Geoffrey Hinton 、AI資深研究員Yoshua Bengio及微軟和Google的高層,也都是該聲明的簽署人。

目前OpenAI的Altman 和Anthropic的 Amodei 沒有對此做出回應。DeepMind 則表示:「AI將對社會產生變革性影響,我們必須了解它將帶來的潛在機遇、風險和危害。」並補充說,為了利用AI技術突破帶來的好處,同時降低危險風險,他們將致力於在其 AI 原則的指導下負責任地開發 AI,並強調與政策制定者和其他人的合作。

近幾個月來,隨著生成式AI工具快速發展,AI工具如ChatGPT 和 DALL-E等越來越受歡迎,人們的擔憂也隨之上升。此前,Hinton就為了討論AI的危險性而離開Google。他表示,AI將讓大家都不能分辨「什麼是真實的」而造成重大危害;OpenAI的Altman也一直呼籲政府要儘速做出監管。

早在 2023年3 月份,包括特斯拉首席執行長馬斯克在內的,其他AI專家也曾簽署過一封公開信,呼籲暫停開發比 OpenAI 的 GPT-4 更強大的 AI 模型六個月,以爭取時間設計和實施AI安全協議。

參考資料:InsiderThe New York TimesTech Crunch   

瀏覽 319 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button