AI深度學習教父：超智慧AI恐讓人類10年內滅絕

記者鄧天心／綜合報導

在AI領域被譽為「教父」之一的加拿大蒙特婁大學教授約書亞·班吉歐（Yoshua Bengio），近日再度發出警訊，他認為，科技公司爭相開發AI的競賽，可能導致人類面臨滅絕風險。

班吉歐以深度學習的奠基性貢獻聞名，多年來持續警示AI的潛在威脅。然而，AI技術的快速進展並未因此停步。過去半年內，OpenAI、Anthropic、伊隆·馬斯克的xAI，以及谷歌的Gemini，都推出了新模型或升級版本，試圖在AI競賽中拔得頭籌。OpenAI執行長山姆·奧特曼甚至預測，AI將在十年內超越人類智能，其他科技領袖則認為這一天可能來得更快。

延伸閱讀：

ChatGPT免費用戶將看到廣告？OpenAI官宣全新變現策略

班吉歐在接受《華爾街日報》訪問時指出，如果我們創造出遠比人類聰明的機器，並賦予它們獨立的保存目標，這將極其危險。「這就像創造一個比我們更聰明的競爭對手，」他說。這些AI模型是基於人類語言和行為訓練而成，因此可能學會說服或操縱人類，以達成自身目標。但AI的目標不一定與人類一致，這就是問題所在。

他引用近期實驗為例：在某些情境下，AI若被迫在自身保存（即達成既定目標）與人類生命安全之間選擇，可能會優先選擇犧牲人類來保全目標。這顯示AI的決策邏輯，可能在關鍵時刻背離人類福祉。

過去幾年，已有多起案例證明AI能說服人類相信虛假事實，甚至影響沒有精神疾病史的人。反之，人類也能使用說服技巧，讓AI提供原本被禁止的回應。這凸顯AI與人類互動的雙向風險。

班吉歐強調，這些現象證明我們需要獨立第三方機構，嚴格審查AI公司的安全方法論，今年6月，他發起非營利組織LawZero，獲得3000萬美元資金，旨在開發一種安全的「非代理型」AI，用來監督科技巨頭的系統。

班吉歐預測，AI模型的重大風險可能在5至10年內浮現，但他呼籲人類應及早準備，以防風險提前到來，「滅絕等災難性事件，乃至破壞民主的較輕微災難，都極其嚴重。」

資料來源：The Independent、wsj