AI若失控無法確保安全 黃仁勳直言：那就不要發布產品

記者許若茵／編譯

無論有多少前AI實驗室員工發出警告，輝達Nvidia執行長黃仁勳不認為人工智慧對人類構成生存威脅，不過，如果Anthropic或OpenAI等公司的內部人員真的已經接近可能摧毀世界的程度，黃仁勳提出的做法是「關閉這些實驗室」。

黃仁勳接受《Ezra Klein Show》訪問時，持續對AI領域最悲觀的部分潑冷水，同時也向那些認為自身技術強大到可能讓人類失去工作機會的公司提出一項簡單直接的建議，也就是一開始就不要讓這項技術失控。

他表示，「假設你要製造一輛自駕車，比如說是一輛機器人計程車，而它遇到一個非常困難的情況。身為工程師，我們就是不知道該如何解決這個問題，因為這些車不是被編程，而是經過訓練。我們不知道該如何訓練這些車，也不知道如何讓它們符合道路上所要求的安全標準。」他接著說：「答案是什麼？不要出貨。」

黃仁勳進一步表示，如果存在某個問題，例如Anthropic執行長Dario Amodei所說的AI代理群可能在幾個月內接管整個網際網路，而前提是沒有放慢發展速度，那麼這個問題就必須在產品公開之前解決。如果無法解決，就不應該發布產品。

黃仁勳直言，「現在，如果AI實驗室說另一個選項是：我們沒有辦法控制實驗，真的完全沒有辦法；當我們測試AI模型時，它就會逃出去，並傷害世界，那麼我認為答案就是我們必須關閉這些實驗室。」

他也特別強調，應該將決策權交還給那些似乎願意在聲稱AI發展可能已經超越自身理解或控制能力時，仍繼續推進的AI實驗室。

黃仁勳認為，「這些都是擁有自主決策能力的公司。這些都是擁有自主決策能力的執行長。如果我認為自己即將推出一項不安全的產品，那麼完全在我的能力、權力與責任範圍內，而且我也有動機不推出這項產品。」

黃仁勳基本上採取了一種「不要創造出折磨人類的終極災難」式的科技發展觀點。但當他進一步解釋這項立場時，理由並不完全如人們可能期待的那樣以人類利益為核心。相反地，黃仁勳似乎更傾向認為，自由市場本身足以提供保護。

他談到為何可能對人類構成生存威脅的實驗室應該關閉時表示，「因為對人類而言，代價太高，傷害太大。股東、法律責任——可能是民事責任，也可能是刑事責任。我的意思是，責任風險非常巨大。」

資料來源：gizmodo