憂AI終結人類 Anthropic卻徵人制定「武器使用界線」

記者許若茵／編譯

9月12日，Anthropic執行長Dario Amodei發表文章，呼籲包括Anthropic在內的前沿AI公司放慢開發速度，擔心AI可能以人類甚至無法想像的方式摧毀現有的人類生活。9月14日，Anthropic則發布職缺，尋找一名政策設計經理，負責處理傳統武器相關政策，而這正是AI可能摧毀人類的一種具體使用方式。

這項職缺由專注政策與政府事務相關職位的求職平台Daybook發現，職位隸屬Anthropic的Safeguards團隊。Anthropic表示，該團隊負責界定並維持「Claude可以如何被使用的界線」。

這個職位的工作之一，將是釐清Anthropic的AI模型在炸彈等武器相關領域有哪些有效用途，以及哪些用途會跨越界線。這意味著公司需要對相關用途進行界定與協商，也引發對於Claude是否存在可接受武器用途的討論。

職缺內容指出，在這個領域劃出「可接受與有害要求之間清楚的界線」相當困難，因為相關技術的底層元件具有雙重用途，同樣的能力既能用於民用工程與研究，也可能應用於武器系統。

職缺並指出，傳統武器日益由軟體所定義，相關風險也遠不只槍械，包括由模型操作武器系統或撰寫指導程式碼，到將具有雙重用途的平台武器化。該職位涵蓋所有武器類別，甚至包括能在沒有取得人類授權的情況下，自主選擇並攻擊目標的系統。

在自主武器系統方面，Anthropic已經採取明確立場。該公司拒絕允許美國國防部使用其模型開發不需要人類介入的武器，因此與五角大廈的合作關係受到影響。但對於仍需要人類按下部署按鈕的武器，Anthropic的立場則相對沒有那麼明確。

根據Reuters報導，Anthropic的AI工具曾被用於美國對伊朗的攻擊。《華爾街日報》則報導，相關技術據稱也曾被用於美國對委內瑞拉的突襲行動，最終導致委內瑞拉總統Nicolás Maduro遭到逮捕。

Amodei的警告文章並未提及武器系統，無論是自主或非自主武器。這些用途目前已經開始整合AI並造成死傷。相反地，他的文章著重於尚未發生的理論性威脅，例如能癱瘓整個網際網路的駭客攻擊，或生物武器的開發。

報導認為，如果擔心AI可能殺死所有人，那麼外界可能會預期Anthropic對傳統武器採取明確禁止的政策，而不是由管理階層劃定界線，在不影響防務合約利益的情況下宣稱進行負責任的開發。

資料來源：gizmodo