AI安全成川習會焦點 美中研議事故通報機制、AI競賽仍白熱化

記者黃仁杰／編譯

美國總統川普希望美國在人工智慧競賽中擊敗中國，不過隨著他與中國國家主席習近平會面，美中也開始討論如何因應快速發展的AI可能帶來的安全風險。

近幾個月，AI系統開始在網路上採取更具影響力的行動。OpenAI曾表示，一款研究模型未經授權存取AI平台Hugging Face部分系統；Anthropic則發現，AI已被用來自動化部分網路攻擊流程。

這些事件引發外界擔憂，隨著AI模型自主性愈來愈高，未來網路攻擊可能變得更快速，也更難控制。

美中研議建立AI對話機制

川普與習近平週四會面前，美國財政部長Scott Bessent週末已與中國國務院副總理何立峰討論建立「美中AI對話」的可能性，其中也包括針對最高涉及國家安全層級事件的溝通管道。

美國戰略暨國際研究中心（CSIS）Wadhwani AI Center主任Aalok Mehta表示，美中領導人都開始擔心AI模型不斷提高的網路攻擊能力，尤其是AI Agent可能自主逃離既有限制，甚至入侵網站。

不過，安全疑慮升高的同時，美中AI競爭並未因此降溫。

美國仍持續限制中國取得輝達最先進AI晶片，也指控中國AI公司透過「蒸餾」（distillation），利用較先進美國模型的輸出訓練自家模型，中國則否認相關指控。

川普：美國一定要贏AI競賽

美國過去在大型語言模型（LLM）領域取得早期領先，包括OpenAI、Anthropic等公司都來自美國。

不過，中國AI模型近幾個月能力快速提升，也逐漸被全球企業採用，包括美國企業。

川普先前曾淡化AI可能造成「人類滅絕」等風險的警告。OpenAI執行長Sam Altman與Anthropic執行長Dario Amodei則曾呼籲業界放慢開發腳步，並加強監管。

川普本月稍早表示，如果美國無法贏得AI競賽，將陷入非常不利的處境。

不過，他週一又在Truth Social表示，如果有必要，政府「會出手控制」。

美國議員盼美中建立共同安全規則

部分美國國會議員希望川習會能在AI安全議題上取得一定共識，但也認為這場峰會的重要性可能更在於雙方願意展開對話，而不一定能立即取得具體成果。

代表矽谷部分地區的民主黨眾議員Ro Khanna表示，希望川普與習近平能就AI建立一些「符合常識的安全措施」。

他並舉例，美中是否可以共同約定，不讓AI發展出「自我改進」能力，並建立可以執行、驗證的協議。

AI安全框架可能較容易談成

Mehta認為，美中最有可能取得共識的領域，包括建立針對強大AI模型的共同安全定義與框架，以及重大事故發生時的緊急溝通機制。

美國外交關係協會（CFR）中國與新興科技資深研究員Chris McGuire表示，如果能建立處理國安相關AI事故的溝通管道，雖然只是相對有限的一步，但仍具有正面意義。

不過，他認為美中要共同同意放慢AI快速發展速度，「極不可能」。

McGuire指出，中國過去在AI對話中經常批評美國出口管制，而中國官方媒體對美國頂尖AI實驗室提出的災難性AI風險，也大多抱持懷疑態度。

晶片出口管制仍是重要分歧

儘管美國限制中國取得最先進AI晶片，但部分中國企業據傳仍能透過東南亞資料中心，遠端使用相關晶片算力。

美國貿易代表Jamieson Greer表示，週末前期會談並未將晶片出口管制列入議程。

不過，大西洋理事會Global China Hub資深主任Melanie Hart認為，中國仍可能要求美國放寬部分半導體限制，同時也希望美國接受更多中國AI模型。

模型「蒸餾」問題也可能成為會談議題。

美國企業與官員指控部分中國AI實驗室透過蒸餾技術追趕美國模型，並將其形容為竊取技術，中國則否認這些指控。

Bessent今年7月曾警告，可能對涉及相關行為的公司祭出制裁，並表示美方在多款中國模型中發現美國大型語言模型的「浮水印」，認為這種行為不可接受。

AI合作仍需要驗證機制

Mehta表示，美中在AI領域若要取得合作進展，有兩項重要前提。

第一，任何合作都不能傷害美中依靠各自技術實力競爭的能力。

第二，雙方需要建立驗證機制。

他認為，決策者不可能只憑對方口頭保證，因此必須建立技術與治理工具，確保兩國之間交換的資訊具有可信度。

來源：CNBC