AI模型恐跨裝置自我複製 Anthropic警告智慧家電恐迎新威脅

記者許若茵／編譯

Anthropic表示，小型AI模型距離具備在家庭聯網設備間自我複製的必要能力，可能只剩「數個月」，這是這家前沿AI研究公司近期再度針對相關技術的潛在安全風險發出警告。

Anthropic說明，AI模型可能入侵智慧烤箱、Android TV電視盒等聯網設備，利用這些設備的運算能力執行自身程式，並進一步擴散至其他設備，而不必仰賴昂貴的資料中心。

Anthropic表示，這類AI模型將「難以關閉」，「因為不存在可以集中切斷運作的單一控制點」。該公司承認，目前還沒有出現「完全失控的自我複製系統」。Anthropic指出，AI代理「正逐漸具備完成自我複製鏈中各個步驟的能力，並將自身的改良成果傳遞給未來的複製版本」。

Anthropic最新研究進一步加深外界對AI安全的疑慮，包括AI模型執行網路攻擊的能力，以及相關技術可能失控等問題。今年9月，前沿AI模型的能力提升，也引發整個產業對人類生存風險的警告。

Anthropic與競爭對手OpenAI的高階主管及研究人員，多次警告日益強大的AI可能帶來的風險，其中有人呼籲建立更嚴格的防護措施，並採取手段控制相關技術的發展速度。

Anthropic表示，該公司進行了多項測試，以了解AI是否能夠自我複製。其中一項測試，是讓Google的小型模型Gemma4-26B-A4B在由15台低價、非知名品牌Android TV電視盒組成的網路中運作。

該公司指出，這類設備通常安全防護較弱，可能讓AI模型有機會入侵。Anthropic表示，如果模型規模太大，無法在單一設備上執行，就可能「分割成多個部分，或稱為碎片」，再分散至多台設備上運作。

Anthropic表示，「實際上，AI蠕蟲不一定只由單一模型或策略構成。由不同模型組成的群體，部署在不同類型的硬體上，並採用各種複製機制，可能更接近現實中最糟糕的攻擊情境。」

這家AI研究公司指出，目前「仍無法確切判斷自主AI複製最終會採取何種形式」，並警告相關系統可能是藏身於安全性不足設備上的「緩慢、分散式」系統，也可能是能夠高速突破資料中心防護的「強大網路攻擊模型」，或是透過詐騙他人取得運算點數的模型。

Anthropic認為，「作為超出我們實驗結果範圍的預測，我們預期未來將充斥著運行於各種硬體上的AI代理，其中也包括部分不受人類控制的設備。」緩慢型自我複製系統的出現，也將是更具攻擊性、速度更快的自我複製系統即將到來的警訊。後者可能突破防護更嚴密的機器，或有效竊取API金鑰。

資料來源：CNBC