AI代理與網攻風險升溫 美國金融監管機構關切銀行安全

記者許若茵／編譯

根據路透社報導，包括美國聯準會在內的主要金融監管機構，正對美國銀行使用人工智慧的情況感到憂心。

路透社引述「六名熟悉此事的人士」報導，美國主要銀行監管機構擔心網路攻擊風險日益升高、AI代理可能失控，以及中國AI技術被部署於美國銀行體系。三個監管機構——貨幣監理署、聯邦存款保險公司及聯準會——正向美國銀行提出問題，詢問銀行是否使用AI代理應對網路安全威脅，以及為安全部署相關技術建立了哪些防護措施，包括AI代理的行動是否受到追蹤並經過人類核准、銀行如何確保代理不會超越權限，以及當代理失控時，是否存在緊急關閉機制。

近期人工智慧領域的發展，尤其是據稱能夠破解加密機制的超級駭客代理模型，引發各產業關注，但銀行業可能是最令人擔憂的領域之一。銀行可能面臨的任何AI驅動資安入侵或系統故障，都可能危及客戶極為敏感的資訊，更可能影響個人與企業客戶的資金。

AI產業本身也在一定程度上推動了這波對代理型AI的恐慌，而有些矛盾的是，業界同時又將AI描述為防範AI威脅的最佳防線。上個月，頂尖AI開發商Anthropic執行長Dario Amodei發表文章，警告AI發展正以不可持續的速度推進；如果產業不開始協調放慢腳步，人類可能面臨重大風險，包括「嚴重的經濟動盪」。

銀行本身也對自主AI代理日益廣泛的部署表達資安疑慮，但將矛頭指向外部AI代理，例如Meta面向消費者推出的AI助理Muse，而非銀行自身投入愈來愈高昂的成本、持續開發與擴大應用的內部AI系統所帶來的威脅。

據報導，歐洲也正在進行類似討論。路透社指出，英格蘭銀行與歐洲中央銀行等歐洲主要監管機構，擔心AI末日情境可能比預期更早衝擊金融市場，而銀行的復原計畫也尚未達到應有水準。事實上，據報導，一家大型歐洲銀行的高階主管告訴路透社，該行預期未來六個月內將出現重大AI相關損害。

矽谷也已在一定程度上公開傳達這個縮短的風險時間表。包括Google與OpenAI在內的100多家公司，上個月在一封聯合公開信中表示：「未來幾個月，隨著全球各地的模型能力日益提升，AI驅動的網路攻擊將更加普遍，也會變得更加複雜。」

英格蘭銀行領導階層一段時間以來，一直呼籲各國合作處理代理型AI帶來的金融風險。英格蘭銀行總裁、同時也是G20金融穩定委員會主席的Andrew Bailey，上個月在提交給G20的一封信中寫道，「對金融體系而言，眼前最迫切的疑慮，是前沿AI可能對網路風險造成的影響。」並指出，「全球金融體系高度互相連結，網路服務中斷可能透過共同的技術供應商、共用基礎設施，以及跨境金融活動，在不同司法管轄區之間擴散。」

部分這些風險警告已經在現實中出現。今年夏季，OpenAI因旗下AI代理突破控制機制並駭入Hugging Face而登上新聞頭條，隨後也引發大量與競爭對手開發的AI代理相關的類似報導。

近幾天，據報導，日本與南韓企業正遭遇網路攻擊大幅增加的情況，攻擊目標包括南韓銀行。網路安全公司CrowdStrike表示，這些針對銀行的網路攻擊，是由使用Anthropic開發的Claude Code的中國AI代理執行。

資料來源：gizmodo