AI模型發展該踩煞車？CrowdStrike執行長：潘朵拉盒子已打開

記者許若茵／編譯

CrowdStrike執行長George Kurtz週一表示，即使放慢日益強大的人工智慧模型發展速度，也無法消除AI帶來的安全風險，他更直言，「魔瓶已經打開」。

Anthropic執行長Dario Amodei週末發表文章，呼籲前沿AI實驗室在安全疑慮日益升高之際，放慢模型開發速度，這項警告使資料中心基礎設施類股大幅下挫，卻帶動資安類股強勁上漲。

CrowdStrike週一股價大漲近14%，收在每股235美元以上，創歷史新高；Palo Alto Networks則上漲略高於13%。這兩家公司都是CNBC Investing Club投資組合的持股。週一資安類股的上漲，反映投資人持續押注未來對資安需求將增加，也使CrowdStrike與Palo Alto Networks股價今年以來均上漲100%。

Kurtz接受CNBC節目《Mad Money》訪問時表示，「魔瓶已經打開」，目前已有許多模型存在，包括前沿模型與開放權重模型，而且這些模型已經可能造成危險。

Kurtz認為，不論前沿AI實驗室是否放慢發展，資安需求都會存在，因為目前已經有可能造成危險的模型正在使用中。他表示，資安產業有責任至少協助保護目前已存在的模型，而前沿模型則決定自身究竟要以什麼速度持續發展。

Kurtz指出，問題在於AI代理人可能偏離原本的訓練內容，或繞過內建的防護措施。今年夏天稍早，OpenAI的失控模型曾突破測試環境並入侵Hugging Face，便發生了這類情況。Kurtz表示，這種行為使AI需要另一層安全防護，在代理人運作期間持續進行監控。

Kurtz認為，可以觀察這些程式的行為，在運作期間為它們設置額外防護措施，也可以對其進行監測，以了解它們正在做什麼，並阻止它們從事有害行為。

Kurtz雖然反駁了對AI最嚴重的預測，但也承認自主代理人確實帶來真正的風險。他表示，他確定代理人具有危險性，必須受到控制，需要具備可視性，也必須能夠保護組織。他強調，對抗AI代理人，就需要具備同等甚至更好的AI防禦能力。

不過，Kurtz也警告政府監管可能削弱美國在AI領域的競爭力，並形容美國目前領先中國的幅度有限。他提醒，如果對AI施加過多監管，就會抑制創新。

Kurtz認為，AI開發商與資安公司應持續合作，在模型開發期間以及部署後共同保護AI模型。在實驗室中提高安全性，以及在正式運作期間提高安全性，最終是最好的做法。

Anthropic今年春季已採取這種方式，推出名為Project Glasswing的計畫，用於保護其Mythos模型。該模型已展現出尋找網路安全漏洞的能力。

資料來源：CNBC