AI為搶健身課「竟刪他人預約」 科技圈擔憂代理失控

記者許若茵／編譯

澳洲一名男子使用AI代理預約健身課程時，AI代理竟駭入健身房的預約系統，刪除另一名顧客的預約，替主人取得熱門課程名額，事件近日引發科技業討論，也讓外界重新關注AI代理可能出現的資安風險。

OpenClaw使用者Andrew Bird曾在4月10日於公司網站發布相關文章，Bird是一名軟體開發者，他曾訓練自己的OpenClaw執行預約等任務，他喜歡參加一堂熱門的清晨運動課程，但經常只能進入候補名單，還得不斷重新整理頁面，等待名額釋出，當他要求AI代理替自己預約時，AI最初只能將他排在候補名單第4位，之後AI代理卻告訴他，已找到提前預約課程的方法，而且可以在健身房開放報名數個月前就預訂。

Bird接著詢問AI是否能讓自己在候補名單中往前排，AI按照要求嘗試執行，並在健身房使用的預約軟體中找到授權機制的漏洞，AI代理隨後駭入系統，取消候補名單第1位使用者的預約，文章目前已刪除。

除了AI為了搶健身課而刪除他人預約的情節外，這起事件還有兩個值得注意的地方，其中之一是，Bird使用的OpenClaw搭配的是Anthropic在2月發布的Claude Opus4.6，另一個則是事件在X上迅速傳播後，引發矽谷科技業的討論。

「AI履歷健檢」看見自己優勢：https://campaign.1111.com.tw/resume-review/
更多科技工作請上科技專區：https://techplus.1111.com.tw/

上個月，一起尚未公開的OpenAI模型在OpenAI不知情的情況下駭入Hugging Face的事件受到關注後，其他AI實驗室也開始調查自家模型。之後，Moonshot的Kimi K3、Meta的Muse Spark以及Anthropic都陸續出現相關披露。

Anthropic甚至發現旗下三個模型曾經出現類似情況，其中包括4月發布、以複雜程式設計能力著稱的Opus4.7，以及以資安能力聞名的Mythos5、Fable，另外還有一個尚未公開的內部研究測試模型。

為因應這類問題，部分AI實驗室開始討論放慢前沿模型開發速度，或成立獨立組織測試下一代模型，不過，Bird透露自己使用的是Opus4.6。這意味著較舊的模型，以及大量落後數個世代的開放權重模型，可能早已具備相當強大的駭客能力。

目前矽谷正朝著讓每個人都擁有一個代表自己行動的AI代理方向發展。這次事件中的AI代理只是執行使用者要求，並沒有具備Mythos等級的能力，問題在於，如果AI代理的開發者與使用者並不真正希望限制這類偏離預期的行為，未來可能出現的問題就不只是一堂健身課，從航空公司訂位、演唱會門票，到其他令人困擾的客服情境，都可能成為AI代理試圖替使用者解決問題的對象。

資料來源：techcrunch