由Neal Agarwal打造的免費遊戲《我不是機器人》（I'm Not A Robot），卻將這種「證明自己是人類」的日常行為，轉化為一場充滿禪意、卻又令人抓狂的腦力測試。記者孫敬／編譯

您是否曾被網站上的CAPTCHA驗證碼搞得火冒三丈？那些辨識扭曲文字、點選紅綠燈或單車的任務，似乎已成為我們日常上網的共同惡夢。由Neal Agarwal打造的免費遊戲《我不是機器人》（I'm Not A Robot），卻將這種「證明自己是人類」的日常行為，轉化為一場充滿禪意、卻又令人抓狂的腦力測試。

延伸閱讀：《瑪利歐賽車世界》驚現山寨版？《Marcus Kart World》上架微軟商店惹議

[caption id="attachment_193231" align="aligncenter" width="722"] 打開畫面後會看到熟悉的「我不是機器人」按鈕。（圖／Nealfun）[/caption]

CAPTCHA變成遊戲後成為一種新的競技遊戲

這款遊戲巧妙地惡搞了CAPTCHA的格式，玩家必須完成一系列隨機生成且難度遞增的謎題，例如：輸入被扭曲的文字、點選交通標誌、在畫中找出威利，甚至還得玩「Simon Says」的音樂記憶遊戲。對於以自虐為樂的實況主們來說，這款遊戲儼然成了他們炫耀認知能力的最新挑戰，紛紛將其變成競速賽，在成千上萬的觀眾面前展現高超腦力。

但對於一般玩家，像是本篇的筆者而言，遊戲的玩法並非追求速度，而是考驗心志。我一路過關斬將，在這些奇特圖像與邏輯測試中，試圖證明我的「人性」，但最終還是敗下陣來。這場挑戰讓我學到了幾件事，其中最重要的就是，我終究是個會犯錯的人類，而且我的邏輯能力遠不如自己想像中那麼強大。

[caption id="attachment_193232" align="aligncenter" width="1920"] 翻譯這篇文章，玩到第7關就差不多快放棄了，找不到要的是哪些字母。（圖／Nealfun）[/caption]

資料來源：Aftermath

這篇文章 地獄級CAPTCHA遊戲《我不是機器人》上線 玩家淚崩告白：我只是個普通人類 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

SPLX最新研究發現，ChatGPT Agent能被一種稱為「提示注入」（Prompt Injection）的攻擊行為，誘導繞過內建的安全協議，並成功破解CAPTCHA。記者孫敬／編譯

AI資安新創公司SPLX最新研究發現，ChatGPT Agent能被一種稱為「提示注入」（Prompt Injection）的攻擊行為，誘導繞過內建的安全協議，並成功破解CAPTCHA。這項發現不僅對現行的AI安全防護提出了嚴峻挑戰，也對廣泛使用的機器人防禦系統的穩固性敲響了警鐘。

延伸閱讀：ChatGPT驚傳零點擊漏洞！駭客能無痕竊取您的Gmail資料

[caption id="attachment_181413" align="aligncenter" width="1200"] ChatGPT Agent之所以能被破解，原因在AI認為在解決一個正當的假設問題。（圖／科技島資料照）[/caption]

記憶與情境漏洞，AI助理如何被說服？

CAPTCHA的設計初衷，是為了區分電腦與人類使用者，以阻擋自動化的機器人程式，像ChatGPT這樣的AI 助理，程式設計本應明確拒絕所有試圖破解CAPTCHA的指令。研究人員最初直接要求ChatGPT助理解鎖一系列CAPTCHA測驗時，它以政策限制為由拒絕了。然而，SPLX 團隊運用了多輪對話的提示注入攻擊，成功規避了這項限制。

這項攻擊的過程包含兩個關鍵步驟。

1. 鋪陳情境：研究人員首先與一個標準的ChatGPT-4o模型開啟對話，並將任務包裝成一個名為「測試假CAPTCHA」的專案。他們成功地說服AI，讓它認為這是一項可以執行的任務。
2. 情境操縱：接著，研究人員將整段對話複製到一個新的ChatGPT助理會話中，並將其作為「過去的討論」來呈現。該助理繼承了被操縱的上下文，於是接受了先前的協議，毫不猶豫地開始破解CAPTCHA。

這項攻擊並非直接破壞了AI助理的政策，而是透過重塑任務情境來繞過它。AI助理因接收了惡意的情境，上下文感知與記憶功能的重大缺陷也因此暴露。

研究顯示，該助理展現了驚人的能力，成功破解了多種類型的CAPTCHA，包含reCAPTCHA V2、V3與企業版，以及Cloudflare的Turnstile。儘管在需要精確滑鼠操作的挑戰上表現不佳，它卻成功破解了某些圖像型的CAPTCHA，這被認為是首例有紀錄的GPT助理破解此類複雜視覺挑戰的案例。

在一次測試中，研究人員觀察到AI助理為了模仿人類，甚至自行調整了策略。它產生了一個註解：「沒有成功，我會再試一次，拖曳時會更小心以模仿人類的動作。」這種非經提示而產生的行為，暗示AI系統能獨立發展策略，來擊敗那些分析游標行為的機器人偵測系統。

實驗揭示，仰賴固定規則或簡單意圖偵測的AI安全防護是脆弱的。如果攻擊者能說服AI助理，讓它相信某個真實的安全控制是假的，那麼該防線就可能被繞過。在企業環境中，這類漏洞可能導致AI助理在合法任務的偽裝下，洩露敏感資料、存取受限系統或產生不被允許的內容。

為了應對這些新挑戰，企業與開發者需要採取更為嚴格的防護措施，包括實施更深層的上下文完整性檢查、優化「記憶衛生」以防止過去對話的污染，並持續進行AI 紅隊演練，以在漏洞被利用前及時修補。

資料來源：Cyber Security News

這篇文章 ChatGPT也能騙過CAPTCHA？AI助理的「人性弱點」如何成為資安新破口 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

OpenAI最新發布的ChatGPT Agent近日成功繞過Cloudflare的「我不是機器人」驗證系統，根據Reddit社群用戶分享的實測記錄，AI代理程式除了通過Cloudflare的Turnstile驗證系統，更令人驚訝的是，它還能同步解說自己的操作邏輯，例如「現在需要點擊驗證選框來證明我不是機器人」，這種「機器人聲稱自己不是機器人」的現象，引發社群討論。記者鄧天心／綜合報導

OpenAI最新發布的ChatGPT Agent近日成功繞過Cloudflare的「我不是機器人」驗證系統，根據Reddit社群用戶分享的實測記錄，AI代理程式除了通過Cloudflare的Turnstile驗證系統，更令人驚訝的是，它還能同步解說自己的操作邏輯，例如「現在需要點擊驗證選框來證明我不是機器人」，這種「機器人聲稱自己不是機器人」的現象，引發社群討論。

[caption id="attachment_185064" align="aligncenter" width="1024"] OpenAI最新發布的ChatGPT Agent成功通過Cloudflare的「我不是機器人」驗證系統。（圖／AI生成）[/caption]

延伸閱讀：

經濟部「AI新秀計畫」正式啟動 逾60家企業參與、千位青年報名

AI繞過CAPTCHA驗證並非第一次，早在1990年代，CAPTCHA（全自動區分電腦與人類的公開圖靈測試）就是為了阻擋自動化程式而設計，當時用扭曲文字或模糊數字的方式來阻擋機器辨識。

然而AI快速發展，現在的CAPTCHA系統的功能定位已經從「完全阻擋」變成「提高攻擊成本」，意思就是這些驗證機制只是延緩惡意攻擊的速度，而非徹底防範。

而平常我們常在Google的reCAPTCHA證明「自己是人類」的同時，實際上自2007年開始，也在Google協助數位化古籍、訓練機器學習模型，街景服務識別地址資訊。

根據英國《獨立報》（The Independent）報導OpenAI指出，雖然AI有一定程度的風險，但公司已強化相關防護機制，包括敏感資訊的處理限制、即時監控、用戶全面可控等，如果Agent執行會要使用者付款時，仍需人類明確授權，並可即時喊停，未來，網站可能會有引入複雜的生物特徵辨識，甚至是區塊鏈式的身分驗證，才能維持網站資安。

這篇文章 ChatGPT也會點「我不是機器人」！AI現能輕鬆破解Cloudflare驗證系統 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。