魔高一尺防不勝防  駭客找出ChatGPT限制惡意用途新方法

編譯/鄭智懷

在ChatGPT推出以後,各界積極討論如何利用該軟體製作網路釣魚信件,或是編寫惡意程式。資安廠商Check Point的威脅情報部門 Check Point Research在地下論壇發現,駭客已經找到利用OpenAI API繞過ChatGPT惡意用途限制的方法,滿足其編寫網路釣魚信件與開發惡意軟體的需求。

駭客找出ChatGPT限制惡意用途新方法。示意圖/123RF

截至目前為止,用戶可以使用的OpenAI版本有Web與API版。而Check Point Research發現駭客主要利用後者進行不法犯罪。

Check Point Research表示,根據OpenAI的政策,其名下產品設置在其平台上創建惡意內容的限制。譬如用戶若直接使用ChatGPT查詢假冒銀行的網路釣魚信件,或是如何寫出惡意軟體,該軟體將拒絕回答問題。

然而,研究員發現,當前版本的 OpenAI API,例如GPT-3,可以透過其他程式使用,並且沒有設立任何限制惡意用途的反濫用機制。因此,駭客可以利用其設定,將編寫網路釣魚信件等惡意內容整合進Telegram 聊天機器人,繞過ChatGPT惡意用途限制之設定。

研究員表示,駭客在地下論壇分享一個使用OpenAI API的Telegram 聊天機器人,提供編輯網路釣魚信件,以及測試的功能。該機器人提供前20次查詢免費,以及之後每查詢100次就收費5.5美元的服務。

而在第二個案例中,駭客則聲稱已經開發出使用OpenAI API編寫,可以用來直接繞過ChatGPT惡意用途限制的腳本。

研究員最後補充,網路犯罪分子未來會繼續探索如何利用ChatGPT進行不法活動,摸索濫用OpenAI 模型的新方式。

資料來源:Check Point

瀏覽 1,373 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button