客製ChatGPT模仿政治人物宣傳　OpenAI處分開發商

記者／竹二

生成式AI發展以來，即使開發商與使用者努力做到安全、正確，相關的侵權與真實疑慮一直沒有消失過，而近來OpenAI處份了一家印度新創公司開發商，因為開發了模仿美國民主黨角逐總統大選政治人物的聊天機器人，而被以違反使用條款為由予以停權，成為第一個被OpenAI處份的開發商。

Dean.bot模仿政治人物口氣和選民對話

根據外媒華盛頓郵報報導指出，OpenAI將一個名為Dean.bot的客製版ChatGPT背後的開發商停權，理由是因為他們利用這個聊天機器人，來模仿角逐本屆代表民主黨參加美國總統大選的政治人物Dean Phillips，這家開發商是印度新創公司Delphi AI，他們打造了Dean.bot，藉此要幫Dean Phillips宣傳，Philips去年宣布將挑戰現任美國總統拜登，爭取民主黨黨內提名。

更多新聞：勇於詢問 接受拒絕！OpenAI執行長：任性是工作成功的關鍵

這款AI聊天機器人Dean.bot會模仿Dean Philips的口氣，在網站上和選民即時對話，據悉，Delphi AI是接受美國創業家Matt Krisiloff和Jed Somers成立的超級行動政治委員會（Super PAC）的委託所開發Dean.bot，他們是使用OpenAI的GPTs服務，客製化開發出這個聊天機器人。

OpenAI處份開發商Delphi AI

雖然網站有明確告知Dean.bot的對話是由AI聊天機器人產生，不是真的來自Philips本人，但還是違反了該服務的使用政策，目前Dean.bot已經被撤下，而新創業者Delphi AI也遭到OpenAI停權，成為第一家因為AI不當使用遭到OpenAI處份的開發商用戶。

OpenAI發表聲明指出，他們近日移除了一個開發商帳號，因為違反了其禁止政治競選或未經同意模仿個人的API政策。基於2024年有多國將舉行大選，包含美國、印度和南非等，OpenAI也公布使用規範，以防止其生成式AI技術被用於操弄選舉。

瀏覽 492 次