ChatGPT 浮水印系統 還沒推出就爭議不斷

編譯/黃竣凱

在一份關於人工智慧(AI)生態系統的報告中,分析師Kieron Allen 探討了 OpenAI 為 ChatGPT 開發的浮水印系統,該系統對教育領域的潛在影響,AI 檢測的相關擔憂,及在生成式 AI 技術中平衡運營完整性,與用戶信任所面臨的挑戰,並指出,這個浮水印系統或將引發新的 AI 問題,使浮水印系統的推廣與否,在教育、公平性與技術發展之間進行微妙的平衡,成為生成式 AI 技術應用中的關鍵議題。

分析師Kieron Allen 探討了 OpenAI 為 ChatGPT 開發的浮水印系統,該系統對教育領域的潛在影響。
分析師Kieron Allen 探討了 OpenAI 為 ChatGPT 開發的浮水印系統,該系統對教育領域的潛在影響。(圖/123RF)

ChatGPT 浮水印系統可能帶來的操作與經濟挑戰

據報導,OpenAI 已經研發出一套為 ChatGPT 生成文本添加浮水印的系統,以及一個檢測這些浮水印的工具,但尚未正式推出。然而一旦推出,這可能不僅會涉及操作層面的挑戰,還可能對 OpenAI 帶來經濟上的影響,最初教育界對 ChatGPT 的擔憂,主要來自於學術領域,許多教育工作者擔心學生可能會利用這項技術,生成論文和其他作業。

更多新聞:AI 會愈來愈笨嗎 模型崩潰怎麼辦

浮水印技術的應用與技術公平性爭議

報告指出,OpenAI 開發的浮水印系統,旨在辨識由 ChatGPT 生成的文本,藉此打擊學術欺詐行為,特別是在教育領域內的潛在濫用。然而,這項技術的廣泛應用,卻可能為需要依賴 AI 進行語言表達的非母語使用者,增添了使用困難,引發了關於技術公平性和使用便利性的爭論。

用戶需求與商業利益之間的平衡挑戰

與此同時,OpenAI 也面臨著用戶需求和商業利益之間的兩難選擇,儘管許多教育者支持浮水印技術,但用戶對此卻存有顧慮,報告中提到,有30% 的 ChatGPT 用戶表示,如果浮水印功能被強制實施,他們可能會放棄使用這項工具,使 OpenAI 在推動該技術時,必須仔細權衡其潛在的經濟損失與用戶體驗的平衡。

參考資料:Acceleration Economy

※探索職場,透視薪資行情,請參考【科技類-職缺百科】幫助你找到最適合的舞台!

瀏覽 362 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button