不只Google Gemini！微軟圖像生成器問題也很大

編譯／莊閔棻

繼Google Gemini圖像生成功能出包後，現在微軟的圖像生成器Copilot Designer也傳出問題。微軟人工智慧（AI）工程師 Shane Jones就警告，由 OpenAI 技術支援的微軟 AI 圖像生成器 Copilot Designer ，會產生的令人不安和不恰當的圖像。

生成令人不安和不恰當的圖像

據報導，積極測試該產品的漏洞的Jones公開表達了自己的擔憂。他指出，該工具產生的圖像與微軟負責任的AI原則相矛盾，會生成包括描繪惡魔、暴力場景、藥物濫用和色情的內容，且公司不願將Copilot Designer 從市場上撤下，解決這個問題，因此他不得不將此事，呈報給聯邦貿易委員會和微軟董事會。

更多新聞：產生圖片不準確！Google暫停 Gemini AI 模型人物圖像生成功能

呼籲公司進行調查

微軟和OpenAI在去年 10 月公開發布AI模型之前，似乎就已經知道這一風險，雖然Jones一再敦促微軟，不要公開發布Copilot Designer，但公司卻「拒絕了這建議」。在給微軟董事會的信中，Jones也呼籲公司更改Google Android 應用程式的評級，明確標示該App僅適用於成人，並要求公司的環境、社會和公共政策委員會，調查法律部門和管理層的某些決定，開始「對微軟負責任的AI事件報告流程進行獨立審查」。

微軟的回應

對此，微軟則顧左右而言他的表示，「我們致力於根據公司政策解決員工提出的所有問題，並感謝員工為進一步提高技術安全所做的努力。當涉及到可能對我們的服務或合作夥伴產生潛在安全影響的擔憂時，我們鼓勵員工利用強大的內部報告管道。」

微軟沒有足夠的資源

Jones並不是唯一一個，對生成式AI及新興技術缺乏護欄感到擔憂的人。 他表示， Copilot 團隊每天都會收到 1000 多條產品回饋訊息，但要解決所有問題，需要在新的保護措施或模型再培訓上，進行大量投資，然而微軟並沒有足夠的資源，調查所有風險和有問題的產出。

參考資料：CNBC

瀏覽 1,807 次