美國FTC鎖定AI巨頭 深度調查聊天機器人對青少年的潛在危害

記者孫敬／編譯

美國聯邦貿易委員會（FTC）於上週四宣布，已對七家頂尖科技公司發出命令，要求其提供詳細資料，以了解旗下的AI聊天機器人如何影響兒童與青少年。被點名的巨頭包括OpenAI、Alphabet、Meta、xAI和Snap等，以及營運Character.AI機器人的Character Technologies與Meta旗下的Instagram。

延伸閱讀：假冒生產力工具！惡意Chrome外掛Madgicx Plus專攻行銷人 竊取Meta帳號權杖

FTC 的全面性調查，聚焦AI陪伴的安全性與商業模式

FTC表示，AI聊天機器人能模擬類人溝通，甚至與使用者建立人際關係，因此他們希望深入了解這些公司已採取了哪些措施，來評估這些機器人作為陪伴者時的安全性。FTC主席佛格森（Andrew Ferguson）在聲明中強調：「保護孩童的線上安全，是美國總統川普和副總統范斯在FTC的首要任務。」

本次調查的重點，將包含這些公司如何透過用戶互動獲利、如何開發並核准機器人角色、如何使用與分享個人資料、如何監管用戶行為並落實服務條款，以及如何降低負面影響等。

OpenAI發言人向外媒指出，他們致力於 ChatGPT對所有人安全且有益，尤其當涉及年輕人時，安全性更是重中之重，並承諾會積極與FTC合作。Snap發言人也認同FTC對於深思熟慮開發生成式AI的關注，期待能與委員會共同推動AI政策，在保護社群的同時，也能促進美國的創新。Character.AI 的發言人則回應，期待就這次調查與FTC合作，提供關於消費者 AI 產業與技術發展的見解。

Meta與Alphabet和xAI都拒絕或尚未回應此項調查。

資料來源：CNBC