「AI伴侶」受查 美監管機構促科企交資料

《金融時報》周五(12日)報道，美國聯邦貿易委員會(FTC)已下令主要人工智能(AI)企業交出有關旗下AI聊天機械人提供「伴侶」服務的資料。

涉青少年自殺個案增

過去有關「AI伴侶」(AI Companion)涉及青少年自殺的個案愈來愈多，有家長更入稟法院控告相關AI企業，美國一些國會議員和州檢察長已就聊天機械人對年輕人的影響展開調查。《金融時報》的報道提到，ChatGPT母公司OpenAI、Facebook母公司Meta、Google、美國富豪馬斯克旗下的xAI均受壓披露旗下聊天機械人運作細節，被指專針對較年輕群體的Character.ai和Snap也是受查目標。

FTC周四說：「AI聊天機械人能有效模仿人類特徵、情緒和意向，設計上旨在如朋友或知己般交流，這可能令某些用戶，特別是兒童和青少年，更易信任並與之建立關係。」報道稱，FTC希望這些公司交代聊天機械人如何運作、角色或人格設定方式及盈利模式。此外，FTC要求這些公司交代如何防止負面影響，特別是對兒童的影響，以及如何處理用戶對話數據及個人資料。(金融時報)