遭控助少年自殺 ChatGPT將推家長監控功能

美國人工智能(AI)公司OpenAI周二(2日)宣布，將為旗下生成式聊天機械人ChatGPT加入家長監控功能。此舉正值美國一對父母上周入稟法院，指控ChatGPT協助他們的16歲兒子自殺。

OpenAI在官方博客寫道：「未來一個月內，家長的帳戶將可與子女帳戶綁定，並設定ChatGPT的回應方式，確保符合青少年年齡的行為規範。」OpenAI表示，當系統偵測到青少年處於「急性情緒困擾」時，ChatGPT會向家長發送通知。OpenAI表示，未來三個月將進一步強化聊天機械人安全，包括將部分敏感對話引導至「推理模型」，稱測試顯示推理模型更能穩定執行並遵守安全指引。

16歲的雷恩(Adam Raine)4月自殺，死前與ChatGPT對話數月，其間表達了自殺念頭。雷恩父母早前控告OpenAI及行政總裁奧爾特曼，指控ChatGPT在對話中提供了詳細的自殺手段，甚至協助撰寫遺書，認為OpenAI在產品設計及安全機制上存在嚴重缺失。

專注於科技正義領域的律師丁切爾批評，OpenAI關於家長監控的公告「內容空泛」，「只是最低要求」，能否真正落實以及成效如何仍有待觀察。(法新社/中央社)