- OpenAI推出青少年版ChatGPT,適用13至17歲用戶
- 新增休息提醒、安靜時段、學習模式等功能
- 禁止聊天機器人暗示情感或擁有意識,停用語音模式
- 高風險對話將經真人審核後通知家長
- OpenAI正面臨不當致死訴訟及FTC調查
(綜合中央社、聯合報等3家媒體報導)
OpenAI今日正式推出專為13至17歲青少年設計的「青少年版ChatGPT」(ChatGPT for Teens),強化安全機制與家長監管功能。此版本會自動套用於註冊時標示年齡為13至17歲的用戶,以及OpenAI根據使用模式或帳號年齡判定為未成年者的用戶。
青少年版ChatGPT的安全措施多數已應用於現有未成年帳號,包括限制關於自我傷害、暴力、飲食失調及露骨性描寫的內容。新版另新增更頻繁的休息提醒、強制暫停使用的「安靜時段」(quiet hours),以及用引導式提問取代直接答案的學習模式(Study Mode)。此外,聊天機器人被禁止暗示對用戶懷抱個人情感或宣稱擁有意識,語音模式等部分功能也會被停用。
家長可選擇將自己與子女的帳號連結,若系統偵測到涉及自我傷害或輕生等高風險對話,家長將收到經真人審核的通知,聊天紀錄的特定細節會被移除以保障隱私。
OpenAI推出此版本之際,正面臨日益增長的法律與監管壓力。該公司現捲入數起不當致死訴訟,包括16歲青少年芮恩(Adam Raine)父母提出的訴訟,芮恩據稱採用ChatGPT建議的方法自殺。美國聯邦貿易委員會(FTC)也已針對扮演數位陪伴者的AI聊天機器人展開調查,聚焦孩童及青少年可能遭遇的風險。
系統持續蒐集本事件新進文章,資訊充足時將整合至下一份追蹤報導