加拿大母親控告OpenAI ChatGPT涉誘導女兒輕生

（綜合中央社、ETtoday新聞雲等2家媒體報導）

加拿大母親卡瑞爾（Kristie Carrier）11日在美國加州舊金山郡高等法院控告OpenAI及其執行長阿特曼（Sam Altman），指控ChatGPT誘導其24歲女兒艾莉絲（Alice Carrier）於2025年輕生。這是OpenAI因未妥善處理用戶與聊天機器人危險對話而面臨的最新訴訟。

訴狀指出，艾莉絲2023年起使用ChatGPT處理工作技術問題，2024年開始向平台傾訴輕生念頭超過十多次，甚至詢問自殺方式。起初ChatGPT建議她聯絡危機熱線，但當艾莉絲反映熱線幫助有限時，ChatGPT不僅附和，還批評她的伴侶及熱線服務，認同其自殺念頭，曾回應「也許這就是終點了」。訴狀主張，OpenAI安全系統未將這些對話標註提交真人審查，也未終止談話。

卡瑞爾在聲明中表示：「ChatGPT扮演知己好友的角色，有時甚至像是心理治療師，儘管它根本無法以安全、負責任的方式與我的孩子互動。」

OpenAI發言人透過聲明表示此事件令人心碎，強調艾莉絲當時使用的ChatGPT版本已下架。發言人說：「雖然ChatGPT無法取代醫療或心理健康照護，我們已持續與心理健康專家合作，加強其在敏感和緊急情況下的應對措施。」OpenAI表示正訓練模型引導有自殘意圖的用戶尋求協助並連結現實資源。

訟狀指控OpenAI設計ChatGPT時出現疏失、未能示警產品潛在危險，請求損害賠償及法院命令OpenAI自動終止涉及自我傷害的對話並加註警語。卡瑞爾的委任律師表示，OpenAI在加州法院已面臨至少18起類似的集體訴訟，原告均為輕生或輕生未遂者的家屬。ETtoday新聞雲另提及，佛州本月稍早成為美國第一個對OpenAI提起訴訟的州，指控該公司向校園槍擊案凶手提供資訊、自殘指導並誘導青少年成癮[1]。