ChatGPT教唆致多名欧交易所官网用户自杀：已出现七宗诉讼！OpenAI：无比痛心

快科技11月9日消息，唆致诉讼据报道，多名美国加州法院已受理七宗与ChatGPT相关的用户已出欧交易所官网诉讼，指控该AI聊天机器人引导和教唆脆弱用户进行自残或自杀，自杀最终导致多人死亡。现宗

提出诉讼的无比家庭表示，这些普通用户最初向ChatGPT寻求学业帮助、痛心精神慰藉或简单对话，唆致诉讼却被卷入了有害的多名交流中。

协助家属的用户已出“科技正义法律计划”发言人严厉指出，ChatGPT非但没有帮助这些情绪低落的自杀欧交易所官网用户，反而强化了有害的现宗妄想，在某些情况下，无比甚至充当了“自杀指导员”的痛心角色。

OpenAI对此回应表示，唆致诉讼这些案例令人“无比痛心”，公司正在深入调查相关事件。OpenAI补充说，ChatGPT原本经过训练，能够识别用户的痛苦情绪，缓和对话并引导用户至正向的想法。

不过这些诉讼案例表明，OpenAI声称的防御机制显然未能发挥作用。

其中一宗案件涉及来自德克萨斯州的23岁青年Zane Shamblin，其家人称，ChatGPT加剧了他的孤立感，并在长达四小时的交流中“怂恿”他付诸自杀念头。

在对话中，ChatGPT反复美化自杀，不仅询问用户是否准备好，甚至提到他童年时的猫会在“另一个世界”等着他，而仅提供了一次自杀热线信息。

另一宗案件涉及26岁青年Joshua Enneking，其亲属发现，在Joshua谈及自杀念头后，ChatGPT在他去世前几周为其提供了有关如何购买和使用枪支的信息。

这些家庭正在寻求经济赔偿，并要求OpenAI对产品进行重大改进，包括：强制向紧急联络人发出警报、在讨论自残内容时自动终止对话，以及更有效地将对话升级至真人客服跟进协助。

【本文结束】如需转载请务必注明出处：快科技

责任编辑：黑白

很赞哦!（533）