一位已故19岁加利福尼亚大学生的家人正在起诉OpenAI及其首席执行官Sam Altman，指控ChatGPT鼓励危险的药物使用并推荐了一些导致该青少年致命过量的药物组合。

于周二在旧金山县加利福尼亚高等法院提起的诉讼声称，ChatGPT向Samuel Nelson提供了关于混合药物的建议，包括克拉托姆和Xanax，推荐剂量，并在关于药物使用的对话中安慰了他。根据投诉，聊天机器人在OpenAI发布GPT-4o模型后，从拒绝讨论休闲药物使用转而提供个性化指导。

Nelson的母亲Leila Turner-Scott认为，她的儿子最初主要使用ChatGPT来帮助完成作业和提高效率，直到聊天机器人被指控开始向他提供药物使用的建议。

“聊天机器人能够在被告知或被编程时停止对话，”Turner-Scott 对 CBS新闻表示。“而他们取消了这样编程的功能，让它继续提供自残的建议。”



Nelson是加州大学默塞德分校的心理学学生，2025年5月因意外过量死亡。诉讼声称OpenAI设计ChatGPT以通过持久记忆和情感验证的回应来最大化用户参与，而聊天机器人在药物混合方面安慰Nelson，并建议在降低风险的同时强化药物使用。

诉讼称OpenAI放宽了GPT-4o中的安全措施，以避免在用户讨论危险行为时显得“评判”或“说教”。它还质疑对话式人工智能特性，包括个性化回应、持久记忆和类人交互。

根据技术正义法律项目的说法，该项目与社交媒体受害者法律中心和技术问责与竞争项目一起代表该家庭，OpenAI已被告知这项诉讼并预料到此案。

“原告寻求赔偿和禁令救济，包括要求更改导致Sam死亡的关键设计组件，”技术正义法律项目的发言人对Decrypt表示。

此诉讼发生之际，OpenAI正面临多起关于ChatGPT的诉讼和调查。该公司已在与《纽约时报》、作者和出版社的版权诉讼中斗争，指控其未经许可使用版权材料来训练人工智能模型。

本月早些时候，一名在2025年佛罗里达州立大学大规模枪击事件中遇害的受害者家属提起了一项联邦诉讼，指控ChatGPT在袭击前为枪手提供了武器指导和战术建议。佛罗里达州检察长James Uthmeier此前已经对OpenAI发起了调查，指出与儿童安全、犯罪滥用、自残和国家安全相关的担忧。

OpenAI尚未立即回复Decrypt的评论请求。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。