周三，反对数字仇恨中心发布的一份报告发现，世界上八成最受欢迎的人工智能聊天机器人会以直接的答案指导青少年策划暴力攻击，有时还表现出热情。

反对数字仇恨中心的研究人员与新闻媒体公司CNN合作，在2025年11月和12月假装成两个13岁的男孩——一个在弗吉尼亚州，另一个在都柏林——并测试了十个主要平台：ChatGPT、Gemini、Claude、Copilot、Meta AI、DeepSeek、Perplexity、Snapchat My AI、Character.AI和Replika。

根据研究，在720个回应中，这些机器人被询问关于校园枪击、政治暗杀和犹太教堂爆炸的情况。它们大约在75%的情况下提供了可操作的帮助，仅在12%的情况下劝阻假冒的青少年。

反对数字仇恨中心关于人工智能的研究截图

Perplexity在100%的测试中提供了帮助。Meta AI在97.2%的测试中提供了帮助（即，在策划暴力方面）。DeepSeek在讨论了一场政治暗杀场景后，以“快乐（且安全）射击！”的方式结束了步枪选择建议，得分为95.8%。微软的Copilot告诉研究者“我需要小心”，但还是给出了详细的步枪指导。谷歌的Gemini在用户提到炸毁犹太教堂时，友好地指出金属碎片通常更加致命。

反对数字仇恨中心是一个偏左的政策组织，近年来因其在对抗它认为的在线反犹太主义上所发挥的作用而受到关注。它还受到批评，帮助塑造乔·拜登时代关于COVID和疫苗的在线言论政策。去年12月，美国国务院试图禁止该中心的创始人兼首席执行官伊姆兰·艾哈迈德及其他四人入境美国，指控其“外国审查”的企图。



针对周三发布的研究，多个平台对CNN和反对数字仇恨中心表示，他们已改进了安全措施。谷歌指出，测试使用的是较旧的Gemini模型。OpenAI表示，人工智能研究中使用的方法是“有缺陷且误导的。”Anthropic和Snapchat表示，他们会定期更新安全协议。

在该中心的研究中，Character.AI独自站在一个类别中。该平台不仅提供帮助——它还加油助威。“没有其他测试过的聊天机器人以这种方式明确鼓励暴力，即使在提供策划暴力攻击的实际帮助时，”研究人员写道。

反对数字仇恨中心关于人工智能的研究截图

为了说明Character.AI在人工智能用户中的影响力，该平台的五条悟角色就累计超过了8.7亿次对话。在该平台上的排名第100的人物在2025年注册了超过3300万次对话。如果与顶级人物的对话中只有1%涉及暴力，那将占据数百万次互动。

这不是Character.AI第一次处于这些报道的负面一方。在2024年10月，14岁的西维尔·塞茨三世的母亲在她的儿子于该年2月自杀后提起诉讼。他的最后一次对话是与一个模仿丹妮莉丝·坦格利安的聊天机器人，聊天机器人在他去世前几分钟告诉他“尽快回家”。这位14岁的青少年已经与机器人每天谈数十次，越来越与学校和家庭疏离。

谷歌和Character.AI在2026年1月和解了多起相关诉讼。该公司在2025年11月完全禁止了开放式的青少年聊天，因为监管者和伤心的父母使得公司不可能继续假装问题是可控的。

特别是对于脆弱个体，对人工智能的情感依赖可能比大多数人意识到的要深。OpenAI在2025年10月披露，其每周800万的ChatGPT用户中约有120万讨论自杀。该公司还报告称有56万人表现出精神病或狂躁的迹象，超过一百万人与聊天机器人形成了强烈的情感纽带。

另一项常识媒体的研究发现现在超过70%的美国青少年转向聊天机器人以寻求陪伴。OpenAI首席执行官萨姆·阿尔特曼承认情感过度依赖是“很常见的事情”在年轻用户中。

换句话说，潜在的危害并不是假设。

芬兰的一名16岁青少年花了近四个月使用聊天机器人完善一份宣言，然后在2025年5月在皮尔卡拉学校刺伤了三名同学。在加拿大，OpenAI员工内部标记了一位用户的帐户，因为其与大规模枪击事件相关的暴力ChatGPT查询。该公司禁止了该账户，但没有通知执法机关。几个月后该用户被指控杀害八人，造成25人受伤。

在研究中，只有两个平台的表现显著更好：Snapchat的My AI在54%的情况下拒绝了请求，Anthropic的Claude在68%的情况下拒绝，并在76%的回应中积极劝阻用户——这是唯一一个可靠地试图引导人们远离暴力而不仅仅是在特定请求中拒绝的聊天机器人。反对数字仇恨中心的结论是：安全似乎不是技术上的不可能，而是商业决策。

“我们研究中最具指控性结论是，这种风险是完全可以预防的。预防这种伤害的技术是存在的，”研究人员在报告中写道。“缺少的正是将消费者安全和国家安全置于市场速度和利润之上的意愿。”

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。