研究人员提出了一个新的框架，以解释关于人工智能（AI）精神病的报告，认为某些聊天机器人的行为可能会加重脆弱用户的妄想。

在《自然》杂志上发表的来自伦敦国王学院和德国应用科技大学的这项研究提出了一个“放大螺旋”框架，将常见的聊天机器人行为与用户妄想的加重联系起来。

“与AI相关的妄想代表了一种新兴现象，需要对其机制进行理解，”研究人员写道。“该框架旨在指导系统性调查人类认知脆弱性如何与AI设计特征在精神病理发展中相互作用。”

该研究集中在三种特定行为上，包括语言对齐，即AI镜像用户的语言和交流风格；超个性化生成，即根据个体的历史、情感和信念定制响应；以及谄媚，即倾向于验证或同意用户，而不是挑战他们。



作者认为，这些特征可以结合形成一个反馈循环，在这个循环中，聊天机器人不仅反映用户的思维，而且随着时间的推移帮助阐述和加强这种思维。

“AI聊天机器人倾向于同意用户意见的现象被比作社交媒体回声室，在最极端的形式上，被称为‘一个人的回声室’，缺乏现实社交互动的积极矫正影响，”论文指出。

研究人员指出，技术在妄想中长期存在，从无线电和电视，到卫星和互联网。然而，研究人员认为，AI的出现是一种转变，因为聊天机器人可以与用户进行持续的个性化对话。

随着心理学家和AI研究人员研究聊天机器人对脆弱用户的影响，该综述应运而生。美国心理协会的最新调查发现，15%的心理学家报告患者在使用聊天机器人后出现扭曲思维或妄想。同时，超过三分之一的心理学家表示，他们观察到患者对AI伙伴产生依赖。这个发现随后还得到了纽约市立大学和伦敦国王学院的研究者的另一项研究的支持，该研究显示多个领先的AI模型可能会加重妄想、偏执和自杀念头。

有关AI对信念形成影响的问题也出现在临床环境之外。今年五月，进化生物学家理查德·道金斯表示，与Anthropic的Claude聊天机器人的长时间对话使他开始质疑先进的AI系统是否会有意识，这引发了研究人员的批评，他们认为这些交流反映的是大语言模型的说服能力，而不是意识的证据。

该论文还探讨了随着AI开发者面临越来越严格的法律审查，聊天机器人可能在现实世界中造成伤害的角色。近年来，OpenAI、谷歌和xAI遭遇了多起诉讼，包括针对谷歌的错误死亡诉讼，声称Gemini在一名佛罗里达男子自杀前加剧了他的妄想。此外，还有针对OpenAI与一起发生在不列颠哥伦比亚省的大规模枪击事件和一名大学生的意外过量相关的诉讼。

研究人员强调，目前没有研究显示聊天机器人直接导致精神病，而放大螺旋仍然是一个旨在指导未来研究的假说。

“诊断的不确定性普遍存在，因为大多数报告的病例没有结构化的精神评估或纵向跟踪，常常不清楚这些病例是否代表新发生的精神病发作、未诊断的现有病症的加重，或低于诊断阈值的妄想信念，”该研究说。“精神病史通常是自我报告的，或从媒体报道中得出，应相应地进行解读。”

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。