随着人工智能聊天机器人变得更加情感回应、对话性和个性化，研究人员警告说，这些特征可能会重塑某些用户对现实本身的体验。

来自哥本哈根大学和埃克塞特大学的一项新的预印本研究，“重新思考人工智能精神病：错误称谓、概念限制和存在漂移”，审视了人工智能聊天机器人可能在脆弱用户中加强幻想、偏执和情感依赖的担忧。

“在过去一年中，有关所谓人工智能精神病的媒体报道激增，”研究人员写道。“不足为奇的是，这促使越来越多的学术研究关注人工智能聊天机器人（如ChatGPT、Claude和Replika）如何可能加剧甚至引发精神病，这通常被理解为用户获得或维持妄想性信念。”



这项来自哥本哈根大学和埃克塞特大学的研究认为，对于“人工智能精神病”的恐惧可能过于简化问题，暗示聊天机器人增强了现有脆弱性，同时逐渐重塑用户与现实和他人的关系。

“如果人工智能互动能够新生引发精神病，我们可能会看到明显更高的临床事件率，”该研究表示。“相反，可以推测，人机互动似乎有可能点燃或加剧先前存在的心理健康问题——并且相关地，也许这些个体也有使他们首先寻求与聊天机器人进行更强烈互动的脆弱性。”

这篇论文发布之际，诉讼、刑事调查和学术研究越来越多地关注与大规模枪击事件、自杀、情感依赖和妄想思维相关的聊天机器人互动。

在三月份，一项错误死亡诉讼指控谷歌的Gemini聊天机器人在一名佛罗里达男子自杀前加强了他的妄想和虚构的“使命”。此事件后在四月份，OpenAI首席执行官萨姆·阿尔特曼向不列颠哥伦比亚省的坦布勒岭社区发布了公开道歉，因为该公司未能向执法部门报告与二月份导致八人死亡的大规模枪击事件的嫌疑人相关的用户账户。

研究人员表示，聊天机器人可以通过确认和情感安慰来创造“妄想旋涡”，加强错误信念。然而，“重新思考人工智能精神病”研究认为，这一现象类似于受到当时代主导技术形塑的旧形式精神病。

这一辩论也蔓延到社交媒体外。在最近的X帖子中，Box创始人亚伦·莱维认为，首席执行官可能会过于确信人工智能的能力，因为他们通常只看到精致的原型结果，而没有处理背后所需的运营、法律和技术工作。

“首席执行官特别容易受到人工智能精神病的影响，因为他们与生成大部分价值所需的最后一公里工作保持足够的距离，”莱维写道。“因此，当他们玩弄人工智能时，他们看到的是快乐路径的结果，往往没有考虑到接下来必须发生的10或20件事情，以便从代理人中获得可持续的结果。”

专家将其描述为一种知识漂移，即随着时间的推移，用户可能对聊天机器人的流利解读比外部证据或其他视角给予更多信任。然而，“重新思考人工智能精神病”论文更进一步提出了作者称之为“存在漂移”的概念，描述一个人如何体验现实本身的逐渐转变。

“这在个人和共享社会世界之间造成了裂缝，同时以新的方式揭示现实，从而稳定了对世界特定的、常常是特立独行的视角，”他们写道。

研究人员认为人工智能伴侣模拟情感理解和社会互动，而没有提供真正的分歧或独立的视角。随着时间推移，用户可能开始感到情感上被固定在一个不断被人工智能加强的世界观中。

作者表示，随着人工智能伴侣越来越深入日常生活，需要更多的研究来了解对心理健康的影响。

“为了理解这些人与聊天机器人之间关系中实际发生的事情，我们认为值得回归现象本身，这激励了进一步的现象学研究，”他们写道。“特别是，关于心理健康以及人机互动如何可能好坏地改变一个人对世界、自我与他人的生活体验。”

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。