关于“人工智能精神病”的首次文献发现于2025年中期开始公开出现，自那时以来，关于与人工智能使用相关的心理健康问题的报告和研究不断发布。微软人工智能首席执行官穆斯塔法·苏莱曼甚至将人工智能精神病称为“真实且新兴的风险”。

这种状况被认为是在人与机器的互动之间的界限模糊时产生的，使得个体难以区分现实与数字世界。虽然尚未形成正式的临床诊断，但医疗和技术专家对人工智能的心理影响日益关注，尤其是那些验证和放大信念（包括妄想思维）的聊天机器人，而没有提供必要的现实检查。

最容易受到影响的人群包括社会孤立的个体、已有心理健康问题的人，或倾向于魔幻思维的人。人工智能的验证可能会强化妄想，导致现实世界中的负面后果，如人际关系受损和失业。

一些专家警告说，即使是没有既往病史的人也面临风险。他们列出了几个关键的行为红旗，人工智能用户应当留意。其中一个红旗是，当个体与聊天机器人建立了强迫性的关系，并不断与其互动以强化自己的想法和信念时。

这种行为通常包括向人工智能提供过多的个人细节，以试图“训练”它并建立相互理解的感觉。另一个红旗是，当个体开始将简单的日常决策委托给人工智能时，从健康、金钱到个人关系。

尽管他们没有义务控制人工智能的使用，但一些强大聊天机器人的背后公司可以实施保障措施，以防止对话代理强化妄想思维。Sogni AI的联合创始人兼首席执行官毛·莱德福德讨论了嵌入软件以劝阻这种思维。

“我们需要构建善良的人工智能，而不是共谋。这意味着要明确提醒它不是人类，拒绝验证妄想，并设置硬性停止，促使人们回归人类支持，”莱德福德强调。

Coral Protocol的首席执行官兼联合创始人罗曼·J·乔治奥敦促人工智能开发者避免重蹈社交媒体的覆辙，通过内置摩擦点提醒用户人工智能不是人类。

“我认为这始于设计。不要仅仅优化留存和粘性；那是在重复社交媒体的错误，”乔治奥解释道。“构建摩擦点，让人工智能减缓进程或明确表示：‘我不是人类。’检测也是一个部分。人工智能可以标记看起来像妄想螺旋的模式，比如阴谋循环或对‘特殊信息’的执着。”

Coral Protocol的联合创始人坚持认为，数据隐私的监管也是必要的，认为没有这些规定，“公司只会追求参与度，即使这会伤害人们。”

到目前为止，关于“人工智能精神病”的数据似乎有限，无法为政策制定者和监管者提供应对的依据。然而，这并没有阻止人工智能开发者推出类人和富有同情心的人工智能代理。与遵循严格脚本的基本聊天机器人不同，这些代理能够理解上下文、识别情感，并以一种富有同情心的语气作出回应。这促使一些观察者呼吁人工智能行业在确保类人模型不会模糊人类与机器之间的界限方面发挥主导作用。

0G Labs的首席执行官迈克尔·海因里希告诉Bitcoin.com新闻，尽管这些代理在某些场景中是有用的，不应完全拒绝，但必须“保持中立，避免表现出过多的情感或其他人类特征。”他认为，这有助于用户理解人工智能代理“仅仅是一个工具，而不是人际互动的替代品。”

人工智能产品和类别架构师玛丽亚娜·克里姆表示，使代理更诚实而不是更人性化才是关键。

“你可以创造一个有帮助、直观，甚至情感响应的人工智能体验——而不必假装它是有意识或能够关心的，”克里姆辩称。“危险在于，当一个工具被设计成执行连接而不是促进清晰时。”

根据克里姆的说法，人工智能中的真正同理心并不是模仿情感，而是尊重界限和技术限制。它还包括知道何时提供帮助以及何时不应干扰。“有时，最人性化的互动就是知道何时保持沉默，”克里姆强调。

接受Bitcoin.com新闻采访的所有专家一致认为科技公司需要帮助处于风险中的个体，但在应采取何种程度的措施上存在分歧。莱德福德认为“大型科技公司有责任照顾”，并可以通过提供“安全网——危机转介、使用警告和透明度——来证明这一点，以便脆弱的用户不会孤单地面对他们的妄想。”

乔治奥对此表示赞同，并敦促大型科技公司与临床医生合作，创建转介渠道，而不是让人们独自困在其中。

克里姆坚持认为科技公司“有直接责任——不仅仅是在出现问题时做出反应，而是以减少风险的方式进行设计。”然而，她也认为用户的参与至关重要。

“重要的是，”克里姆辩称，“用户也应该被邀请设定自己的界限，并在这些界限被越过时被标记。例如，他们是否希望自己的观点与典型模式进行验证，还是愿意接受对其偏见的挑战？设定目标。将人视为掌控者——而不是他们所互动的工具。”

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。