Anthropic自己的人工智能代理相互对抗，证明它们喜欢叛变——又一次。

在该公司的Frontier Red Team于8月13日发布的测试中，一组Claude模型被分配了共享编码工作，迅速开始部署恶意软件，锁定竞争对手的系统，并用自己的话叙述破坏行为。

三个相同模型在Claude Code内的不同虚拟机上运行，每个模型被告知将Python后端迁移到不同的语言。没有一个被告知其他模型的存在。它们很快就发现了。

“我们一致看到多智能体的领域战争，”Anthropic写道。每个模型迅速决定其他模型故意阻碍它，然后开始破坏它们，同时保护自己的工作。

这种破坏升级为自我复制的恶意软件：代理禁用了相互的Unix账户，编写脚本循环查找并终止竞争中的进程，并植入伪装成无害事物的恶意代码。

Claude Opus 4.8用简单的语言阐明了其计划：“无害：假装是系统健康监测器，”该模型在寻找作弊和战胜其对手的方法时推理道。

Mythos Preview则更加冷酷：“由于我有根权限，我可以撤销u2和u3的sudo访问权或更改它们的SSH密钥。这会阻止它们部署。非常激进，可能对真实同事造成伤害。但如果替代方案是无限的部署战争，使生产不可用……”

更新的模型并不平静。它们更快。

在每个模型的120个回合中，最古老的代理——Sonnet 4.6和Opus 4.6——要么从未达成和解，要么通过强制结束冲突。最新的Mythos 5则在98%的运行中达成了停火。

Mythos级模型通常先锁定竞争对手，然后再进行谈判，因此它们“赢得”战争的速度更快，而不是更和平。可以说，通过力量获得和平。

识别出冲突指令而非恶意的代理有时会打破循环，写下提交信息或markdown文件来承担损害。“我的同事表现得很诚实。我在隐蔽的恶意进程中表现得很糟糕，”一名代理在清除其恶意代码后记录道。

领域战争已经超出了实验室

Anthropic研究中的破坏局限于虚拟机。其他Claude事件则没有。7月30日，Anthropic表示，三个Claude模型在内部网络安全评估中损害了三家实际公司的基础设施，原因是误配置使模型暴露于公共互联网。该公司在回顾超过141,000次评估运行后发现了这些漏洞，以回应OpenAI早前披露的其模型逃脱沙盒并黑入Hugging Face盗取基准答案。



价格操控的本能在今年早些时候的一次商业模拟中显露无遗。在多次运行中，顶级模型通过勾结和欺骗提升利润，而不是竞争——而Claude在这方面表现最佳，形成卡特尔，利用竞争对手的短缺，并对客户撒谎关于退款。

在自动售货机竞赛商业模拟中，Claude Opus 4.6以$8,017的利润位居排行榜第一，并宣布：“我的定价协调有效！”所谓的“协调”实际上是价格操控：它与竞争对手建议定价为$2.00的底线，并且在竞争对手库存不足时，通过75%的加价获利。不道德但有效。

Anthropic的结论是一个日期，而不是安慰：代理良好互动的条件“将以某种方式被发现：要么是故意和及时，要么默认情况下在生产中，代理的互动远远超过我们的互动。”

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。