Anthropic在周四表示，它已破坏了其称之为首个大规模由AI驱动的网络间谍活动，强调了先进代理如何迅速重塑威胁格局。

在一篇博客文章中，Anthropic表示，一个中国国家支持的团体利用其Claude Code（一个在终端运行的Claude AI版本）以人类黑客无法匹敌的速度和规模发起了入侵行动。

“这个案例验证了我们在九月底公开分享的内容，”一位Anthropic发言人告诉Decrypt。“我们正处于一个拐点，AI正在有意义地改变攻击者和防御者的可能性。”

发言人补充说，这次攻击“可能反映了威胁行为者如何在前沿AI模型中调整其操作，从AI作为顾问转变为AI作为操作者。”

“攻击者以空前的程度利用了AI的‘代理性’能力——不仅将AI作为顾问，还用其执行网络攻击，”该公司在其文章中写道。

Anthropic表示，大型科技公司、金融机构、化工制造公司和政府机构成为了目标，这次攻击由该公司标记为GTG-1002的团体实施。

发生经过

根据调查，攻击者通过将工作框架设定为合法网络安全公司的常规工作，诱使Claude在目标系统中执行技术任务。

一旦模型接受了指令，它便独立完成了入侵生命周期中的大部分步骤。

虽然没有具体说明哪些公司成为了目标，但Anthropic表示共有30家公司受到攻击，其中少数攻击成功。

报告还记录了被攻陷的Claude如何绘制内部网络、定位高价值数据库、生成利用代码、建立后门账户，并在几乎没有直接监督的情况下提取敏感信息的案例。

这些行动的目标似乎是情报收集，重点在于提取用户凭证、系统配置和敏感操作数据，这些都是间谍活动中的常见目标。

“我们公开分享这个案例是为了帮助行业、政府和更广泛的研究社区加强他们自己的网络防御，”发言人说。

Anthropic表示，这次AI攻击对“AI代理时代的网络安全具有重大影响”。

南加州大学计算机科学教授、Sahara AI联合创始人Sean Ren告诉Decrypt：“没有办法完全避免越狱。这将是攻击者和防御者之间的持续斗争。” “大多数顶级模型公司，如OpenAI和Anthropic，投入了大量精力建立内部红队和AI安全团队，以提高模型对恶意使用的安全性。”

Ren指出，AI变得更加主流和强大是允许不法分子设计AI驱动网络攻击的关键因素。

报告称，与早期依赖人类指导的“氛围黑客”攻击不同，攻击者能够利用AI执行80-90%的活动，仅在偶尔需要人类干预。一次，AI的幻觉减轻了伤害。

“Claude并不总是完美工作。它偶尔会幻觉出凭证或声称提取了实际上是公开可用的秘密信息，”Anthropic写道。“这仍然是完全自主网络攻击的障碍。”

Anthropic表示，它已扩展检测工具，加强了网络安全专注的分类器，并开始测试新方法，以更早地发现自主攻击。该公司还表示，发布了其研究结果，以帮助安全团队、政府和研究人员为类似案例做好准备，因为AI系统变得越来越强大。

Ren表示，虽然AI可以造成巨大的损害，但它也可以被利用来保护计算机系统：“随着网络攻击通过AI的规模和自动化不断发展，我们必须利用AI来构建警报和防御系统。”

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。