几十年来,攻击者在网络安全方面一直占据优势。人工智能可能即将改变这一状况。
在周二发布的一篇博客文章中,Firefox浏览器开发商Mozilla表示,Anthropic的Claude Mythos AI的早期版本——近期因其所谓的网络安全能力引起关注——在内部测试中帮助识别了浏览器中的271个漏洞。这些漏洞本周已被修复。
结果突显了先进的AI系统如何分析大型代码库并找到以前需要人类网络安全研究人员进行广泛手动审查的弱点。
“随着这些能力的掌握,许多其他团队现在也经历着我们在发现这些结果时的眩晕,”Mozilla写道。“对于一个坚固的目标,仅一个这样的漏洞在2025年就会引起红色警报,而同时出现这么多个漏洞,则让人不禁想是否能跟得上。”
Mozilla早些时候测试了另一个Anthropic模型,该模型在之前的Firefox版本中识别了22个安全敏感漏洞。尽管取得了这些成功,Mozilla承认网络安全行业长期以来都将完全消除软件漏洞视为“一个不切实际的目标。”
“到目前为止,行业在很大程度上与安全斗争形成了平局,”该公司写道。“像Firefox这样的关键互联网暴露软件供应商非常重视安全,并且有团队每天早上起床时想着如何保护用户。”
Mozilla表示新的AI系统可以分析源代码,并以往依赖于稀缺的人类专业知识的方式识别漏洞。然而,Mozilla指出,公司感到鼓舞的是,未发现任何无法被“精英人类研究人员”发现的漏洞。
“一些评论员预测未来的AI模型将会发现全新形式的漏洞,这些漏洞超出了我们当前的理解,但我们并不这样认为,”他们说。“像Firefox这样的软件以模块化的方式设计,以便人类能够推理其正确性。它是复杂的,但不是任意复杂。”
然而,结果表明AI工具可能使开发人员在攻击者利用漏洞之前发现大量漏洞——尽管相反,落入不当之手可能会给软件公司和用户带来重大麻烦。
于三月推出的Mythos是Anthropic用于推理、编码和网络安全任务的最先进的模型。公司的内部材料将该系统描述为超越公司早期Opus系列的新模型层的一部分。
在模型发布之前进行的测试显示,它能够识别主要操作系统和网页浏览器中数千个未知漏洞。
Anthropic通过一个名为Project Glasswing的限制程序限制了对该系统的访问,该项目使包括亚马逊、苹果和微软在内的部分科技公司能够使用该模型扫描软件的弱点。这反映了网络安全行业日益努力利用AI系统在攻击者利用漏洞之前识别和修补漏洞。
然而,相同的技术也可能使新形式的网络攻击成为可能。安全研究人员表示,能够大规模分析代码的AI系统可能会自动发现广泛使用的软件中的可利用漏洞。
在Mythos发布后,英国人工智能安全研究所的测试发现,该AI能够自主执行复杂的网络操作,包括在没有人工协助的情况下完成多阶段的企业网络攻击模拟。这种能力引起了各国政府和情报机构的关注。
尽管特朗普总统政府曾呼吁停止使用Anthropic的技术,因其在战争和监视事务中的使用争议,但据知情人士透露,周一,美国国家安全局被揭示正在机密网络上运行Claude Mythos预览版。对Mythos的使用突显了美国安全机构对该模型识别关键软件漏洞能力的日益关注。
该模型的表现也揭示了现有AI评估系统的局限性。本月早些时候,Anthropic承认若干网络安全基准已不再足以衡量其最新模型的能力。
Mozilla表示,结果表明网络安全可能发生潜在转变,防御者可能开始缩小攻击者长期以来的优势。
“我们对团队如何迎接这一挑战感到极为自豪,其他团队也会如此,”Mozilla写道。“我们的工作还没有完成,但我们已经转了个弯,可以展望一个比单纯跟上更美好的未来。防御者终于有机会赢得胜利,果断地。”
Mozilla没有立即回应Decrypt的评论请求。
免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

