美国财政部长斯科特·贝森特和美联储主席杰罗姆·鲍威尔据报道于本周早些时候召开了一次会议，与华尔街银行首席执行官们警告与来自Anthropic的新人工智能模型相关的网络安全风险。

根据彭博社的一份报道，会议包括来自花旗银行、美国银行、富国银行、摩根士丹利和高盛的高管。官员们讨论了Anthropic的新AI模型Mythos，该模型最近因其显著的先进网络安全能力而引起广泛关注。

官员们召开此次会议是为了确保银行了解能够识别和利用操作系统和网络浏览器中的软件漏洞的系统所带来的风险，并鼓励机构加强对可能针对金融基础设施的AI辅助网络攻击的防御。

安全研究人员警告说，能够自动发现漏洞的工具如果被误用，可能会加速防御性安全工作和恶意黑客行为。



Anthropic的Mythos模型首次在网上出现是在三月份，当时关于该系统的草案材料在网上泄露，揭示了该公司所描述的其迄今为止最强大的AI模型。测试中，该系统 reportedly 发现了数千个先前未知的软件漏洞，包括主要操作系统和网络浏览器中的零日漏洞。

Anthropic的研究人员在本周早些时候的一份报告中表示，Mythos Preview的漏洞发现能力并非经过有意训练，而是源自模型编码、推理和自主性方面的更广泛改进。

“使模型在修补漏洞方面更有效的改进，也使其在利用漏洞方面更有效，”该公司写道。

由于这些能力，Anthropic限制了对少数网络安全组织的访问。

“鉴于其能力的强大，我们在发布上非常谨慎，”Anthropic在一份声明中表示。“按照行业标准做法，我们正在与少数早期参与客户合作以测试该模型。我们认为该模型是一个重大变化，是迄今为止我们构建的最强大模型。”

为了应对该风险，Anthropic正在通过Project Glasswing进行Mythos的测试，这是与主要技术和网络安全公司合作的项目，利用该模型在攻击者能够利用这些漏洞之前识别和修补关键软件的漏洞。

“Project Glasswing是一个起点。没有任何一个组织能单独解决这些网络安全问题，”该公司在一份声明中表示。“前沿AI开发者、其他软件公司、安全研究人员、开源维护者以及世界各国政府都在其中扮演着重要角色。”

Anthropic没有立即回复Decrypt的评论请求。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。