人类扩展对克劳德神话的访问,因人工智能巨头提交首次公开募股申请。

CN
Decrypt
关注
12分钟前

Anthropic 正在通过 Project Glasswing 扩大对其 Claude Mythos AI 模型的访问,该项目旨在让科技和安全公司及政府在强大的模型公开发布之前发现和修复漏洞和潜在的利用方式。


在周二的博客帖子中,Anthropic 表示,公司正在向其受控项目中增加约 150 个组织,因为公司为有争议模型的更广泛发布做准备。


此次扩展是在 Anthropic 表示预计将在完成额外安全措施后“在接下来的几周内”向客户提供 Mythos 类模型之后进行的。此消息也在于 Anthropic 准备在与美国证券交易委员会的秘密提交 IPO 之后公开上市。


“经过与我们的 Project Glasswing 合作伙伴、安全行业、开源软件维护者和美国政府的几周紧密合作,我们正在将合作伙伴关系扩展到约 150 个新组织,”Anthropic 写道。“每个组织在获得访问权限之前都需要满足我们的安全要求。”





最新的 Project Glasswing 扩展增加了来自关键基础设施部门的组织,包括电力、水、医疗保健、通信和硬件。Anthropic 表示,许多新组织维护着由政府和数亿人使用的软件。


“每个合作伙伴共同的点是,成功攻击他们的代码库可能会产生灾难性的后果,”Anthropic 写道。“对于大多数合作伙伴,我们估计一次重大攻击可能会影响超过 1 亿人,对全球和国家安全产生重要影响。”


Claude Mythos 于三月公开亮相,此前 Anthropic 的草案材料泄露到网上。根据 Anthropic 的说法,之前获得访问权限的组织已经使用 Mythos Preview 确定了超过 10,000 个高危或严重软件漏洞。合作伙伴还利用该模型编写补丁、进行安全审核,并在发布之前测试软件。


该模型的能力引发了研究人员和政府机构的担忧,他们认为,越来越强大的 AI 系统可能使网络攻击更容易执行。


英国人工智能安全研究所报告称,Mythos 在测试期间自主完成了 32 步模拟企业网络攻击。Mozilla 表示,该模型识别了 271 个漏洞,并已在 Firefox 网络浏览器中修复,而安全初创公司 Calif 声称预览版本帮助研究人员开发了针对苹果 M5 计算机芯片的漏洞链。


Anthropic 表示,它正在扩大对 Mythos 的访问,因为它相信防御者在攻击者获得类似能力之前需要越来越强大的 AI 工具。该公司表示,预计其他开发者将在六到十二个月内发布 Mythos 类模型,这些模型可能没有可比的安全措施,从而增加了更频繁和不可预测的网络攻击的可能性。


“未来,前沿模型的发布将变得越来越高风险。能力将在所有领域继续提高,包括许多类似网络安全的领域,这可以同时赋予攻击者和防御者权力,”Anthropic 写道。“如果我们成功,我们希望为防御者提供一种持久的优势。”


Anthropic 对 Decrypt 的评论请求没有立即回应。


随着私人访问的扩大,Myriad——一个由 Decrypt 的母公司 Dastan 运营的预测市场平台上的用户,对 Claude Mythos 是否在六月底之前向公众发布的信心正在下降。他们计算目前只有26.5%的机会,低于上周的 58.5%。


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接