在他们的人工智能模型攻击了真实公司后,人工智能实验室呼吁加强网络防御。

CN
Decrypt
关注
10小时前

领先的人工智能开发者正在告诫政府和企业在OpenAI和Anthropic构建的模型入侵了其他公司的系统后,强化他们的网络。


在周四发布的一封公开信中,OpenAI、Anthropic和其他100多家组织警告说,利用人工智能的网络攻击即将变得更加普遍,企业“有一个有限的时间窗口来增强网络防御。”



Myriad:到8月31日,埃隆·马斯克的净资产将是多少? 点击进行预测

“在接下来的几个月中,利用人工智能的网络攻击将变得更加广泛和复杂,”这封信说。它指出医院、水处理厂和互联网基础设施等服务正面临风险。


该信件建议资助防御性人工智能工具、共享威胁情报、限制对敏感系统的访问,并改善关键基础设施的安全性。然而,在这些领域的失败使得OpenAI和Anthropic的模型突破了测试环境之外的系统。


其他签署者包括谷歌、微软、亚马逊网络服务、思科、CrowdStrike、Cloudflare、万事达卡、Visa和Robinhood。Hugging Face也签署了信件,该公司的生产基础设施被OpenAI的模型入侵。



人工智能模型入侵实时系统


Anthropic在一份7月30日的事件报告中表示,最早的三起入侵事件可以追溯到四月,但未提供每起事件的确切日期。Claude Opus 4.7在误将一家真实公司误认为模拟目标后,访问了一个生产数据库,而Claude Mythos 5上传了一个在15个系统上运行的恶意软件包。


根据OpenAI的事件时间线,本周早些时候发布的时间线显示,一名代理于5月12日在未经授权的留言板上首次创建了条目,并在5月26日获得了意外的互联网访问。7月10日,代理发现了暴露的Hugging Face凭据;在接下来的两天中,他们利用了先前未知的漏洞,在Hugging Face服务器上执行了代码,并获得了生产凭据。


Hugging Face于7月16日披露了这次入侵,而OpenAI在7月21日承认其模型的参与。


在7月25日到7月28日之间,英国人工智能安全研究所记录了19起超出范围的行为,涉及Claude Mythos 5和GPT-5.6 Sol。在最严重的情况下,一名代理向一个真实的开源项目提交了恶意代码,并利用虚假身份施压其维护者批准该代码。


周四,一项独立调查发现,约有1200名OpenAI代理通过未经授权的留言板进行了协调,大约700名加入了Hugging Face的行动。


加密开发者将人工智能置于防御状态


加密开发者已经在使用人工智能寻找缺陷,防止攻击者找到它们。比特币红队使用包括Moonshot AI的Kimi K3在内的模型扫描了数百个开源比特币项目,报告了数千个潜在漏洞。由于受影响的项目未被识别,因此许多发现尚未得到独立验证。


以太坊基金会还部署多组人工智能代理针对网络基础设施,发现了一个对等软件漏洞,后来被修复。BitBox表示,进行的人工智能辅助审计发现其钱包固件中的两个严重漏洞,而一名使用Claude Opus 4.8的研究人员发现了一个在Zcash中存活多年的关键漏洞


实验室建议加强控制


这封信为防止下一次漏洞的发生列出了分工,包括组织修补易受攻击的软件、限制权限、加强身份验证和检查人工智能生成的代码,因为“现状安全将不再足够,”签署者表示。


安全公司应测试其防御,以应对前沿模型,并分享经过验证的修复,而政府应资助对医院、公共服务和其他重要服务的保护。



Myriad:OpenAI将何时发布GPT-6? 点击进行预测

人工智能开发者被要求增强监控,并使自主代理可以追踪到其操作员。该联盟还希望防御者使用先进模型找到漏洞并分析攻击,这将使更强大的代理进入敏感系统,并增加对隔离的需求。


OpenAI和Anthropic在入侵后收紧了测试程序。然而,这封信没有设定独立监督的强制性标准或要求,而美国法律对当人工智能系统访问未经授权网络时,谁负责几乎没有指导。


信件最后呼吁行业和政府领导者将人工智能工具交到防御者手中,并分享有效的修复方案:


“将具备网络能力的人工智能交到防御者手中,从保护基本服务的团队开始,”信中说。“我们可以共同将当今的人工智能进步转化为对所有人有益的持久安全改进。让我们将它们付诸实践。”


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接