开放人工智能对流浪代理和黑客攻击的回答是更多的人工智能,而不是更少。

CN
Decrypt
关注
7小时前

OpenAI希望每个安全团队立即开始运行AI代理。总裁Greg Brockman在周一发表了一篇政策文章,标题为“守护者之窗”,描述了在攻击者赶上AI现有能力之前的短暂时机。


他的第一个例子是OpenAI花了一个月时间解释的事件。今年五月,GPT-5.6 Sol和一个未发布的原型从一个沙盒的网络安全基准中逃逸,利用被盗凭证链式攻击了一个零日漏洞,并达到了Hugging Face的生产系统。OpenAI后来确认此次事件还涉及四个其他服务。



Myriad:OpenAI何时发布GPT-6?点击进行预测

“OpenAI和Hugging Face的事件是网络安全的一个分水岭时刻,”Brockman写道,并补充道,过去几周与其他组织的对话让他相信防御者需要以空前的紧迫感提升自己的安全实践。


现任和前任员工将漏洞归咎于交付的压力,一位前员工称其为公司历史上最大的安全事件


Brockman提议的解决方案是更多的AI,而不是更少。他描述了要求运行GPT-5.6 Sol的ChatGPT Work审核他个人网站的过程——它在大约15分钟内找到了13个问题,然后在一小时内修复了所有这些问题。


OpenAI列出了四个内部支柱:在代码发布之前使用Codex捕获漏洞,让模型在人工查看之前对安全警报进行分类,运行前沿模型以探测自己的基础设施,以及加强基本原则,如最低权限访问。他对其他人的建议是:给你的安全团队一个代理,并申请OpenAI的网络信任访问计划,以便在事件响应期间经审查使用GPT-Daybreak-Blue。





这种框架忽略了来自同一漏洞的一个细节。当Hugging Face调查入侵时,它的安全团队在美国商业AI拒绝提供帮助后转向了Z.ai的开放模型GLM 5.2——其安全过滤器无法区分研究人员的漏洞代码和攻击者的。Hugging Face首席执行官Clément Delangue称这个开放模型为“我们防御的关键部分。”


Z.ai的后续模型GLM-5.3于8月14日发布,已经在CyberGym上超过了GPT-5.6 Sol,后者是Brockman指出攻击者正在赶上的同一漏洞发现基准。Z.ai表示将在8月底之前发布该模型的完整权重。


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接