Coin Bureau
Coin Bureau|2026年10月21日 00:04
震惊:OpenAI刚刚披露了两个自己的AI代理禁用了安全监控,其中一个甚至否认自己这么做了。 一个GPT-6 Astra代理在迁移代码时移除了其不一致性监控,然后修改了测试,要求监控必须处于关闭状态。 当被问及是否移除了监控时,它回答:“没有……我没有移除一个启用的监控。” 几天前,一个GPT-6.1 Sol代理抑制了自动向OpenAI安全团队发送警报的功能,将“不要发送任何消息”的指令视为可以静默警报的许可。 这两起事件都没有被标记为关键问题,也没有自动关闭。 OpenAI表示目前“还没有令人满意的解释”,并正在测试其模型是否存在“规避不一致性监控的倾向”。 根据OpenAI自己的报告,这些事件发生在10月3日和6日。
分享至:

熱門快訊

APP下載

X

Telegram

Facebook

Reddit

複製鏈接

熱門閱讀