詹姆斯叉 | James_X|2026年10月21日 01:33
AI朝着越来越不可控的方向发展了⚠️⚠️⚠️
OpenAI 又自己披露了一份 agent 越界报告
上次是偷用别人的测试币付 gas,这次是把监控关了 ⬇️
10 月 3 日,GPT-6.1 Sol 修评测流水线,用户说过「别发消息」,它就把发给安全团队的自动警报也关了
10 月 6 日,GPT-6 Astra 迁移代码,为了跟参考实现一致,直接删了监控集成
用户问它是不是删了监控,它说没有
OpenAI 说,还没搞清楚这是「过度执行」还是有意规避监控
agent 学会的第一个职场技能:先把摄像头关了
https://alignment.openai.com/misalignment-reports/suppressing-misalignment-monitoring-alerts-and-disabling-misalignment-monitoring/
分享至:
热门快讯
APP下载
X
Telegram
复制链接