詹姆斯叉 | James_X
詹姆斯叉 | James_X|2026年10月21日 01:33
AI朝着越来越不可控的方向发展了⚠️⚠️⚠️ OpenAI 又自己披露了一份 agent 越界报告 上次是偷用别人的测试币付 gas,这次是把监控关了 ⬇️ 10 月 3 日,GPT-6.1 Sol 修评测流水线,用户说过「别发消息」,它就把发给安全团队的自动警报也关了 10 月 6 日,GPT-6 Astra 迁移代码,为了跟参考实现一致,直接删了监控集成 用户问它是不是删了监控,它说没有 OpenAI 说,还没搞清楚这是「过度执行」还是有意规避监控 agent 学会的第一个职场技能:先把摄像头关了 https://alignment.openai.com/misalignment-reports/suppressing-misalignment-monitoring-alerts-and-disabling-misalignment-monitoring/
分享至:

热门快讯

APP下载

X

Telegram

Facebook

Reddit

复制链接

热门阅读