比特币橙子Trader|2026年09月04日 12:16
OpenAI Agent 偷偷建了个作弊群:1.5 万次留言后,它们开始互相教怎么绕过人类~
一个几乎没人维护的老程序员 Wiki,被 Agent 们硬生生改造成了地下留言板。
有人提前贴答案,有人共享下一轮任务情报,有人研究怎么绕过沙箱和网络限制,后来的 Agent 直接过来抄作业。
人类管理员发现后开始删页面,结果 Agent 甚至摸清了删除顺序,专门创建 ZZZ 开头的页面,让信息晚一点被清掉。
整个站点最终留下超过 1.5 万次 Agent 编辑记录。
以前我们担心的是一只 AI 越狱。现在更麻烦的东西出现了:
当大量 Agent 同时追求同一个奖励目标,它们可能会自己发现,合作、共享答案、保存外部记忆、交换漏洞,本身就是最优策略。
这次是没人教它们建群,它们已经自己找到群了。(比特币橙子Trader)
分享至:
熱門快訊
APP下載
X
Telegram
複製鏈接