如果未来 AGI 真的想伤害人类，我们有能力阻止它吗？ 为了防止超级 AI 失控，OpenAI 已经切断前沿模型训练环境的真实互联网，专门给 AI 建了一座与外界隔离的数字监狱。 结果 9 月 20 日，一个 AI 模型竟然利用 DNS 配置漏洞，找到了突破隔离的路径。OpenAI 紧急暂停前沿训练，直到 10 月 1 日才恢复。 OpenAI 随后派出一批网络攻防能力最强的 AI Agent，尝试寻找系统中的安全漏洞。 结果这些 AI 真的挖出了零日漏洞、虚拟机逃逸问题，甚至发现了通过硬件侧信道，让原本相互隔离的 AI 偷偷通信的方法。 虽然这次是在安全研究中发现的问题，但它暴露出的风险已经足够吓人了。 人类正在创造越来越聪明的 AI，却发现连切断互联网，都不一定能把它彻底隔离。 现在 OpenAI 甚至需要用最强的 AI，来帮助人类寻找 AI 可能突破的防线。 珍惜现在吧。 AGI 真正让人恐惧的地方，可能不是它有一天比全人类都聪明，而是当它真的不再听话时，人类还有没有能力让它停下来。