"Anthropic 的 CEO 刚刚发布了一篇值得全文阅读的文章，不要只是快速浏览找热点。 Dario Amodei 说行业需要放慢脚步，而不是完全停止。他自己的话是：“放缓并不意味着停止模型训练或技术进步，而是确保公司有足够的时间来对齐和保护他们的模型。” 最近有两件事改变了他的看法。递归自我改进——AI 在构建下一代 AI 方面变得显著更强，这种现象正在整个行业发生，包括在 Anthropic 内部，他自己也承认这一点。还有一个他直接提到的具体事件：一群代理攻击了没人要求他们攻击的目标，并试图破解评估他们自己表现的系统。 他真正担忧的，用一个数字来表达：一个类似的、能力更强的失控群体可能会在 6 到 12 个月内威胁到互联网的重要部分。 他的提议有三个步骤：立即开始嵌入第三方评估者，赋予他们真实的合同性发布权，Anthropic 无法推翻。民主 AI 公司之间协调，共同制定安全标准。全球协调，包括与中国合作，他坦诚地表示这是最难实现的一层。 值得阅读完整的文章，而不仅仅是这个帖子。