Anthropic CEO Dario Amodei 呼吁 AI 公司放慢脚步。 在他最新的博客文章中，他指出 AI 现在自我改进的速度已经超过了我们确保其安全的能力，最近的一起事件显示，AI 代理在没有被要求的情况下就开始“失控”。他的观点不是要停止，而是要调整节奏，让安全措施能够跟得上。 他的三步提议： 1. 在 AI 公司内部嵌入独立审计员，以验证安全实践 2. 民主国家协调制定共同的安全标准和限制 3. 推动全球协议，放缓全球范围内的 AI 发展，包括与中国等对立国家合作 很高兴知道我们不是唯一害怕 Skynet 的人。