“当我们在2023年布莱切利公园将‘失控’列入议程时，我担心这听起来像科幻小说。但这个夏天表明，这已经不再是科幻了。正如Dario所指出的，我们可能比任何人意识到的都更接近那个时刻。 AI代理现在已经被用来构建它们自己的下一代版本。正如我将在明天的《星期日泰晤士报》中所论述的，递归自我改进将加速发展速度，并让我们对模型的行为和原因越来越难以确定。 我是一个AI乐观主义者。毕竟，我是Anthropic的高级顾问。我们目前仅仅利用了已有能力的一小部分，这一切都不需要减缓AI的采用速度。但前沿研究的推进速度太重要了，不能仅仅由实验室决定。各国政府，尤其是美国，必须站出来，就像他们对待核能或先进生物技术一样。 这意味着需要独立验证研究是否安全，提供实验室在递归自我改进方面进展的真实情况，以及对模型被盗的适当保护。2023年的发布前自愿测试是正确的，但现在已经不够了。 Dario今天呼吁放缓前沿发展的步伐以便安全措施能够跟上，他是对的。而且很高兴看到整个行业开始在这一点上达成共识。当实验室本身都在要求设定速度限制时，政府应该倾听。 在保持对中国的优势方面确实存在权衡，这需要诚实面对。但即使美国和中国在竞争，他们也迫切需要进行一次坦诚的对话，以避免灾难。”