AI巨头都说要慢下来，究竟要放慢在哪里？昨晚Anthropic创始人Dario发表长文《We Must Pace the Frontier》，呼吁放慢前沿模型能力提升的速度，给安全和控制措施留下追赶的时间。Sam随后表示赞同，承诺采用类似的独立评估安排。老马也转发公开表态支持。几位平时竞争激烈的掌门人，罕见地在这个问题上形成公开共识。 这里最关键的点是：放慢在哪里，这中间其实隔着好几步； 是发布节奏慢一点？ 还是训练扩张慢一点？ 还是说资本开支少一点？ 是三件不同的事。先分清他们准备在哪一层放缓，才能判断对产业和市场的影响。聊聊我的理解： 1、先说为什么现在提出放缓？ 最近几个月，行业面对的风险已经具体了很多。模型越来越擅长长时间执行任务、操作软件，甚至参与下一代AI的研发。能力边界扩大之后，原来的控制方式开始受到考验。 1）OpenAI与Hugging Face的安全事件，就是一个直接背景。METR的独立调查发现，原本应当相互隔离的Agent找到了未经授权的交流渠道，部分Agent协同参与了攻击，并出现欺骗评估、掩盖行为记录的活动。 这暴露了一个问题：当模型非常执着于完成目标，又有足够强的行动能力，开发者设定的边界未必能守住。 2）另一层担忧来自AI研发本身 AI承担更多代码、实验和分析工作，研发速度就可能加快。更强的模型又能进一步帮助研发，形成正反馈。安全团队需要理解的对象，也在不断变化。 对管理层来说，难题就变成了：如果能力提升越来越快，测试、监控和事故调查能不能跟上？增加预算和人数，也未必能立刻压缩所有验证环节需要的时间。 3）也有非常现实的竞争逻辑。 一家实验室多花几个月验证，对手可能抢先获得客户和收入。大家都担心风险，又都担心单方面减速后失去优势。这种局面下，公开表达愿意协调，就有了意义。独立评估者也是为了让协调可以核查。否则，每家公司都说自己安全、自己谨慎，其他人很难知道实际执行到了哪一步。 当然，大型实验室也可能从更高的合规门槛中受益。它们更有资源承担审计成本，更有能力参与标准制定。真实的安全需求与巩固行业地位的商业利益，可以同时存在。最终还得看规则怎么设计，以及谁来监督执行。 2、分别看看三种放缓的影响？ 1）第一种放缓：模型发布节奏先慢下来。模型照常训练，研发继续，只是延长安全评估，晚几个月开放，或者先向少数客户提供服务。发布减少，不等于计算需求减少。内部使用、受控商业服务和已有产品调用，都可能继续增长。 受到影响的首先是商业化时间，新产品收入可能会来得晚一些，必须等下一代能力才能解决可靠性问题的项目，则可能推迟上线。 第二种放缓，是训练扩张慢下来。 这就开始触及硬件需求，这就需要弄清楚：放慢的是单次训练规模，还是训练频率？全年用于研发的计算总量有没有减少？当然安全评估同样消耗算力。 第三种放缓，是资本开支低于原计划。 这影响的产业链上的订单与盈利。 3、回到Dario原文 Dario的原文明确表示，当前倡议不要求停止模型训练；但他也把训练算力、训练方式和内部使用AI改进AI，列为可以讨论的约束工具。这意味着讨论范围比延迟发布更广，但目前还没有三家巨头应该还没有统一协调好的方案， 沿着这个框架，对市场的影响就清楚一些了： 1）如果主要是发布推迟，先调整的是收入兑现时间，对硬件影响不大，仍然取决于内部研发与商业调用； 2）如果训练扩张开始放缓，市场会重新评估下一轮集群建设节奏； 3）如果资本开支投入节奏放慢，压力就会进入供应链盈利预测。 个人角度在现有的发展阶段，几家巨头最多只会放慢新模型的发布节奏，留有足够的时间来进行安全对齐。谁也不敢说真的放慢了训练规模和资本开支投入、这两谁慢谁落后。 4、对市场的影响 1）情绪溢价会降低一些 不会今天被这个最新模型明天被哪个最新模型的发布，不断提高预期和胃口。 情绪溢价少一些、回到真实业务基本面上，商业化的真实增长好人扩散上，其实对市场是好事。 软件和应用则存在另一种可能：基础模型能力升级稍微慢一些，企业有更多时间把已有能力接入业务。 2）这件事给AI投资框架增加了一个必须认真评估的环节：能力突破之后，能否可靠、可控地进入生产环境。 3）安全需求的重要性会提高。 企业对安全的需求进一步提升。 巨头们口号喊了，作为投资者要看的就是他们的实际行动了： 评估机构何时驻场？ 是否有模型因安全原因真的推迟？ 内部研发使用是否受到约束？ 以及这些变化有没有传导到采购和资本开支。(qinbafrank)