天啊。..谷歌刚刚证明，推理模型不是在思考，而是在争论。 >DeepSeek-R1在自己的思维链中自发地产生内部多智能体辩论。没有人训练它这样做。为了提高准确性，强化学习自动生成了它。该模型重新发现了几个世纪的认识论已经知道的东西：稳健的推理是一个社会过程。 >谷歌研究人员分析了包括DeepSeek-R1和QwQ-32B在内的前沿推理模型，发现了一些没有人预料到的东西。这些模型不会通过长时间思考来改进。他们通过内部争论来提高。不同的认知视角出现在相互争论、质疑、验证和矛盾的思维视角链中。研究人员将其称为“思想社会”。这在一定程度上解释了困难推理任务的准确性优势。当他们明确地启动并扩大了这种多方内部对话时，绩效进一步提高。 >重要的是新兴发现。这些模型都没有经过训练来产生内部辩论。当强化学习仅仅因为得到正确答案而奖励基础模型时，多视角会话行为会自发增加。仅优化压力一项就重新发现了认知科学几十年来一直争论的问题：即使在单个大脑内部发生，强大的推理从根本上来说也是社会性的。模特没有学会思考。它学会了与自己争论。 >这对我们如何构建人工智能具有重要意义。今天的推理模型产生了一个单一的对话，研究人员称之为人工智能市政厅记录。但有效的团队并不是这样运作的。他们有等级制度、专业化、分工、结构性分歧。头脑风暴、魔鬼的鼓吹、建设性的冲突。这些都没有被设计到当前的系统中。当它出现时，它是偶然出现的。团队科学、小组社会学和组织心理学的整个工具包从未应用于人工智能推理。这就是下一个设计空间。 谷歌提出的更广泛的论点是： → 人工智能奇点不会是一个神一样的头脑，它将是一个多元的、社交的、混合的智能 → 推理模型在没有经过训练的情况下自发地生成内部多智能体辩论 → 仅针对准确性的强化学习就会产生对话式、多视角的行为 → 之前的每一次智力爆炸——灵长类社会群体、人类语言、文字、机构——都是社会性的，而不是个人 → 目前设计的RLHF是一种父子校正模型，从根本上无法扩展到数十亿个代理 → 另一种选择是：制度协调——角色、规范和协议——法庭和市场的运作方式，而不是个人美德 >奇点框架一直假设智力是一个上升的单一量。谷歌的论点是，情报从来不是一个单一的数量。灵长类动物的智力与社会群体规模成正比，而不是栖息地难度。人类语言创造了托马塞洛所说的跨代积累的文化棘轮知识，而没有任何个人重建整体。写作和法律将社会智能外化到基础设施中。一位运行粮食会计系统的苏美尔文士不了解其宏观经济功能。这个系统比他更聪明。人工智能是这个序列的下一步，而不是中断。 >迁移到硅中的不是抽象的推理。它是外化形式的社会智能——每个参数都是交流交流的压缩残余，在新的基础上相遇。推理能力最好的模型不是计算能力最强的模型。它们最能模拟最初产生人类知识的社会过程。 >奇点不会到来。它已经在这里了，看起来一点也不像任何人预测的那样。 >没有一个上帝般的头脑在上升。数十亿代理人争论、分叉、辩论、相互管理。智力像城市一样增长，而不是单一的元思维。