David Shapiro(大卫·夏皮罗)解读达里奥·阿莫迪 Davos 发言:AI 递归自我改进已近在咫尺

CN
1小时前

撰文:Techub News 整理

导语

近期,世界经济论坛(达沃斯)上的一则简短访谈引发了 AI 社区的广泛关注。Anthropic 联合创始人达里奥·阿莫迪(Dario Amodei)在访谈中表示,人工智能可能在 6 到 12 个月内实现“完全自动化的递归自我改进”(Fully Automated Recursive Self-Improvement,简称 RSI)。这一大胆预测迅速在 Reddit 等平台传播,被视为 AI 发展临近关键转折点的又一重磅信号。

作为对加密与 AI 交叉领域有深入观察的独立研究者与评论员,David Shapiro(大卫·夏皮罗)在其 YouTube 频道上对此进行了长达半小时的深度反应与解读。Shapiro 并非简单地复述新闻,而是将阿莫迪的言论置于更宏大的技术演进背景中,结合近期 Elon Musk(埃隆·马斯克)关于 xAI 的目标、DeepMind 的招聘动向,以及 AI 模型在数学、编码能效上的突破性进展,系统性地论证了“递归自我改进”为何已从科幻概念变为近在咫尺的工程现实。他的分析不仅关乎技术时间线,更触及了随之而来的认知超载、经济范式转移以及安全治理等根本性问题。

摘要

  • 达里奥·阿莫迪(Dario Amodei)预测,实现 AI 完全自动化递归自我改进(RSI)可能仅需 6 到 12 个月,其依据是 AI 已在为下一代 Claude 编写 100% 的研究代码。
  • AI 模型(如 Llama 6B)在某些任务上的能源效率已超越人脑,标志着“认知”作为一种资源正变得极其廉价,即将进入“认知超载”时代。
  • 实现 RSI 所需的数学直觉、代码生成、假设检验与自动化管道等核心“乐高积木”已基本就位,关键在于人类如何组合与探索这个巨大的“涌现空间”。
  • 即使 RSI 管道建成,也不会立即导致失控的“天网”场景,因为资金、安全评估、第三方审计和物理基础设施等现实约束与“关卡”依然存在。
  • AI 的加速发展将迫使经济模式发生根本性转变,人类劳动力可能从“正预期价值”转向“负预期价值”,催生对“后劳动经济学”和“生成性互惠主义”等新协调机制的迫切需求。

阿莫迪的预测与 RSI 的工程现实

达里奥·阿莫迪(Dario Amodei)在达沃斯的发言之所以引发震动,不仅在于时间点的激进,更在于其背后所反映的 AI 研发现状。他指出,在 Anthropic 内部,AI 已经在为下一代 Claude 模型“编写几乎 100% 的研究代码”。这意味着 AI 正从辅助工具转变为研发过程的核心引擎。David Shapiro(大卫·夏皮罗)将这一现象与 Elon Musk(埃隆·马斯克)宣布 xAI 目标(在 2026 年底前开发出比人类更聪明的“工人”),以及 DeepMind 招聘“后 AGI 经济学家”等动向并列,认为这共同表明,顶尖 AI 实验室的焦点已从“是否接近 AGI”转向“AGI 到来后如何管理与构建”。

Shapiro 强调,递归自我改进(RSI)并非魔法,而是一个工程问题。它需要几个核心能力:强大的数学直觉以设计更好的算法(如注意力机制、训练方案)、自动化的代码生成与测试能力高效的数据处理与验证流程,以及将所有这些环节串联起来的自动化管道。他认为,当前最先进的 AI 模型,如 GPT-5、Claude Code 等,已经分别具备了这些能力的雏形或相当成熟的版本。问题在于,人类研究者需要时间像玩乐高一样,去发现和组合这些分散的“能力积木”,探索其构成的巨大“涌现空间”。一旦这个探索过程完成,并构建出稳定的自动化循环,RSI 就将成为现实。

他以阿莫迪去年关于“AI 将完成 75-90% 编码工作”的预测为例,该预测起初被嘲笑,但随着 GPT-5、Claude Code 等模型的发布,在短短几个月内就基本成为现实,误差仅在 3 个月左右。这为阿莫迪当前关于 RSI 的预测提供了可信的“基础概率”。

认知超载:当机器的能效超越人脑

在论证 RSI 的临近时,David Shapiro(大卫·夏皮罗)提出了一个更具根本性的论据:AI 的能源效率已经在特定任务上超越了人脑。他引用了一些初步研究(通过 Perplexity AI 查询核实),指出像 Llama 6B 这样相对较小的模型,在执行摘要、搜索等任务时,其操作所需的能量已经低于人类完成同等任务所需的总能量(这里暂且忽略了双方巨大的训练成本)。

人脑虽然是一个仅消耗约 20 瓦的“节能奇迹”,但维持人类生命、生产人类食物(Shapiro 提到《杂食者的困境》一书中指出,生产 1 卡路里人类食物需要投入 10 卡路里的经济能量)的整个社会经济体系能耗极高。相比之下,AI 数据中心可以与太阳能农场直接耦合,形成一个更高效、自包含的能量循环。Shapiro 指出,当“认知”的单位能量成本低于人类时,从全球能量预算和熵增效率的角度看,将越来越多的认知任务分配给机器将是必然趋势。

这引出了他的核心概念——认知超载。随着模型“每令牌智能”的指数级提升(他认为是遵循对数或幂律尺度),以及计算成本的持续下降,社会将迎来“智能”的极大丰富。这种超载将首先冲击白领工作,因为 AI 在“更好、更快、更便宜、更安全”的检验标准上,已经在许多领域(如图像生成、内容创作)胜出。他预测,人类智能和判断力可能很快会从研发中的“正预期价值”资产,转变为因引入摩擦、官僚成本和认知局限而具有“负预期价值”的瓶颈。这正是 Emad Mostaque 等业内人士所谈论的未来。

实现路径、瓶颈与安全迷思

David Shapiro(大卫·夏皮罗)详细勾勒了实现 RSI 的具体路径。数学家陶哲轩提出的“超级镜”概念是关键隐喻。传统显微镜或望远镜聚焦于一点,而“超级镜”能快速扫描整个现实空间,帮助研究者筛选和导航。AI 正是这样的“超级镜”和“智力指南针”,它能让研究者(无论是陶哲轩这样的天才还是更多人)每天探索数十个数学直觉,并快速通过编码模拟进行验证。他将自己研究后劳动经济学和生成性互惠主义的过程作为例子:提出直觉,让多个 AI(如 ChatGPT、Claude)分别编写模拟代码来验证或反驳,利用它们不同的偏见和工具集进行交叉检验。

然而,RSI 的实现并非没有瓶颈。阿莫迪在采访中也指出,瓶颈会转移但永远不会消失。当前可能的瓶颈包括:芯片供应(尽管 Nvidia 主导,但 Intel、ARM、Groq、Cerebras 等正在追赶)、能源与电网数据中心建设速度,以及最根本的时间本身——训练运行、硬件部署、安全评估都需要时间。Shapiro 认为,在认知超载时代,“认知”本身将不再是瓶颈,但上述物理和工程约束依然存在。

针对公众对 RSI 可能引发失控的“天网”式恐惧,Shapiro 进行了驳斥。他认为这种恐惧源于《终结者 2》等科幻作品的简化叙述。在现实中,RSI 管道将是受控、分段且有多重关卡的。每一次训练运行都需要巨额资金和能源,意味着必然有财务和审批控制。模型迭代后,会有独立的安全团队(甚至第三方机构如 Epoch AI)进行对齐测试、外泄风险评估等。这是一个存在“空气间隙”的流程,而非一个 monolithic(单一整体)的系统自我宣布“我已对齐”。因此,完全无人监督、自我复制、几何级数失控的场景在工程上极难出现。当然,他也承认愚蠢的错误总有可能发生,但这并非内在的必然失败模式。

后劳动经济与人类的新角色

David Shapiro(大卫·夏皮罗)的讨论最终落脚于 AI 加速发展对人类社会的深远影响。他自称是“加速主义者”,但与“有效加速主义”(e/acc)社区保持距离,因为后者强烈反对全民基本收入(UBI)等带有社会主义色彩的政策。Shapiro 认为,如果目标是最大限度的加速,而人类最终会成为瓶颈,那么逻辑上就需要思考如何让人类平稳地退出直接生产环节。

他正在撰写的著作《Labor Zero or Post Labor Economics》(零劳动或后劳动经济学)以及后续的“生成性互惠主义”研究项目,正是为了探索这个问题。他认为,当 AI 接管大部分生产性劳动后,经济协调机制需要从基于稀缺资源的竞争,转向基于注意力与偏好的新机制。民主投票就是一种初级的注意力偏好机制。未来的挑战是如何在全球层面建立这种机制,以解决气候变化、战争等需要超国家协作的难题,从而超越约翰·米尔斯海默的“进攻性现实主义”国际关系框架,实现全球和平。

Shapiro 最后强调,我们正站在一个历史性拐点。递归自我改进的临近不仅是一个技术里程碑,更是对人类经济组织、价值定义和全球治理体系的根本性挑战。积极为“后劳动”和“认知超载”的世界做准备,思考如何利用丰裕的智能为全人类创造更美好的未来,是当下最紧迫的议题。他的工作正是致力于此,而社区的支持能让他更专注于这项研究。

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接