http://MakerMaker.AI 联合创始人 Dhaval Adjodah 和 Owen He 与 a16z 的 Martin Casado 一起探讨递归自我改进（RSI），以及如何判断它是否真实存在： 很多 RSI 的提案其实只是人们用 AI 来构建更好的 AI。技术一直是这样发展的。你需要计算机来制造芯片。蒸汽机在煤炭获取速度加快后也变得更高效。 但 Dhaval 和 Owen 的标准更高。模型必须能够自我改进：包括它的权重、框架，甚至是告诉它接下来要做什么的提示。 而且收益必须在计算成本后依然成立。他们用一个“出血榜”来追踪每个人的实验花费，还有一位工程师被称为“方差总督”，专门负责挑战和打破他们的结果。 过去几个月里，他们开始看到系统在变得更好、更便宜的早期迹象。 0:55 为什么大多数 RSI 提案都不靠谱 2:25 优化器 vs. 被优化者 5:10 RSI 方程：性能与成本的比值 6:50 闭环并不意味着起飞 8:40 人类也是系统中的代理 9:25 分母陷阱：进展除以筹集的资本 11:40 用 $100 训练 GPT-2 13:40 大多数 RSI 论文在复现时失败 16:40 为什么必须协同优化 17:40 为什么推理是首要问题 20:15 代理重写自己的提示 22:20 “这不是一种信念。这正在发生。” 25:00 为什么他们还没发表 27:50 智能是一个向量和阿姆达尔定律 29:45 RSI 的花园水管理论 YouTube: https://youtu.be/3Q1mdn5ZGvM @makermaker_ai @_dval_ @martin_casado