头雁|2026年11月16日 11:20
曲凯的42章经《锐评国模与 Neo Lab,畅谈 RLaaS》这期还是值得听听,晚上吃饭的时候听完了。主要讲了他们的个人一些思考,关于Neo Lab 与 RSI,持续学习,国模竞争等。
个人思考:
-把 post-train 类比互联网时代的推荐系统:底层技术,上面长什么产品(抖音、头条等)现阶段不是重点。
-学习哲学:泛化能力强、交叉领域(一个领域做到90分后,其他领域做到20分可能产生乘法效应);经历差异带来独特 insight。
中美模型竞争与国模展望:
-引用的《The Cost of Staying》,是用来说明大厂“留下来”(维持现有商业模式和利益结构)的代价——尤其是当新技术可能冲击核心业务(比如搜索广告)时,组织会因为保护现有收入而放弃突破性创新。这本质上是创新者窘境在AI时代的具体表现。
-美国领先:OpenAI 和 Anthropic 明显领先(更早做数据 + 大规模 RL,卡更多)。1T 以下模型已有成熟 standard recipe,差距主要在数据组织与 scale 效率。
-对国模态度:短期悲观(蒸馏变难,追赶变慢),长期乐观(国产算力明年会“能用”;中国团队数据组织能力更强,甚至美国大厂数据工作也多由中国人参与)。
国内模型公司下一步要拼什么:
-核心仍是 Infra + 数据。
-Infra:做模型架构与基础设施 co-design,适配最新卡甚至国产卡(DeepSeek-V4.1-Flash 的 causal encoder-decoder 架构是例子;未来或可 encoder 用国产卡做 prefill,decoder 用英伟达卡做 decoding)。
-数据:集中资源在科学发现等最前沿领域突破。数据已转到“环境”语境——有标准答案做 SFT/蒸馏,没标准答案就需要题目+环境让模型试错。
Neo Lab 与 RSI:
-真正的 Neo Lab 必须做可能商业化的事,追求闭环,而非只发 paper、申基金。Mind Lab 主张 research-product co-design:从真实场景反推研究,用“有没有用”而非能否发论文判断。
-顺序:先做 research/模型,再做产品。理想闭环是先有产品原型收集真实数据做实验,验证后再扩展。
-国内 Neo Lab 多讲世界模型、RSI(主线方向),海外更偏垂直领域、新架构。
-RSI 目前基本是宣传口号,本质和prompt/context/harness engineering 类似,只是强调训练迭代中 AI 比重更高(自动化数据 pipeline、模型自己找数据/造 verifier)。但很难完全不需要人:reward 设计需要人定义需求;专有数据(如制药机密)AI 无法自主获取。
RLaaS(强化学习即服务)与后训练业务:
-做 RLaaS(帮公司训练模型)与 Neo Lab 叙事不矛盾,是延续:一直希望 AI 从真实环境学习。
-成本:按 token 定价;在 DeepSeek-V4-Pro、GLM-5.3 等模型上,一轮迭代约几万元,一个项目通常几十万到一百万元人民币。自建团队成本高且难做对做快,较大模型更适合外部服务。
当前关注与未来看法:
-最关心持续学习:模型缺一个储存长期记忆和 “taste”(读很多论文后形成的 insight 压缩)的机制。需要类似 LoRA 但支持更长期、更高效更新的轻量单元(Ilya 也在思考类似问题)。
https://www.xiaoyuzhoufm.com/episode/6aec6bc06381f0f964c45068
分享至:
熱門快訊
APP下載
X
Telegram
複製鏈接