一家押注“数据效率”的Neo Lab浮出水面Flapping Airplanes，刚刚融资10亿美金，这家公司不但在重新做新的算法，还在重构底层的基础设施，他们认为底层的限制也会限制他们上层的算法，很像采用第一性原理的方法，从最根本的方式来走一条新路。 核心在做什么： 他们的目标是大幅提升 AI 的效率（尤其是数据效率和计算效率），因为他们认为未来 AI 需求会远超数据和算力供给。 数据效率：人类成年只看过约几十亿 token 就能远超当前模型，他们估计人类比现有模型高效 10万～100万倍。目标是做出不需要“吞半个互联网”就能达到高智能的模型。 系统/硬件协同：通过“模型与系统共同进化”，打破传统软件-硬件界限。他们自称开发了“世界上最完整的 megakernel 框架”，能在单个 GPU kernel 里完成：完整训练，推理服务，玩电子游戏，甚至三者同时进行还能重叠 memory-bound（内存受限）推理和 compute-bound（计算受限）训练，让 GPU 更少空转；支持“奇怪的架构和优化器”。他们也在重写底层 Nvidia GPU 软件，榨取更多芯片性能。⁠ 其ceo今天接受访谈的内容： 公司名来源： “Flapping Airplanes”（拍翅飞机）对比传统固定翼飞机，强调他们想做“ radically different”（彻底不同）的尝试，而不是沿着现有路线优化。 为什么押注数据效率： 大脑用极少数据就能学习，而当前大模型需要“吞掉半个互联网”。他们认为数据才是真正瓶颈，很多领域（机器人、科学、交易、DNA等）都是数据匮乏的。 Neuralink经验对AI的启示： 神经元动作电位大约需要1毫秒，这段时间电脑能做海量运算。大脑是“存在证明”，说明还有完全不同的算法路径，但硬件约束差异很大，不应直接模仿整个大脑。 为什么从零重建GPU栈：（今天刚刚发布了他们的运行时框架） 他们不用Torch、NCCL，也不用CUDA常规运行时，而是做了自己的megakernel框架（内部叫Kittens VM之类）。单个B200上的一个内核就能同时做模型训练、推理服务，甚至跑Doom游戏。这能大幅提高GPU利用率，并支持更“奇怪”的架构、优化器和目标函数，为全新算法打开空间。 小型“neo lab”能否在大厂先实现RSI时胜出： 大厂如果先实现RSI（递归自我改进，AI用AI加速自己的研发），可能会在现有Transformer/数据缩放路线上加速。但Flapping Airplanes认为自己在做“完全不同的问题集”（尤其是数据效率 + 新系统原语）。 如果路径足够不同，小团队仍有机会，因为大厂的RSI加速的是它们已有的范式，而不是探索全新算法空间。他们也强调自己不把竞争重点放在“追上大厂当前能力”，而是押注长期不同的权衡。 当没人再手写代码时，ML研究会长什么样： 当模型能自己写大部分代码、跑实验、优化时，人类研究员的角色会从“写实现”转向更高层的方向设定、新原语（primitives）设计、以及判断哪些奇怪算法值得探索。 他们自己的megakernel/Kittens框架就是为了让“更奇怪的算法”能跑起来——如果标准PyTorch很难表达某种动态/细粒度工作负载，AI自己也很难发明它。所以他们认为系统层创新会成为自动化研究能真正突破的前提。 DNA、机器人、交易等为什么是数据匮乏领域： 当前大模型在高数据密度任务上很强（编码、搜索、网页内容），因为互联网已经把这些数据几乎免费地提供出来了。 但很多重要领域是数据极度匮乏的： 机器人： 物理交互数据必须真的做出来（遥操作、真实机器人轨迹），收集成本极高，公开数据集规模比LLM预训练数据小好几个数量级。 DNA / 科学发现： 实验数据昂贵、缓慢、噪声大。 交易：金融数据有成本、有噪声、且有对抗性。 他们认为，如果能把数据效率提升几个数量级，这些领域就会从“几乎不可能规模化”变成可做的市场。