头雁|2026年09月03日 06:37
当你把 12 位博士关在一个房间里四个月,会发生什么?
ARC-AGI 排行榜第一名
这个项目是 Mostik AI(http://mostik.ai,俄语里 “mostik” 是“小桥”的意思)。
核心做的事是:让不同模型在**潜空间(latent space)**里直接通信,而不是先把内部计算变成文字再传给另一个模型。具体做法是:大模型(比如 753B 的 GLM-5.2)负责“读题、推理”,把 hidden states(隐藏状态)直接传给小模型。
小模型(比如能跑在端侧的 4B Qwen)负责“写答案、生成文本”。(做decode)
中间不经过文字,两边模型本身也不需要微调,只训练一个很小的“桥”(bridge)。
效果上,他们宣称小模型能拿到大模型大约 80% 的准确率,速度大约快 20 倍,成本大约是大模型的 1/20。他们也用类似方法冲到了 ARC-AGI 排行榜第一。
团队大约 15 人(12 个 PhD + 一位菲尔兹奖得主),成立约 4 个月,有 General Catalyst 支持。目标是避免大家都锁死在少数几家前沿闭源大模型上,让开源/小模型也能借到大模型的推理能力。
注:
General Catalyst(简称 GC)是一家美国顶级风险投资机构,2000 年由 Joel Cutler 和 David Fialkow 在马萨诸塞州剑桥创立,现在自称更接近“转型公司”(transformation company),而不只是传统 VC。它从种子轮到成长期都投,管理资产规模约 300–430 亿美元量级,投资过 800 家以上公司。知名项目包括 Airbnb、Stripe、Snap、HubSpot、Canva、Samsara、Ramp,以及 AI / 国防方向的 Anthropic、Mistral、Anduril、Helsing、Applied Intuition 等(头雁)
分享至:
脉络
热门快讯
APP下载
X
Telegram
复制链接