头雁
头雁|2026年09月03日 06:37
当你把 12 位博士关在一个房间里四个月,会发生什么? ARC-AGI 排行榜第一名 这个项目是 Mostik AI(http://mostik.ai,俄语里 “mostik” 是“小桥”的意思)。 核心做的事是:让不同模型在**潜空间(latent space)**里直接通信,而不是先把内部计算变成文字再传给另一个模型。具体做法是:大模型(比如 753B 的 GLM-5.2)负责“读题、推理”,把 hidden states(隐藏状态)直接传给小模型。 小模型(比如能跑在端侧的 4B Qwen)负责“写答案、生成文本”。(做decode) 中间不经过文字,两边模型本身也不需要微调,只训练一个很小的“桥”(bridge)。 效果上,他们宣称小模型能拿到大模型大约 80% 的准确率,速度大约快 20 倍,成本大约是大模型的 1/20。他们也用类似方法冲到了 ARC-AGI 排行榜第一。 团队大约 15 人(12 个 PhD + 一位菲尔兹奖得主),成立约 4 个月,有 General Catalyst 支持。目标是避免大家都锁死在少数几家前沿闭源大模型上,让开源/小模型也能借到大模型的推理能力。 注: General Catalyst(简称 GC)是一家美国顶级风险投资机构,2000 年由 Joel Cutler 和 David Fialkow 在马萨诸塞州剑桥创立,现在自称更接近“转型公司”(transformation company),而不只是传统 VC。它从种子轮到成长期都投,管理资产规模约 300–430 亿美元量级,投资过 800 家以上公司。知名项目包括 Airbnb、Stripe、Snap、HubSpot、Canva、Samsara、Ramp,以及 AI / 国防方向的 Anthropic、Mistral、Anduril、Helsing、Applied Intuition 等(头雁)
+5
曾提及
分享至:

脈絡

熱門快訊

APP下載

X

Telegram

Facebook

Reddit

複製鏈接

熱門閱讀