头雁
头雁|2026年06月04日 01:31
上一次看@FireworksAI_HQ 和curor的一个技术访谈https://x.com/sonyatweetybird/status/2059323965219491937, 讲到curor的模型策略以及为啥自己做模型的决策: 1)通用模型的成本高于专有模型,通用模型在训练时也会用领域数据做专有训练(如coding领域),curor积累了大量的用户行为数据。 2)curor + FireworksAI 平台的策略是,自上而下(先做用户应用到基于开源基模后训练再到自己独立的预训练的完整模型建设),而基模公司是自下而上(做模型到做场景/环境应用,开放基模能力到数据反馈闭环)。curor应该走最后一步了,就是在和xai的算力合作做自己的预训练基模。 而@FireworksAI_HQ 最新的客户成功故事案例,则是和最大的法律应用@harvey 来基于开源模型训练自己的法律专属模型,核心还是成本低于通用模型而能力接近通用模型,他们发现: 1)混合法律代理可以通过选择性地将任务路由到前沿顾问,在质量和成本方面超越前沿模型。 我们测试了一种混合设置,其中 GLM 5.1 作为主工作节点,并在需要时将任务路由到 Opus 4.7 作为顾问。GLM 调用 Opus 的次数很少,平均每个任务仅调用 0.83 次。混合设置的质量和成本均优于 Opus:在相同的 100 个任务中,混合设置的平均通过率为 18%,而 Opus 为 14%;成本分别为 368 美元和 954 美元。 2 )后训练处理可以将开源模型的性能提升到前沿法律模型的水平。 在法律代理基准测试 (LAB) 的 100 个任务切片中,SFT 将 Kimi 2.6 的平均通过率从 11% 提升到 15%,超过了 Opus 的 14%。但成本差距更加显著:在相同的 100 个任务中,混合设置的成本仅为 84 美元,而 Opus 为 954 美元,成本降低了约 11 倍。 通用模型在不断蚕食应用场景的同时,垂直的应用,在非单一模型(进行成本和能力router)+ 垂直领域数据 + 自上而下(例如curor的策略)上发力来平衡通用模型的蚕食。(头雁)
+6
曾提及
分享至:

脉络

热门快讯

APP下载

X

Telegram

Facebook

Reddit

复制链接

热门阅读