Perplexity 精细调优了一款中国人工智能模型,以三分之一的成本匹配 Claude Opus 4.8。

CN
Decrypt
关注
1小时前

Perplexity 将一个中国开源模型转变为接近前沿的工作马,其成本约为 Claude Opus 4.8 的三分之一。


公司今天发布了一个 研究预览,展示了一种经过后训练的 Z.AI GLM 5.2 版本,该版本专门构建用于其计算机代理,并现已投入生产。



GLM 5.2 是来自 Z.ai(前身为 Zhipu AI)的大约 7440 亿参数模型,Z.ai 是一个自 2025 年 1 月以来一直在 美国实体清单上的北京实验室。(参数是模型在训练期间可以处理的所有不同拨号和配置。参数越多,模型就越复杂和强大。)该模型于 6 月在 MIT 许可证下发布,是当前在长远编码基准上表现最好的 AI 模型之一,其 API 成本仅为一小部分。


开放的权重意味着任何人都可以下载、修改并进行商业调整而不受限制。Perplexity 正是这样做的。


什么是微调


微调是对已训练的 AI 模型进行再训练的过程,以在更小、更专注的数据集上提高其特定工作能力。


可以把它想象成调校一辆车。例如,不同的技师可以拥有同样的本田思域,并使其在拖车比赛中更快,外观更令人愉悦,适应拉力赛等。在 AI 中,开发者获取一个基础模型并添加不同的设置,以便微调后在特定领域获得更多知识、不同的政治偏见、更多或更少的限制等。




Perplexity 使用后训练——一种在模型主训练运行后应用的类似过程——来教 GLM 5.2 一项关键技能:知道何时自行处理任务,何时升级到更强大的模型。


这种升级是他们构建的核心。微调后的 GLM 5.2 包含 Perplexity 所称的“顾问工具”——一种原生能力,能够识别何时查询超出其自身能力,并将其移交给第三方前沿模型。大多数任务从未到达昂贵的模型。只有那些真正需要它的任务才会到达。


这最终节省了大量推理成本。


“与顾问配对时,该模型在 Opus 4.8 等级的性能下运行,成本仅为一小部分,”首席执行官 Aravind Srinivas 在 X 上写道。



Perplexity 将该系统与普通 GLM 5.2 进行基准测试以建立成本基准。使用公司的内部效率指标,该指标衡量完成复杂任务的成本,结果显示,带顾问的微调模型的运行成本约为基础版本的两倍。然而,使用顶级的 Opus 4.8 模型处理所有事情则要昂贵得多(大约贵 600%)。


通过结合这些工具,Perplexity 的系统实现了与 Opus 相同的质量性能,但价格仅为三分之一。


为何选择中国模型——为何开源使其成为可能


美中 AI 竞争往往被框架为零和。在实践中,开源模型并不会停留在国界上。GLM 5.2 的 MIT 许可证使计算变得简单:没有 API 合同可供违反,没有政府可以翻转的访问开关。您下载权重,然后可以将其微调为您所需的任何东西。


Perplexity 在这条路上走过。2025 年初,当 DeepSeek R1 风靡 AI 世界时,该公司将其微调为 R1-1776——映射出原版因中国政府审查而拒绝讨论的约 300 个主题,并重新训练该模型,使其对美国更有偏见。它成为了同一推理引擎的西方托管版本。


“如果不先减轻其偏见和审查,我们就无法利用 R1 强大的推理能力,”Perplexity 团队当时在博客文章中写道。


因此,这次 GLM 5.2 的举动遵循相同的模板,只是这次的目标不是政治,而是经济。Perplexity 的 计算机产品 已经协调了 19 个以上的 AI 模型;微调后的 GLM 旨在成为吸收大部分任务的廉价默认设置,确保在触及前沿模型之前。


Srinivas 表示,长期论点很简单:对开源模型进行后训练,以便在一个已经为数百万用户服务的代理 Harness 中提高升迁能力。Perplexity “独特地处于”解决这一问题的位置,他写道,因为基础设施已经大规模部署。


该模型在美国的 Nvidia B200 GPU 上运行。接下来将进行:对 Nemotron 3 Ultra 的后训练,该模型将使用美国开源模型复制相同的架构。


完整的基准测试和研究论文预计将在接下来的几周发布。该模型现已作为研究预览提供。


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接