
作者:qinbafrank

前言
最早是7月6号看到了Coinbase在AI上工程化实践,让我开始深度思考和研究企业在未来采用部署AI的过程中会出现什么的趋势变化。(相关阅读:CSP(云服务商)部署性价比高的开源模型并转售Token的意义、未来超大CSP的业绩表现将会衡量AI商业化更重要的指标)
沿着这个思考进一步去深化扩展,就形成现在的这篇长文,更详细地聊聊个人的逻辑和想法。
一 分场景、多模型,企业采用AI进程进入工程化阶段带来的变化
1、分场景:企业不会再问“哪个模型最好”,而会问“这个任务应该用哪个模型”
未来不是“专项高性价比Token”,因为Token本身只是计量单位。真正被专项化的是:模型;推理策略;上下文与数据;工具调用路径;硬件与服务方式;安全和人工复核机制。
企业选择模型的目标函数将从单纯追求模型能力,变成:
任务净价值=任务成功概率×业务价值−推理及执行成本−错误与风险损失。
由此会形成四类典型场景:

例如,邮件分类、摘要、字段抽取、初步客服分流、代码格式检查等任务,对模型能力的边际要求较低,却具有调用量大、价格敏感的特点。这类任务会逐渐迁移到小模型、开放模型或CSP自研性价比模型。
而复杂代码生成、重要合同分析、科学推理、战略研究、复杂Agent规划等任务,模型准确率提升几个百分点可能对应很高的业务价值,因此仍愿意支付前沿模型溢价。
2、企业采用AI越深入,越需要专有的AI系统
无论前沿闭源大模型使用了多少公共、授权或合成数据,它通常都不掌握某一家企业的实时数据、内部规则、组织权限和隐性经验。大企业更需要的是“私有 AI 边界”,包括数据不被用于训练、私有网络、专属租户、权限隔离、数据驻留和可审计性;只有一部分场景必须真正本地化或隔离部署。
企业真正缺少的不是一个“读过所有企业文件”的模型,而是一个能够在正确权限下,调用正确数据,并按企业规则采取行动的系统。
企业私有数据需要分四类处理:
而“经验型数据”是企业AI最难的资产,经验并不天然以数据形式存在。它通常分散在:老员工的判断中、邮件和聊天记录中、被否决但未记录的方案中、异常事件处理过程中、人工覆盖系统建议的动作中、客户投诉和事后复盘中。
要把这部分经验转化为AI资产,企业必须建立:
原始经验→任务样本→专家判断→正确与错误标准→模型评估集→反馈和后训练
因此大企业的护城河不是简单的“拥有很多文档”,而是:
能否把隐性知识转化为机器可学习、可检索、可评估、可执行的组织上下文。
这也正是为什么企业AI越来越需要FDE、数据工程师、领域专家和业务负责人共同参与。
而上面聊到这么多都指向了一点:
企业采用 AI 正从“购买最强模型”进入“围绕私有数据、业务流程和多模型系统进行工程化部署”的阶段。
二 “复合AI系统”到“中间层”崛起
1、多模型、多模块:AI产品将从“模型调用”升级为“复合AI系统”
未来企业生产级AI系统通常不会只是一个模型API,而是由多个模块共同完成工作:用户请求、 身份与权限、场景识别、数据和上下文获取、 模型路由、模型推理、工具/API调用、结果验证、风险控制、人工复核或自动执行、监控和持续评估。
这里的“多模块”比“多模型”更重要。因为企业最终购买的不是模型本身,而是一个能够可靠完成业务任务的系统。
为什么企业会走向多模块?
1)单一模型不可能同时在质量、成本、速度、隐私和稳定性上都最优。
2)模型本身并不了解企业实时数据、权限体系和业务状态。必须通过数据层、检索层、工具层和系统连接器取得上下文。
3)生产环境需要可审计、可回滚、可监控。模型输出不能直接等同于业务执行。
4)模型更新频繁。企业必须把业务逻辑与特定模型解耦,避免每次模型变化都重写整个应用。
MCP等开放协议的出现,就是在试图标准化模型与数据源、企业工具之间的连接方式,减少每个模型分别开发连接器所造成的碎片化。
但多模型不等于模型数量无限增加
每增加一个模型,企业都会增加一组隐性固定成本:安全审核、法务与知识产权评估、数据驻留审查、质量基准测试、模型更新后的回归测试、运维和故障处理、供应商管理。所以最可能出现的组织形式并不是“每个团队自由选择几十个模型”,而是:
中央建立有限的合规模型池、统一数据与安全控制面;各业务部门根据场景调用不同模型。
这带来的趋势就是:底层基础设施逐步集中,场景创新则分散到业务部门。
2、中间层价值崛起:成立,但必须区分“控制权”与“独立商业价值”
未来中间层大致可以分为六类:

哪些中间层最容易获得价值
最有可能长期捕获价值的,不是最薄的模型包装层,而是控制以下一种或多种稀缺资源的平台:
1)企业数据和上下文:能够合法、实时、按权限调用企业数据。
2)身份和安全:决定AI可以访问什么、可以替谁执行什么。
3)业务工作流:掌握任务入口和执行闭环。
4)跨模型评估数据:积累真实生产环境的质量、成本和风险数据。
5)分发能力:已经拥有大量企业用户或系统入口。
数据平台、云平台、安全平台、ERP和行业软件厂商因此具备天然优势。
微软披露,其AI客户越来越多地同时使用Foundry、Fabric、Cosmos DB和安全治理服务;Google也强调AI使用推动BigQuery和数据工作流增长。这说明AI模型调用可能成为数据库、分析、存储、安全和Agent运行时等服务的获客入口
哪些中间层容易被商品化
以下中间层虽然有使用价值,但未必能形成独立利润池:
简单API聚合;
没有专有数据的模型路由;
通用Prompt管理;
没有业务闭环的基础Agent编排;
只在多个模型之间转发请求的薄层产品。
原因是AWS、Microsoft、Google等CSP本身可以将这些功能作为云服务免费或低价捆绑;大型应用厂商也可以把它们内嵌到现有产品。
所以更准确的判断是:
中间层的战略重要性必然上升,但中间层独立厂商的总价值未必同比例上升。
中间层可能成为AI产业的“操作系统”,但最后获得经济利益的可能是:CSP、数据平台、安全和身份平台、拥有系统记录的应用软件公司、少数具有跨云中立性和专有生产数据的独立中间件厂商。
跨云中立性会是独立厂商对抗CSP捆绑的重要优势。大型企业通常不愿把模型、数据、评估和治理完全锁定在同一个云平台,因此独立中间层仍有空间,但必须提供超越“简单调用模型”的能力。
三 多模型时代,超大CSP会不会成为坚实中间层
1、CSP部署开放模型和自研性价比模型,会带来什么变化?
变化一:模型调用从单一供应商采购,变成模型组合管理
企业不再只与一个模型厂商深度绑定,而会维护一个模型组合:
前沿闭源模型承担能力要求最高的任务;
开放模型承担可标准化和可私有化任务;
CSP自研模型承担高频、成本敏感任务;
企业自有模型承担高度专有、数据敏感任务。
CSP成为模型组合的入口和路由器。模型厂商争夺的不再只是客户,而是模型在路由系统中的任务分配份额。
新的模型竞争指标因此包括:被纳入多少企业合规模型池?在路由器中获得多少请求?获得的是高价值任务还是低价任务?
变化二:模型价格下降,但总AI支出未必下降
模型变小、缓存增加和上下文压缩会降低每任务Token和每Token价格;但成本下降也可能激发更多使用场景,使任务量大幅增长。
变化三:CSP收入来源从模型抽成扩展到全栈附着
即使开源模型不产生高额模型授权收入,CSP仍可以从以下环节收费:GPU、TPU和自研ASIC计算;托管推理服务;数据库和向量检索;对象存储;网络和数据传输;Agent运行时;安全和身份;评估、日志和监控;企业支持服务。
因此,CSP真正关心的不是模型本身的收入份额,而是:
CSP AI总毛利=推理毛利+数据附着毛利+存储网络毛利+安全治理毛利+Agent运行时毛利
AWS披露Bedrock客户支出环比增长、Token处理量大幅上升,同时推出AgentCore注册、政策和评估等服务;Microsoft和Google也在推动模型、数据、Agent和治理服务的组合。这说明CSP正在试图把模型服务转化为全栈云消费。
变化四:模型厂商价值不会消失,但会向能力顶端和应用端延伸
开源和自研性价比模型会压缩中低端模型的价格,但不会自动消除前沿模型价值。模型厂商可能采取三条路径:1)持续提高能力上限,保持复杂任务溢价;2)向Agent、编码、研究等高价值应用上移;3)提供定制后训练、安全、企业治理和专属容量。
最终更可能形成:
CSP控制基础设施和模型分发;
前沿模型厂商控制能力上限;
中间层控制上下文、治理和调度;
应用厂商控制工作流和用户入口。
这不是单一层赢家通吃,而是不同层分别收取不同类型的租金。
变化五:企业在模型层的议价能力提高,但平台锁定可能加深
多模型和开放模型降低了企业对单一模型厂商的依赖。
但如果企业的数据、权限、Agent状态、评估系统和工作流都部署在同一个CSP上,那么模型层锁定下降的同时,云平台锁定反而可能上升。
也就是说:
模型可替换性提高,不代表整体架构可迁移性提高。
2、CSP控制的是横向AI底座,垂直SaaS控制的是业务执行层
CSP最有可能捕获以下价值:GPU、TPU和自研ASIC算力;开源模型托管;闭源模型分发;模型微调与蒸馏;数据库和数据湖;向量检索与知识图谱;网络和存储;身份和权限;安全与治理;Agent运行时;评估和可观测性;企业技术支持。
垂直SaaS掌握:工作入口;业务对象;业务语义;用户权限;历史操作数据;系统记录;行业规则;最终动作执行;客户结果反馈。
因此,它可以把便宜模型包装成高价值业务结果。
但这只适用于真正拥有工作流和核心独家数据的SaaS。只是给通用模型套一个简单界面的薄应用,反而容易被模型厂商或CSP替代。之前这里https://x.com/qinbafrank/status/2059845057155608629?s=20
有聊过这一点。
3、最可能形成“双中间层”
未来企业AI架构可能是:

CSP不一定能够直接越过垂直SaaS控制全部业务流程;垂直SaaS也不太可能独立承担底层大规模算力和多模型基础设施。谁能够捕获最多价值,取决于五个控制点
真正高价值的层,不一定是离模型最近的层,而是能够同时控制:
上下文、权限、工作流、行动和结果反馈。
传统SaaS项目通常是:
Fit-gap分析 → 配置 → 数据迁移 → UAT → 上线。
企业AI项目更接近:
场景筛选 → 数据权限 → 评估集 → 模型选择 → RAG和工具接入 → 模型路由 → 安全边界 → 人工复核 → 生产监控 → 反馈与后训练。
最大区别是:
SaaS主要是在既定软件中配置流程;AI是在生产过程中持续优化一个概率系统。
因此,AI实施更像软件工程、数据工程、模型工程、流程咨询和组织变革的结合体。
四 对超大CSP的价值重塑
1、超大CSP的价值重塑
之前https://x.com/qinbafrank/status/2074754779755295164?s=20 这里有聊过:之前市场认为CSP特别是几家超大CSP是一个二道贩子,贩卖算力和token,同时还要承担巨额的资本开支但并没捕获最大的价值。 现在“高效中型模型 + 规模部署”在生产环境下也证明了自己觉的价值,而非一味追求参数军备竞赛。
那么过去的认知也要反转了: 超大CSP已经是企业AI进程多模型架构下的“AI操作系统层”。
成本营收结构的变化 CSP 转售闭源模型时:
CSP 拿到的分成比例有限(通常 20-50% 不等,具体看合同),还要承担模型方的定价压力。 自托管开源模型转售:开源模型基本零授权成本,CSP 只需承担自己的算力、电费和运维成本。CSP 几乎拿走全部 markup(扣除算力成本后)。因为定价可以参考开源社区实际成本 + 合理溢价,空间更大。
自研模型更不用说,几乎营收全在CSP。
2、但对超大CSP也带来新的挑战:时间差
可以把整个过程分成四个阶段。时间长度只是示意,不同行业差异很大。
阶段一:内部研发和容量投入
这一阶段:CSP训练或后训练自研模型,部署开放模型,优化芯片、推理框架和模型路由,建立安全、评估和治理平台。
财务表现可能是:Capex上升;研发费用和折旧上升;外部云收入受容量约束;毛利率承压;直接商业收入有限。
阶段二:客户试验和FDE实施
这一阶段:客户筛选场景;整理数据和权限;建立RAG、评估集和工具连接;FDE帮助完成首个生产系统。
财务表现可能是:专业服务和微调收入增加;云消费增长仍不显著;大量POC尚未规模化;人力投入增加;服务利润率可能低于软件利润率。
阶段三:生产推理规模化
这一阶段:客户工作流稳定;Agent开始持续运行;推理、数据库、存储和安全消费增加;垂直SaaS开始按使用量或业务结果收费。
财务表现可能是:CSP云消费加速;SaaS AI附加收入上升;数据和安全附着收入增加;客户续约和扩张改善;单位推理成本下降。
阶段四:模型和工作流优化
这一阶段:高频任务转向小模型、自研模型和开放模型;高价值任务继续使用前沿模型;路由、缓存和蒸馏降低成本;FDE成果逐渐产品化。
财务表现可能是:Token单价下降;任务量增长;模型厂商收入结构分化;CSP全栈附着收入提高;垂直SaaS按工作流和结果捕获更多价值;成功部署者的毛利和资本回报开始改善。
因此,市场可能先看到:
Capex和人力投入上升
→ 然后看到POC和合同
→ 再看到生产工作负载
→ 最后才看到自由现金流和ROIC。
这个时间差确实是当前AI投资争议的核心。
五 新的 AI 商业化指标体系
1、未来不能再只问“AI 收入多少”,而要同时回答五个问题。
最合理的评判方式不是寻找一个新的单一指标,而是建立从模型到资本回报的七层漏斗。

2、大模型ARR依然关键,但它应从“终局指标”变成“能力需求领先指标”
大模型厂商ARR仍然非常重要,原因有四个。
1)ARR证明企业愿意为智能能力付费,ARR至少说明部分客户已经进入付费状态,并愿意签订持续合同或形成稳定消费。
2)ARR反映前沿模型是否仍然具有溢价,如果模型能力持续带来更高的任务成功率,客户就会为高价值任务支付溢价。即使大量常规任务转向小模型,前沿模型仍可能通过复杂推理、编码、研究和Agent任务保持高价格。
3)ARR决定前沿模型厂商的研发和算力再投资能力,模型训练、后训练、推理服务、安全评估和企业销售都需要持续资本。ARR决定模型厂商是否能够形成“收入—研发—能力提升—更多收入”的循环。
4)ARR还是生态影响力的代理指标,开发者数量、API调用、企业合同、模型进入应用的深度,最终通常会部分反映在ARR中。
3、综合来看
大模型ARR仍然关键,因为它证明企业愿意为前沿能力付费;
超大CSP业绩未来更全面和权重更高,显示企业采用AI进程中中间层沉淀的价值;
最终评价标准转向成功任务经济性、企业ROI和资本回报。
AI商业化判断不应该在“大模型ARR”和“CSP云收入”之间二选一,而应形成一条完整证据链:
模型ARR证明付费需求
→ 生产工作负载证明采用深度
→ 单位成功任务毛利证明经营质量
→ 企业ROI证明需求可持续性
→ 自由现金流和ROIC证明资本开支合理性。
最终最值得跟踪的,不是“生成了多少Token”,而是
AI经济价值=生产任务数量×每任务价值×供应商价值捕获率×毛利率−资本占用成本
这才是多模型、多模块时代衡量AI商业化的总框架。
上面所有的内容其实构成了一条连续的因果链:
业务场景差异扩大
→ 企业不再用一个模型解决所有任务
→ 形成多模型、多模块的复合AI系统
→ 路由、数据、评估、治理、安全等中间层成为控制面
→ 模型层价值不会消失,但大模型ARR从“唯一商业化指标”降为“重要领先指标”
→ 最终评价标准转向成功任务经济性、企业ROI和资本回报。
这已经不是纯粹的架构设想。AWS Bedrock和Microsoft Foundry都已经把按质量、成本和任务复杂度进行模型路由做成正式产品;微软披露,超过一万家Foundry客户使用过不止一个模型,约五千家使用过开源模型。Google Model Garden也同时提供自有模型、第三方闭源模型和开放模型的托管或自部署方式。
当然这迭代还处在早期,但趋势应该越来越明显了。
免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。