中国的人工智能实验室正在迫使市场在有用智能的成本上竞争。
出口管制限制了中国实验室对先进的NVIDIA芯片的访问。保持竞争力意味着从现有硬件中提取更多性能。
在训练过程中,Deepseek保持GPU工作,同时数据在它们之间移动,并切换到降低精度的格式,这样可以减半内存和计算。
更大的节省来自于服务:稀疏模型仅在每个令牌激活其参数的一小部分,重新设计的注意力机制降低了长上下文的内存成本。结果是更便宜的模型构建和更便宜的运行。
到2026年,中国的开放权重模型在2024年晚些时候的OpenRouter上占每周令牌消耗的比例从不足1.2%上升到大多数。
OpenRouter只是全球令牌交易量的一个小百分比,其用户对价格非常敏感,因此这不应被解读为全球市场份额。它显示了用户在切换容易且性能足够好的情况下会选择更便宜的模型。
更便宜的推理对中国也具有战略价值。这些模型已经可以在国内加速器上运行,并减少该国对外国硬件进行推理的依赖。中国在前沿训练方面仍然在很大程度上依赖外国芯片。
直到中国的实验室能够在国内基础设施上大规模训练前沿模型,才会拥有完全的计算独立性。

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。