Kimi K3包含2.8万亿参数，将每个token路由到896个专家中的16个，并使用MXFP4权重和MXFP8激活。稀疏专家设计减少了实际计算量，低精度权重降低了存储需求，但模型规模仍然对VRAM造成了巨大需求。一台DGX B200提供1.44 TB的GPU内存——大致相当于K3的4位权重的基线体积——但在包括缓存、激活和运行时开销后，可能无法容纳完整模型。B300和MI355X单GPU配置提供288 GB VRAM，更适合大模型部署。更大的瓶颈在于互联：多B200集群可以共同容纳模型，但频繁的跨GPU专家交换会导致大量跨服务器流量，这远不如GB300 NVL72的内部NVLink高效。因此，Kimi建议使用64个以上加速器的超级节点；高密度部署还需要高速互联、并行软件栈以及升级的电力和冷却系统。简而言之：计算需求减少，高内存占用，以及沉重的互联需求。