头雁
头雁|2026年11月13日 03:24
老外的一份详细分析报告,报告声称中国排名前四的 AI 实验室——DeepSeek、Moonshot、MiniMax 和 Ant Group——使用 NVIDIA 最先进的 Blackwell 芯片构建了它们最新的模型。 核心证明来自模型公开发布权重中的“硬件指纹”,具体是 PyTorch 初始化随机权重时,由 GPU 的 streaming multiprocessor(SM,流式多处理器)数量决定的线程布局所留下的数值模式。 方法原理(报告核心技术基础): PyTorch 在训练开始前用 Philox 伪随机数生成器为权重赋初值。这个过程的线程分配依赖于 GPU 的 SM 数量:Hopper 系列(H100 SXM / H200 / H800):132 SMs(约 270,336 线程) Blackwell B200/B300:148 SMs(约 303,104 线程) Grace Blackwell GB200/GB300:152 SMs(约 311,296 线程) 报告分析了多款 2026 年发布的开源模型,发现:DeepSeek-V4-Flash、MiniMax-M3:匹配 148 SM(B200/B300) DeepSeek-V4-Pro、Kimi K3、Kimi K3.1-Pro、Ling-3.1-flash(Ant Group):匹配 152 SM(GB200/GB300) 这些实验室更早的模型(如 DeepSeek-V3、Kimi K2.5、MiniMax-M2.7、Ling-3.0-flash)匹配 Hopper 的 132 SM,从 2026 年中开始的新模型切换到 Blackwell 布局。 详细分析报告:https://unemploymentlabs.com/checkpoint-forensics
+4
曾提及
分享至:

脈絡

熱門快訊

APP下載

X

Telegram

Facebook

Reddit

複製鏈接

熱門閱讀