EXO Labs
EXO Labs|2025年12月18日 18:53
M3 Ultra Mac Studio AI集群 使用EXO 1.0,通过Thunderbolt 5(80Gbps)的RDMA实现2TB统一内存@ 3.2TB/s。 运行Kimi K2 Thinking(1T参数),以MLX张量并行实现28 tok/sec。使用2台Mac可达1.8倍TPS,4台Mac可达3.2倍TPS。 EXO 1.0现已开源(Apache 2.0)。
+6
曾提及
分享至:

脉络

热门快讯

APP下载

X

Telegram

Facebook

Reddit

复制链接

热门阅读