EXO Labs|2025年12月18日 18:53
M3 Ultra Mac Studio AI集群
使用EXO 1.0,通过Thunderbolt 5(80Gbps)的RDMA实现2TB统一内存@ 3.2TB/s。
运行Kimi K2 Thinking(1T参数),以MLX张量并行实现28 tok/sec。使用2台Mac可达1.8倍TPS,4台Mac可达3.2倍TPS。
EXO 1.0现已开源(Apache 2.0)。
分享至:
脉络
热门快讯
APP下载
X
Telegram
复制链接