流水线并行 vs 张量并行 两个集群，每个由2台24GB M4 Pro Mac Mini（每台$1,399）组成。 均运行未量化的Llama 3.1 8B（fp16）。 张量并行使用低延迟RDMA通过Thunderbolt连接。 15.7 tok/sec vs 28.4 tok/sec1.8倍。接近线性扩展。