这是目前在一台128GB的Mac上运行的最佳本地LLM模型。 它只有6b的活动参数，因此即使在统一内存上也超级快！而且它还很智能 :) 迫不及待想看到他们基于这个架构推出27b/35b的模型，这样我们就可以在36GB的Mac上运行了。