Kenny.eth|2026年08月15日 02:44
QWEN3.8-27B带来了本地大模型的GPT3时刻。
是时候,手搓一个本地大模型配置了!
GPU RTX 3090 24GB
CPU AMD Ryzen 7 7700 / 9700X
Board Mini-ITX B650
RAM 64GB DDR5 6000 (64GB起步)
SDD 2TB PCIe 4.0 NVMe
基于 Qwen3.8-27B Dense Q4_K_M / UD-Q4_K_XL ,大概可以跑出40~50token/s的速度,相当满意了!(Kenny.eth)
分享至:
脉络
热门快讯
APP下载
X
Telegram
复制链接