區塊先生 🐡 ⚠️ (rock #58)|2026年06月19日 11:27
🚀 Unsloth 超強量化再出擊!
http://Z.ai 的 GLM-5.2(744B 參數、40B 激活、100萬上下文)已被壓縮成動態 2-bit GGUF!
📉 從 1.51TB 狂降到 239GB(-84%),保留約 82% 原始效能!
1-bit 版更小,只要 217GB(約 76% 效能)
這是目前最強開源模型之一,長上下文 coding、複雜推理、Agent 任務表現逼近 Claude 4.8 Opus、GPT-5.5、Gemini 3.1 Pro!
💻 不用一定要買 DGX Spark!
✅ 256GB 統一記憶體的 Mac 就能直接跑
✅ 或 256GB RAM + 單張 24GB GPU(MoE offloading)也行
用 Unsloth Studio / llama.cpp 本地部署,開源時代真的越來越香了 🔥
下載連結:https://huggingface.co/unsloth/GLM-5.2-GGUF
完整指南:https://unsloth.ai/docs/models/glm-5.2(區塊先生 🐡 ⚠️ (rock #58))
分享至:
热门快讯
APP下载
X
Telegram
复制链接