OpenBMB：🚀 FIT-GGUF为MiniCPM5-2B带来了可控大小的…

🚀 FIT-GGUF为MiniCPM5-2B带来了可控大小的混合精度量化技术！开发者@Scorp1o_117利用该技术，围绕特定体积和质量目标构建了多个GGUF变体。不同于固定量化预设，现在你可以直接设定目标文件大小或精度等级——FIT-GGUF会智能分配各张量精度，自动完成预测、生成和验证最终模型。✨ 功能亮点 🧠 张量级混合精度量化 📦 提供1.14GiB到1.46GiB四种体积版本 🎯 质量/均衡/紧凑/迷你四种预设 📊 采用KL散度评估指标

—— OpenBMB (@OpenBMB) X帖子｜2026-09-24T13:00:03+00:00
原帖：https://x.com/OpenBMB/status/2103107192068993094