腾讯的研究人员刚刚在Hugging Face上发布了STEPQuant,这是一个用于Delta规则递归状态的时空后训练量化框架。它能在使用6位状态的情况下达到与32位浮点相同的精度,同时最多能减少68.7%的总服务内存。
—— AK (@_akhaliq) X帖子|2026-10-08T08:16:21+00:00
原帖:https://x.com/_akhaliq/status/2108235476566188490
AK:腾讯的研究人员刚刚在Hugging Face上发布了STEP…
腾讯的研究人员刚刚在Hugging Face上发布了STEPQuant,这是一个用于Delta规则递归状态的时空后训练量化框架。它能在使用6位状态的情况下达到与32位浮点相同的精度,同时最多能减少68.7%的总服务内存。
扫描二维码,在手机上阅读
