huggingface:RT Pedro Cuenca 真是太疯狂了,我竟然可以用R…


RT Pedro Cuenca 真是太疯狂了,我竟然可以用RTX 6000显卡和M5笔记本跑MiMo 2.6 Flash,而且还能在10GbE网络上以每秒40个标记的速度运行。🤯 这是顶级模型的原生mxfp4权重,在异构硬件上直接支持,用l

RT Pedro Cuenca 真是太疯狂了,我竟然可以用RTX 6000显卡和M5笔记本跑MiMo 2.6 Flash,而且还能在10GbE网络上以每秒40个标记的速度运行。🤯 这是顶级模型的原生mxfp4权重,在异构硬件上直接支持,用llama.cpp就能搞定。

—— huggingface (@huggingface) X帖子|2026-10-07T13:29:56+00:00
原帖:https://x.com/huggingface/status/2107891092762890588



扫描二维码,在手机上阅读

OpenAI Developers:最近几周,Jev上线后我一直在琢磨快速决策模型。我试了试Op…

X榜单(2026年10月08日 01:57 北京时间)

评 论
评论已关闭