NVIDIA AI:恭喜@CoreWeave 在RL(强化学习)部署方面取得了进…


恭喜@CoreWeave 在RL(强化学习)部署方面取得了进展!RL后训练过程需要反复迭代:先训练模型,生成响应,再重新训练。推理工作者每次都需要加载更新后的模型权重,这在模型变大时会让GPU处于闲置状态。CoreWeave的新服务利用了N

恭喜@CoreWeave 在RL(强化学习)部署方面取得了进展!RL后训练过程需要反复迭代:先训练模型,生成响应,再重新训练。推理工作者每次都需要加载更新后的模型权重,这在模型变大时会让GPU处于闲置状态。CoreWeave的新服务利用了NVIDIA Dynamo中的ModelExpress和Router,大大减少了模型重新加载的时间,同时将停机时间降到最低。与我们和@youdotcom 合作,CoreWeave 在后训练Nemotron 3.5 Lightning时实现了15倍的模型加载速度提升。更多详情请参阅他们的博客:CoreWeave:ICYMI:CoreWeave Forge

—— NVIDIA AI (@NVIDIAAI) X帖子|2026-10-02T00:34:50+00:00
原帖:https://x.com/NVIDIAAI/status/2105818757671338444



扫描二维码,在手机上阅读

Andrej Karpathy:我们将来会花更多时间去理解语言模型的输出。这里有一些想法和小…

华为 Mate90 系列发布,苹果新款 MacBook Pro 或 10 月发布

评 论
评论已关闭