转发:vLLM集成了PyNvVideoCodec,将视频解码从CPU转移到GPU的NVDEC。结果:在8块H100上,吞吐量提升2倍以上,CPU瓶颈消失!这对大规模视频字幕生成(如AV训练、元数据处理)意义重大,而且会随CUDA版本的vLLM一起发布。🔗
—— NVIDIA AI (@NVIDIAAI) X帖子|2026-09-21T21:07:37+00:00
原帖:https://x.com/NVIDIAAI/status/2102162025233424399
NVIDIA AI:转发:vLLM集成了PyNvVideoCodec,将视频解码…
转发:vLLM集成了PyNvVideoCodec,将视频解码从CPU转移到GPU的NVDEC。结果:在8块H100上,吞吐量提升2倍以上,CPU瓶颈消失!这对大规模视频字幕生成(如AV训练、元数据处理)意义重大,而且会随CUDA版本的vLL
扫描二维码,在手机上阅读
