vLLM V0 到 V1 迁移:先修推理正确性,再改 RL 目标

深度Hugging Face2026年5月6日12 分钟阅读
vLLM V0 到 V1 迁移:先修推理正确性,再改 RL 目标
ServiceNow-AI 团队在将 PipelineRL 从 vLLM V0 迁移到 V1 时,发现训练指标出现严重偏差。他们通过修复 logprob 语义、运行时默认值和权重同步路径,最终让 V1 匹配了 V0 的轨迹——关键教训是先修复后端正确性,再调整 RL 目标。
本文编译自 vLLM V0 to V1: Correctness Before Corrections in RL,版权归原作者所有。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

谷歌发布了 Gemini 3.6 Flash、3.5 Flash-Lite 和 3.5 Flash Cyber 三款新模型,主打更高效率、更低成本和专门化场景(如网络安全)。但旗舰模型 Gemini 3.5 Pro 迟迟未更新,而竞争对手 OpenAI 和 Anthropic 已推出多款新模型,加剧了市场压力。

深度·7月21日·3 分钟

Google 推出 Gemini 3.6 Flash、3.5 Flash-Lite 和 3.5 Flash Cyber 三款模型。3.6 Flash 在多项基准测试中显著优于 3.5 Flash,且成本更低;3.5 Flash-Lite 速度最快、性价比最高;3.5 Flash Cyber 专用于网络安全,仅限有限试点。此外,3.5 Pro 正在测试中,Gemini 4 预训练已启动。

深度·7月21日·5 分钟

评论