网易游戏如何将LLM冷启动从42分钟降至30秒
深度The New Stack2026年5月6日6 分钟阅读
弹性计算的前提是数据能快速就位。网易游戏在生产环境中发现，70B级大语言模型的冷启动瓶颈不在容器调度，而在模型数据加载。通过CNCF孵化项目Fluid，他们将模型加载时间从42分钟压缩到30秒，让无服务器GPU推理真正可用。
觉得有用？分享给更多人
相关文章
MIT研究人员将13个Eko智能体置于无任务的虚拟荒岛30小时，它们自发探索、发明游戏，并学会设计师未预设的技巧。经历“玩耍”的智能体在后续任务中表现更好，研究者认为无目标探索可能是智能体学习的新范式。
深度·10月23日·4 分钟
微软和 Hugging Face 联合发布 ThinkingBox-Training，将 ThinkingBox-Bench 中可执行检查返回的 0/1 结果作为奖励信号，用于训练其他任务上的 Agent。他们提出离线策略相对难度来选择训练任务，并用 GRPO 对 Qwen3.8-27B 进行微调。结果显示，模型在重复性任务上的成功率大幅提升，但至少成功一次的覆盖率略有下降。
深度Hugging Face·10月22日·8 分钟