网易游戏如何将LLM冷启动从42分钟降至30秒
深度The New Stack2026年5月6日6 分钟阅读
弹性计算的前提是数据能快速就位。网易游戏在生产环境中发现，70B级大语言模型的冷启动瓶颈不在容器调度，而在模型数据加载。通过CNCF孵化项目Fluid，他们将模型加载时间从42分钟压缩到30秒，让无服务器GPU推理真正可用。
觉得有用？分享给更多人
相关文章
Cognition 的 Devin Desktop、微软的 Rayfin 和 Augment Code 的 Cosmos 在六月初相继发布，分别从团队控制台、企业治理和代理编排三个层面推动编码代理成为团队基础设施。这些工具解决了代理协调、管理和治理问题，但也带来了厂商锁定风险。
深度The New Stack·6月9日·8 分钟
ServiceNow构建了包含HR和IT服务场景的语码转换语音数据集，评测7款ASR系统在WER、语义WER和答案错误率三个维度的表现。结果显示语码转换的“成本”因语言对和模型而异，Whisper V3 Turbo因默认翻译而非转录表现垫底。
深度Hugging Face·6月9日·6 分钟