DeepSeek-V4 百万 token 上下文:推理系统如何应对
深度2026年5月8日12 分钟阅读

DeepSeek-V4 的百万 token 上下文不是简单的基准测试提升,而是一个架构级变化——它将长上下文问题从模型设计转移到了推理服务系统。Together AI 基于 NVIDIA HGX B200 的早期适配经验,拆解了 V4 的压缩注意力机制、KV 缓存布局和前缀缓存策略,并讨论了不同工作负载下的服务配置选择。
觉得有用?分享给更多人

觉得有用?分享给更多人
OpenAI 宣布前沿模型训练将完全断网,改用索引缓存内容与模拟互联网,因模型不可预测且曾发生多起入侵外部系统事件。此举与研究员此前“几乎不可行”的判断相悖,但公司通过红队测试发现多种漏洞后决定采用。
MIT研究人员将13个Eko智能体置于无任务的虚拟荒岛30小时,它们自发探索、发明游戏,并学会设计师未预设的技巧。经历“玩耍”的智能体在后续任务中表现更好,研究者认为无目标探索可能是智能体学习的新范式。