资讯

ICLR 2026 论文提出分治框架，通过拆分长文档、并行处理来应对模型噪声（Model Noise）、任务噪声（Task Noise）和聚合噪声（Aggregator Noise）。实验显示，小模型在该框架下性能稳定，成本更低、速度更快，但高跨块依赖任务仍需要单次处理。

文章分析了 AI 领域上下文窗口增长停滞的现象，指出硬件内存短缺是核心瓶颈。同时梳理了近期智能体基础设施、持久化内存、推理优化和模型后训练等方面的技术动态。

LangChain 为 Deep Agents 添加了自主上下文压缩功能，模型可自行判断何时压缩历史对话。该工具通过中间件实现，已在 CLI 中默认启用，SDK 中需手动配置。测试显示模型使用保守，但能有效提升长对话效率。

文章分析了数据智能体部署失败的原因，指出缺乏业务上下文是关键障碍。现代数据堆栈虽集中了数据，但企业数据仍分散混乱，智能体无法理解业务定义和数据源。上下文层（Context Layer）被视为解决方案，需整合企业数据并提供业务逻辑上下文。

上下文腐化（Context Rot）指 AI 系统因新旧数据冲突导致性能下降的问题，表现为响应延迟、幻觉增加。解决方案包括建立评估指标监控性能，并利用 Elasticsearch 等工具进行相关性检索和数据治理。分析师强调，企业需持续对抗上下文腐化，否则将引发模型有效性下降的恶性循环。

Together AI 的 CPD 架构通过引入缓存感知路由和共享 KV 缓存层级，将冷请求（全新上下文）和热请求（可复用上下文）的预填充计算分离。这种设计防止了计算密集的冷请求阻塞共享资源，使得热请求能快速复用缓存，从而在混合负载下将可持续 QPS 提升 35-40%，并保持更优的尾部延迟。

AI 基础设施资本支出正以每年近 2000 亿美元的规模爆炸式增长，这可能侵蚀科技巨头的利润。编码智能体（如 Claude Code）的采用率正在急剧上升，预示着巨大的生产力变革。地缘政治、芯片供应链瓶颈和能源限制是 AI 发展的关键制约因素。