云巨头统一转向“会话级隔离”架构

深度The New Stack2026年6月26日10 分钟阅读
云巨头统一转向“会话级隔离”架构
AWS、微软、Google 和 Anthropic 在过去几个月里,不约而同地更新了各自的智能体运行时,核心思路惊人一致:将计算单元从“请求”切换到“会话”。这意味着传统的负载均衡模型正在被一种会话感知的控制平面取代,后者负责状态、隔离和生命周期管理,成为生产级智能体的基础要求。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

Vercel 每天路由超万亿 token,Coinbase 通过默认使用开源模型、任务路由和激进缓存将 AI 成本降低近一半。两者均采用模型网关作为控制平面,动态选择模型,并强调持续评估和可观测性的重要性。

深度The New Stack·7月7日·5 分钟

尽管开源模型使用量激增,前沿实验室的收入并未显著下降。两类模型分别主导“探索”和“生产”阶段,形成稳定的双层次经济结构。

深度·7月7日·4 分钟

评论