Google 为智能体时代拆分 TPU 产品线

深度The New Stack2026年4月22日5 分钟阅读
Google 为智能体时代拆分 TPU 产品线
Google 在 Cloud Next 大会上推出两款专用芯片:TPU 8t 专为万亿参数训练设计,TPU 8i 则让长上下文推理模型的 KV 缓存完全驻留芯片。Google 认为,智能体工作负载已让单一加速器无法兼顾训练与推理最优。
本文编译自 Google splits its TPU line in two for the agentic era,版权归原作者所有。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

Anthropic 研究显示小型开源模型已能在陌生硬件上部署推理服务,并借由“拉马克式继承”的笔记机制逐代提升成功率。按 Epoch 能力指数推算,到 2026 年底最强的小模型将达到 GLM-5.2 的通用能力水平,届时复制所需的能力与体积两个条件可能首次重叠。

深度The New Stack·10月13日·5 分钟

作者在博客的浏览器端语义搜索基础上,加入小型语言模型实现完整的 RAG 问答。评测显示,350 MB 以下的模型忠实度极低(最多 3/30),且几乎对每个无答案问题都会编造回答;Qwen3-0.6B(579 MB)达到 15/30,Gemma 4 E2B(3.1 GB)28/30。相关度阈值只能拦截明显跑题的问题,近义问题反而得分更高,无法靠门控解决。

深度·10月13日·8 分钟

评论