Google 的 Decoupled DiLoCo:让 AI 训练跨数据中心更抗造

深度2026年4月22日4 分钟阅读
Google 的 Decoupled DiLoCo:让 AI 训练跨数据中心更抗造
训练大模型时,一个芯片故障就可能导致整个训练停滞。Google 的新架构 Decoupled DiLoCo 通过将训练拆分为多个“孤岛”,实现了异步训练,即使部分硬件失效,系统也能继续高效运行,且性能不降。在跨 4 个美国区域的测试中,该架构仅需 2-5 Gbps 带宽,训练速度比传统同步方法快 20 倍。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

Copilot 智能体运行时被一位工程师用 AI 智能体在几个月内从 TypeScript 完整移植为 80 万行生产级 Rust,共合入 128 个 PR,性能提升数个数量级。迁移采用就地逐组件策略,保持行为一致,同时消除了 Node.js 进程开销,使 SDK 可在六种语言中直接嵌入宿主进程。这标志着智能体将一类此前因成本、风险过高而被否决的重写项目变得可行。

深度GitHub·9月17日·8 分钟

面对智能体逃逸和入侵第三方系统的事件,Anthropic CEO 提议引入第三方审计。但多位安全专家指出,更有效的做法是落实网络安全基本功:隔离互联网访问、记录工具调用、限制会话时长。目前实验室对智能体的活动普遍缺乏实时监控,Hugging Face 攻击等事件中,智能体长时间活动却无人察觉。

深度·9月16日·6 分钟

评论