Cloudflare 无损压缩 LLM 权重 22%
深度2026年4月17日8 分钟阅读

Cloudflare 推出 Unweight 系统,在 GPU 上无损压缩 LLM 权重,模型体积减少 15-22%,推理速度提升。核心突破在于将解压与张量计算在片上内存中融合,避免主内存瓶颈。
觉得有用?分享给更多人

觉得有用?分享给更多人
沃尔玛推出基于 MCP 的 Agent Gateway,让获准的 AI 代理可以搜索商品并代客购买,同时通过 Agent Profiles 将代理消费与用户本人消费分开,并支持逐笔审批或设置消费限额。沃尔玛还为 AI 代理制定了专门条款,明确代理的权限边界,违规代理将被屏蔽。
GitHub 为应对智能体带来的流量暴增,将仓库副本迁移至 Azure 并重构存储架构。通过按引用(而非按仓库)序列化写入,解决了跨区域延迟导致的吞吐瓶颈;并引入虚拟写副本和虚拟读副本,把存储与计算解耦,为读操作提供独立扩展能力。