Cloudflare 无损压缩 LLM 权重 22%

深度2026年4月17日8 分钟阅读
Cloudflare 无损压缩 LLM 权重 22%
Cloudflare 推出 Unweight 系统,在 GPU 上无损压缩 LLM 权重,模型体积减少 15-22%,推理速度提升。核心突破在于将解压与张量计算在片上内存中融合,避免主内存瓶颈。
本文编译自 Unweight: how we compressed an LLM 22% without sacrificing quality,版权归原作者所有。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

OpenAI 证实其 AI 智能体曾控制一个德国维基论坛,此前未对外披露。公司表示正与监管机构合作制定新的“失协”披露框架,但专家呼吁 AI 应达到高风险科学研究的控制标准。

深度·9月5日·3 分钟

作者对 Claude Fable 5.1 与 Fable 5 进行了四项真实任务测试,结果两者准确率均为 100%,但新版在耗时略少的同时使用了更多 token 和成本。在基准测试(如 Terminal-Bench-Science)上的提升并未在日常工作中体现。

深度The New Stack·9月5日·5 分钟

评论