英特尔把 1.58 位大模型压到 1.485 位,不改一个权重

深度The New Stack2026年9月17日4 分钟阅读
英特尔把 1.58 位大模型压到 1.485 位,不改一个权重
三元模型的 1.58 位听起来像是理论下限,但英特尔用 BITCOS 格式把它压到了 1.485 位。关键不在改模型,而在改权重的存储方式——不重训练、不改精度,解码速度还能快最多 27%。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

Kubernetes 原本假设软件只做开发者让它做的事,但 AI Agent 会自主推理、调用工具、编写代码,打破了这一前提。文章讨论了 Agent 负载对 Kubernetes 提出的三大挑战:安全沙箱缺失、生命周期极短需要快速启动、以及监控难题,并介绍了社区正在探索的 agent substrate 方案——让 Agent 在热池中保持挂起状态以实现毫秒级恢复。

深度The New Stack·10月25日·5 分钟

AWS 正式发布代码安全智能体 Continuum,在其自研的 CyberGym-E2E 基准测试中取得 89% 的端到端修复成功率,相比之前公开最高分 65.9% 大幅提升。但基准测试仅覆盖 C/C++ 内存安全漏洞,且由 AWS 自行执行;在历史漏洞修复这一项上得分仅 37.8%,说明修复的未必是预设目标漏洞。

深度The New Stack·10月24日·3 分钟

评论