结构化蒸馏提升Web智能体泛化能力
深度2026年4月14日26 分钟阅读
最有趣的发现是:仅使用单个前沿教师模型的结构化轨迹合成,就能训练出在多个基准测试中超越闭源模型的本地可部署Web智能体。本文适合对Web智能体、模型蒸馏和结构化轨迹生成感兴趣的研究人员和工程师阅读。
觉得有用?分享给更多人
觉得有用?分享给更多人
Unweight 是 Cloudflare 开发的 LLM 权重无损压缩系统,通过 Huffman 编码压缩指数字节,在 H100 GPU 上实现 15-22% 的模型体积缩减。系统提供四种执行流水线,根据工作负载动态选择最优解压策略,减少内存带宽压力,提升推理效率。
Claude Opus 4.7 在 SWE-Bench Pro 等多项编码基准测试中提升显著,最高达 11 分。模型支持高达 2576 像素的长边图像输入,视觉能力大幅增强。尽管新分词器可能导致 token 使用量增加 35%,但推理效率的提升使整体 token 成本仍可能下降一半。