Domino: 解耦因果建模与自回归草稿的推测解码
深度2026年6月4日26 分钟阅读
本文最有趣之处在于通过解耦策略，在保持草案质量的同时消除自回归延迟，实现了显著加速。适合对LLM推理加速、推测解码感兴趣的读者。
本文编译自 Domino: Decoupling Causal Modeling from Autoregressive Drafting in Speculative Decoding，版权归原作者所有。
觉得有用？分享给更多人
相关文章
Cloudflare Managed Defense 的 AI agent 执行框架把证据采集和范围限定放在应用代码里，先执行固定侦察工作流，再用 Clef 过滤噪音，由协调者智能体调度流量分析、客户上下文、全局遥测和威胁情报四个专职智能体并行分析，最后合成建议。系统全程记录证据来源与缺失，模型没有越权决策的权限，最终判断权仍归人类分析师。
深度·10月7日·9 分钟
Infino 由前 AWS OpenSearch 团队创立，推出开源 Agent 检索平台。核心思路是把所有数据统一存为 Parquet，在 SQL 中嵌入检索函数，让 Agent 用一次查询完成关键词搜索、语义搜索、过滤和聚合。
深度The New Stack·10月7日·7 分钟