连续潜在扩散语言模型

深度2026年5月9日354 分钟阅读
本文发现,将文本生成分解为全局语义组织和局部文本实现,并在连续潜在空间中建模先验,可以替代传统的从左到右自回归范式。适合对非自回归语言模型、扩散模型和连续潜在空间建模感兴趣的研究者阅读。
本文编译自 Continuous Latent Diffusion Language Model,版权归原作者所有。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

MIT研究人员将13个Eko智能体置于无任务的虚拟荒岛30小时,它们自发探索、发明游戏,并学会设计师未预设的技巧。经历“玩耍”的智能体在后续任务中表现更好,研究者认为无目标探索可能是智能体学习的新范式。

深度·10月23日·4 分钟

微软和 Hugging Face 联合发布 ThinkingBox-Training,将 ThinkingBox-Bench 中可执行检查返回的 0/1 结果作为奖励信号,用于训练其他任务上的 Agent。他们提出离线策略相对难度来选择训练任务,并用 GRPO 对 Qwen3.8-27B 进行微调。结果显示,模型在重复性任务上的成功率大幅提升,但至少成功一次的覆盖率略有下降。

深度Hugging Face·10月22日·8 分钟

评论