推理SFT泛化条件分析:优化、数据与模型能力

深度2026年4月8日18 分钟阅读
最有趣的发现是:推理SFT的泛化呈现“先降后升”模式,强模型能从简单算术游戏中学习回溯等可迁移推理策略。本文适合研究LLM推理能力、模型微调和泛化机制的研究人员阅读。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

Shopify CEO 称 Claude Code 不读取 AGENTS.md 造成“复杂性税”,并考虑禁用该工具。Anthropic 已提供变通方案,但开发者请求原生支持近一年未果,相关 issue 已被关闭。

深度The New Stack·8月25日·4 分钟

IBM Granite 4.2 系列回归密集 Transformer 架构,提供 512K 上下文窗口,并针对智能体工作流优化了较大版本。与竞品相比,它在基准测试中表现中规中矩,但小尺寸模型(8B)在性能上接近 30B 版本,且易于运行。

深度The New Stack·8月25日·5 分钟

评论