IBM Granite 4.1 技术拆解:5 阶段预训练 + 强化学习

深度Hugging Face2026年4月29日12 分钟阅读
IBM Granite 4.1 技术拆解:5 阶段预训练 + 强化学习
IBM 发布 Granite 4.1 系列密集 LLM(3B/8B/30B),在约 15T token 上采用五阶段预训练,并扩展至 512K 上下文窗口。8B 指令模型以更少的参数超越了前代 32B MoE 模型,背后是严格的数据筛选和强化学习策略。
本文编译自 Granite 4.1 LLMs: How They’re Built,版权归原作者所有。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

软件工程师的核心工作正从编写代码转向构建和管理上下文(Context)。Patrick Debois认为,开发者应停止修正AI生成的代码,转而改进支撑智能体的系统。上下文开发生命周期正在取代传统软件开发生命周期,而执行框架(Harness)工程将成为下一阶段的关键。

深度The New Stack·7月25日·5 分钟

Claude Opus 5 在官方基准上接近但略低于 Fable,但独立评测显示其性能更强、成本更低。用户反馈称赞其编码和浏览器控制能力,但基准测试的不一致性引发了对评估方法的讨论。

深度Latent Space·7月25日·6 分钟

评论