S
SkillNav

Aurora 优化器：解决 Muon 神经元死亡问题，训练效率提升 100 倍

深度2026年5月10日5 分钟阅读
Aurora 优化器：解决 Muon 神经元死亡问题，训练效率提升 100 倍
Muon 优化器在训练大型语言模型时，其更新会导致 MLP 层中的神经元永久死亡。Tilde Research 提出的新优化器 Aurora，通过联合约束行范数均匀性和正交性，在 1.1B 模型上实现了 100 倍的数据效率提升，并刷新了 nanoGPT 速度跑榜的 SOTA。
本文编译自 Aurora: A Leverage-Aware Optimizer for Rectangular Matrices，版权归原作者所有。

觉得有用？分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察，每周更新。

关注 @skillnav_dev →阅读周刊

相关文章

Cursor 推出 Composer 2.5，降价叫板 Opus 和 GPT

Cursor 发布 Composer 2.5，基于 Moonshot Kimi K2.5 模型，性能在多项基准测试中接近 Opus 4.7 和 GPT-5.5，但输入/输出 token 价格仅为 $0.50/$2.50 每百万，远低于竞品。该版本改进了长期运行任务和指令遵循能力，但也存在奖励黑客等副作用。

深度The New Stack·5月20日·5 分钟

ChatVis：LLM代理生成科学可视化

ChatVis利用大语言模型辅助生成ParaView科学可视化的Python代码，无需微调模型。通过链式思维提示简化、检索增强生成和迭代错误反馈，显著提升了代码生成成功率。

深度·5月20日·40 分钟

评论