大模型深度的诅咒：深层Transformer为何失效
深度2026年6月13日3 分钟阅读
研究发现，随着Transformer层数增加，模型深层表示的方差呈指数级增长，最终导致表示崩溃（Representation Collapse）。
本文编译自 The Curse of Depth in Large Language Models，版权归原作者所有。
觉得有用？分享给更多人
相关文章
Anthropic 的新模型 Fable 5 和 Mythos 5 因美国政府发现其存在越狱漏洞并发布出口管制令而被下架。Anthropic 称漏洞很轻微，但白宫 AI 负责人 David Sacks 指责 Anthropic 将商业利益置于安全之上。据悉，亚马逊 CEO 安迪·贾西向美国政府报告了这一漏洞，目前模型恢复时间未知。
深度The New Stack·6月13日·5 分钟
AI编程正从提示驱动、规格驱动进入循环驱动时代。循环作为最小工作单元，需要四个层（运行时、验证接口、反馈、控制层）支撑。云原生系统因分布式特性，验证反馈的实时性与真实性矛盾突出。平台团队需要构建共享的验证层，否则循环可能低效甚至失控。
深度The New Stack·6月13日·11 分钟