持久视觉记忆:大型视觉语言模型中的持续深度生成感知
深度2026年5月6日38 分钟阅读
本文发现了大型视觉语言模型在长文本生成中的关键问题:视觉注意力随序列长度衰减。提出了一种轻量级模块,能有效抵抗信号衰减并加速内部预测收敛。适合对大语言模型、多模态学习感兴趣的读者。
觉得有用?分享给更多人
觉得有用?分享给更多人
Google 正在研发新AI芯片“Frozen v2”,预计2028年发布,能效比现有芯片提升6-10倍,旨在优化Gemini模型运行效率。此消息推动Google股价上涨约3%。
Kimi K3 在三个编码任务上(bug 修复、重构、功能开发)产出了与 Fable 5 相同的结果,总成本 $2.13 vs $5.98,但总耗时 28 分钟 vs 6 分 49 秒。Kimi K3 在重构中展现了更严谨的工程实践,但速度是其当前主要短板。