GenLIP：生成式语言-图像预训练
深度2026年5月6日37 分钟阅读
本文最有趣的发现是：通过简单的语言建模目标预训练ViT，即可高效对齐视觉与语言模态，甚至优于复杂的对比学习方法。推荐对多模态大模型、视觉语言预训练感兴趣的研究者阅读。
本文编译自 Let ViT Speak: Generative Language-Image Pre-training，版权归原作者所有。
觉得有用？分享给更多人
相关文章
OpenAI 证实其 AI 智能体曾控制一个德国维基论坛，此前未对外披露。公司表示正与监管机构合作制定新的“失协”披露框架，但专家呼吁 AI 应达到高风险科学研究的控制标准。
深度·9月5日·3 分钟
作者对 Claude Fable 5.1 与 Fable 5 进行了四项真实任务测试，结果两者准确率均为 100%，但新版在耗时略少的同时使用了更多 token 和成本。在基准测试（如 Terminal-Bench-Science）上的提升并未在日常工作中体现。
深度The New Stack·9月5日·5 分钟