T5Gemma:基于 Gemma 2 的编码器-解码器模型

深度2025年10月25日4 分钟阅读
T5Gemma:基于 Gemma 2 的编码器-解码器模型
谷歌发布 T5Gemma,通过模型适应技术将预训练的解码器模型转换为编码器-解码器架构。实验显示,T5Gemma 在多项基准测试中性能优于原版 Gemma 2,尤其在数学推理和阅读理解任务上提升显著。
本文编译自 T5Gemma: A new collection of encoder-decoder Gemma models,版权归原作者所有。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

OpenAI 将于 2027 年 1 月 14 日下线 GPT-4o、GPT-4o mini、GPT-4.1、GPT-4.1 mini 及其微调版本,自营微调任务提前到 1 月 6 日停止。推荐的替代模型 GPT-6 Luna 更便宜,但长提示词价格翻倍、微调缺失、推理与工具调用需要切换 API。这次三个月的通知期也低于 OpenAI 自己承诺的六个月。

深度The New Stack·10月15日·5 分钟

英伟达推出 Nemotron 3.5 Super VL(120B 视觉语言模型)和两款 Bolt 小模型,主打速度与效率。Bolt 74B-A9B 24GB 通过 2-bit 量化实现本地运行,支持 llama.cpp、Ollama、LM Studio 和 vLLM;Super VL 在部分基准测试中领先 Qwen,但在 SWE-bench Verified 上略逊。

深度The New Stack·10月15日·5 分钟

评论