ShadowPEFT：用于参数高效微调的影子网络
深度2026年4月21日31 分钟阅读
最有趣的发现是：集中式层空间适应可作为传统低秩PEFT的竞争性替代方案，影子模块的深度共享设计显著提升了参数效率和灵活性。本文适合研究大语言模型高效微调、边缘计算部署以及参数高效学习的研究人员和工程师阅读。
本文编译自 ShadowPEFT: Shadow Network for Parameter-Efficient Fine-Tuning，版权归原作者所有。
觉得有用？分享给更多人
相关文章
OpenAI 将于 2027 年 1 月 14 日下线 GPT-4o、GPT-4o mini、GPT-4.1、GPT-4.1 mini 及其微调版本，自营微调任务提前到 1 月 6 日停止。推荐的替代模型 GPT-6 Luna 更便宜，但长提示词价格翻倍、微调缺失、推理与工具调用需要切换 API。这次三个月的通知期也低于 OpenAI 自己承诺的六个月。
深度The New Stack·10月15日·5 分钟
英伟达推出 Nemotron 3.5 Super VL（120B 视觉语言模型）和两款 Bolt 小模型，主打速度与效率。Bolt 74B-A9B 24GB 通过 2-bit 量化实现本地运行，支持 llama.cpp、Ollama、LM Studio 和 vLLM；Super VL 在部分基准测试中领先 Qwen，但在 SWE-bench Verified 上略逊。
深度The New Stack·10月15日·5 分钟