Gemini 2.5 如何防御间接提示注入攻击
深度2025年5月20日3 分钟阅读
Google DeepMind 团队通过自适应攻击评估发现，静态防御在动态威胁面前效果有限。他们采用模型硬化（Model Hardening）技术，让 Gemini 学会识别并忽略恶意指令，同时保持正常任务性能。
本文编译自 Advancing Gemini's security safeguards，版权归原作者所有。
觉得有用？分享给更多人
相关文章
微软和 Hugging Face 联合发布 ThinkingBox-Training，将 ThinkingBox-Bench 中可执行检查返回的 0/1 结果作为奖励信号，用于训练其他任务上的 Agent。他们提出离线策略相对难度来选择训练任务，并用 GRPO 对 Qwen3.8-27B 进行微调。结果显示，模型在重复性任务上的成功率大幅提升，但至少成功一次的覆盖率略有下降。
深度Hugging Face·10月22日·8 分钟
OpenAI 正式向所有客户开放 Decisions API，该 API 基于 ChatGPT Luna 重新配置，专注于快速、低成本的决策任务。与 TypeSafe 的 Jev 模型相比，OpenAI 的模型在基准测试中排名靠后，但在多模态和全球延迟优化上有优势。早期客户如 Box、Datadog、Ramp 和 Speak 已用其替换 LLM 以提升吞吐量。
深度·10月22日·4 分钟