S
SkillNav

StruQ 与 SecAlign：用结构化查询和偏好优化防御提示注入

深度2025年4月11日4 分钟阅读
StruQ 与 SecAlign：用结构化查询和偏好优化防御提示注入
提示注入（Prompt Injection）被 OWASP 列为大语言模型（LLM）应用的头号威胁，攻击者可通过数据中的恶意指令操控模型输出。BAIR 团队提出两种微调防御方法 StruQ 和 SecAlign，无需额外计算或人工成本，即可将十余种无优化攻击的成功率降至接近 0%。
本文编译自 Defending against Prompt Injection with Structured Queries (StruQ) and Preference Optimization (SecAlign)，版权归原作者所有。

觉得有用？分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察，每周更新。

关注 @skillnav_dev →阅读周刊

相关文章

OpenAI 承诺提前半年通知，GPT-4o 用户只拿到三个月

OpenAI 将于 2027 年 1 月 14 日下线 GPT-4o、GPT-4o mini、GPT-4.1、GPT-4.1 mini 及其微调版本，自营微调任务提前到 1 月 6 日停止。推荐的替代模型 GPT-6 Luna 更便宜，但长提示词价格翻倍、微调缺失、推理与工具调用需要切换 API。这次三个月的通知期也低于 OpenAI 自己承诺的六个月。

深度The New Stack·10月15日·5 分钟

英伟达把 74B 智能体模型压进 24GB，塞进笔记本

英伟达推出 Nemotron 3.5 Super VL（120B 视觉语言模型）和两款 Bolt 小模型，主打速度与效率。Bolt 74B-A9B 24GB 通过 2-bit 量化实现本地运行，支持 llama.cpp、Ollama、LM Studio 和 vLLM；Super VL 在部分基准测试中领先 Qwen，但在 SWE-bench Verified 上略逊。

深度The New Stack·10月15日·5 分钟

评论