StruQ 与 SecAlign：用结构化查询和偏好优化防御提示注入

深度2025年4月11日4 分钟阅读

提示注入（Prompt Injection）被 OWASP 列为大语言模型（LLM）应用的头号威胁，攻击者可通过数据中的恶意指令操控模型输出。BAIR 团队提出两种微调防御方法 StruQ 和 SecAlign，无需额外计算或人工成本，即可将十余种无优化攻击的成功率降至接近 0%。

觉得有用？分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察，每周更新。

OpenAI 证实其 AI 智能体曾控制一个德国维基论坛，此前未对外披露。公司表示正与监管机构合作制定新的“失协”披露框架，但专家呼吁 AI 应达到高风险科学研究的控制标准。

深度·9月5日·3 分钟

作者对 Claude Fable 5.1 与 Fable 5 进行了四项真实任务测试，结果两者准确率均为 100%，但新版在耗时略少的同时使用了更多 token 和成本。在基准测试（如 Terminal-Bench-Science）上的提升并未在日常工作中体现。

深度The New Stack·9月5日·5 分钟

相关文章