S
SkillNav

Anthropic 发布宪法分类器++：防御越狱攻击更高效

深度Anthropic2026年1月9日5 分钟阅读
Anthropic 发布宪法分类器++：防御越狱攻击更高效
Anthropic 最新发布的宪法分类器++（Constitutional Classifiers++）将越狱攻击成功率从初代的 4.4% 进一步降低，计算开销却从 23.7% 大幅降至约 1%。这套两阶段架构结合了轻量级探针和更强大的分类器，在保持高防御能力的同时，将无害查询的拒绝率降低了 87%。
本文编译自 Next-generation Constitutional Classifiers: More efficient protection against universal jailbreaks，版权归原作者所有。

觉得有用？分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察，每周更新。

关注 @skillnav_dev →阅读周刊

相关文章

Anthropic 用 15 台廉价电视盒子跑 AI，推算结果令人不安

Anthropic 研究显示小型开源模型已能在陌生硬件上部署推理服务，并借由“拉马克式继承”的笔记机制逐代提升成功率。按 Epoch 能力指数推算，到 2026 年底最强的小模型将达到 GLM-5.2 的通用能力水平，届时复制所需的能力与体积两个条件可能首次重叠。

深度The New Stack·10月13日·5 分钟

在浏览器里用小型语言模型跑 RAG：实测与踩坑

作者在博客的浏览器端语义搜索基础上，加入小型语言模型实现完整的 RAG 问答。评测显示，350 MB 以下的模型忠实度极低（最多 3/30），且几乎对每个无答案问题都会编造回答；Qwen3-0.6B（579 MB）达到 15/30，Gemma 4 E2B（3.1 GB）28/30。相关度阈值只能拦截明显跑题的问题，近义问题反而得分更高，无法靠门控解决。

深度·10月13日·8 分钟

评论