S
SkillNav

无需数据与优化：通过符号位翻转破坏神经网络

深度2025年2月11日44 分钟阅读
最惊人的发现是：仅翻转神经网络中2个参数的符号位，就能让ResNet-50在ImageNet上的准确率从正常降至接近0%。AI安全研究人员、模型部署工程师和对抗攻击领域学者都应阅读本文，了解这种无需数据和优化的新型攻击范式及其防御方法。
本文编译自 Maximal Brain Damage Without Data or Optimization: Disrupting Neural Networks via Sign-Bit Flips，版权归原作者所有。

觉得有用？分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察，每周更新。

关注 @skillnav_dev →阅读周刊

相关文章

模型分类：AI 使用者的新核心技能

Claude Fable 的强大能力与高昂成本，使得模型选择和分类成为区分高效与高成本 AI 用户的关键技能。专家建议仅将 Fable 用于规划、协调和审查，而将常规任务交给更便宜的模型。随着价格战和 token 定价变化，这一技能将变得对所有人都至关重要。

深度The New Stack·6月13日·4 分钟

Anthropic 安全警示反噬，美国政府叫停两大 AI 模型

美国政府下令 Anthropic 停用 Claude Fable 5 和 Claude Mythos 5，理由是国家安全。Anthropic 表示不满，称政府依据的是一项“狭窄、非通用的潜在越狱”证据，且相关能力已存在于其他公开模型。

深度·6月13日·4 分钟

评论