S
SkillNav

无需数据与优化：通过符号位翻转破坏神经网络

深度2025年2月11日44 分钟阅读
最惊人的发现是：仅翻转神经网络中2个参数的符号位，就能让ResNet-50在ImageNet上的准确率从正常降至接近0%。AI安全研究人员、模型部署工程师和对抗攻击领域学者都应阅读本文，了解这种无需数据和优化的新型攻击范式及其防御方法。
本文编译自 Maximal Brain Damage Without Data or Optimization: Disrupting Neural Networks via Sign-Bit Flips，版权归原作者所有。

觉得有用？分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察，每周更新。

关注 @skillnav_dev →阅读周刊

相关文章

Anthropic 用 15 台廉价电视盒子跑 AI，推算结果令人不安

Anthropic 研究显示小型开源模型已能在陌生硬件上部署推理服务，并借由“拉马克式继承”的笔记机制逐代提升成功率。按 Epoch 能力指数推算，到 2026 年底最强的小模型将达到 GLM-5.2 的通用能力水平，届时复制所需的能力与体积两个条件可能首次重叠。

深度The New Stack·10月13日·5 分钟

在浏览器里用小型语言模型跑 RAG：实测与踩坑

作者在博客的浏览器端语义搜索基础上，加入小型语言模型实现完整的 RAG 问答。评测显示，350 MB 以下的模型忠实度极低（最多 3/30），且几乎对每个无答案问题都会编造回答；Qwen3-0.6B（579 MB）达到 15/30，Gemma 4 E2B（3.1 GB）28/30。相关度阈值只能拦截明显跑题的问题，近义问题反而得分更高，无法靠门控解决。

深度·10月13日·8 分钟

评论