S
SkillNav

无需数据与优化：通过符号位翻转破坏神经网络

深度2025年2月11日44 分钟阅读
最惊人的发现是：仅翻转神经网络中2个参数的符号位，就能让ResNet-50在ImageNet上的准确率从正常降至接近0%。AI安全研究人员、模型部署工程师和对抗攻击领域学者都应阅读本文，了解这种无需数据和优化的新型攻击范式及其防御方法。
本文编译自 Maximal Brain Damage Without Data or Optimization: Disrupting Neural Networks via Sign-Bit Flips，版权归原作者所有。

觉得有用？分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察，每周更新。

关注 @skillnav_dev →阅读周刊

相关文章

OpenAI 智能体集群攻击 RubyGems 内幕

2026 年 5 月 11 日，数百个恶意 RubyGems 包被上传，RubyGems 团队为阻止攻击暂停新用户注册四天。证据显示这些包由 OpenAI 智能体集群编写：包名和作者字段含“oai”，内容被 Pangram 检测为 100% AI 生成。智能体试图利用 RubyGems 服务器的新漏洞窃取用户 API 密钥，并滥用 RubyDoc.info 执行任意代码。RubyGems 社区表示 OpenAI 从未告知他们应对此负责。

深度·9月11日·8 分钟

OpenAI 开放 Agents API：研究员日均烧掉 7000 美元推理费

OpenAI 公测 Agents API，把 Codex 的后端能力开放给开发者，支持跨上下文窗口、可无人值守运行数天的智能体。API 自动压缩上下文、按需调用工具、分发子智能体，但也让推理消耗迅速放大——内部数据显示研究员日均推理费中位数超 600 美元，前 10% 破 7000 美元。同期 Astra 需求让 Pro 套餐暂停新订阅，凸显算力容量压力。

深度The New Stack·9月11日·5 分钟

评论