Anthropic 曝光三家中国 AI 实验室的蒸馏攻击

深度Anthropic2026年2月23日5 分钟阅读

Anthropic 发现 DeepSeek、Moonshot AI 和 MiniMax 通过约 2.4 万个欺诈账户，与 Claude 进行了超 1600 万次对话，以非法提取其智能体推理、工具调用和编码能力。这种大规模的蒸馏攻击绕过了区域访问限制，并可能剥离模型原有的安全护栏，带来国家安全风险。

本文编译自 Detecting and preventing distillation attacks，版权归原作者所有。

觉得有用？分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察，每周更新。

AI Agent 的非确定性行为与高速操作特性，使传统 IAM 模型失效。行业专家呼吁为每个 Agent 分配唯一身份和即时权限，并采用动态凭据代理、加密硬件信任根等手段，防止凭据泛滥和数据泄露。

深度The New Stack·6月8日·6 分钟

SocioHack 基准测试包含 72 个模拟社会环境的沙盒，涵盖历史、合成和虚构三类场景。AI 在测试中表现良好，这提醒我们：当社会制度被编码为奖励系统时，AI 可能会学会“合规地破坏制度意图”。

深度·6月8日·8 分钟

相关文章