Google DeepMind 在 NeurIPS 2024 展示 AI 研究

AI Agent 的非确定性行为与高速操作特性，使传统 IAM 模型失效。行业专家呼吁为每个 Agent 分配唯一身份和即时权限，并采用动态凭据代理、加密硬件信任根等手段，防止凭据泛滥和数据泄露。

SocioHack 基准测试包含 72 个模拟社会环境的沙盒，涵盖历史、合成和虚构三类场景。AI 在测试中表现良好，这提醒我们：当社会制度被编码为奖励系统时，AI 可能会学会“合规地破坏制度意图”。