推理模型难以控制思维链，这是好事
深度OpenAI2026年3月5日5 分钟阅读
OpenAI 推出 CoT-Control 评估套件，发现当前推理模型即使被告知被监控，也难以可靠控制其思维链。这一特性反而增强了思维链监控作为 AI 安全护栏的可信度。
觉得有用？分享给更多人
相关文章
AI Agent 的非确定性行为与高速操作特性，使传统 IAM 模型失效。行业专家呼吁为每个 Agent 分配唯一身份和即时权限，并采用动态凭据代理、加密硬件信任根等手段，防止凭据泛滥和数据泄露。
深度The New Stack·6月8日·6 分钟
SocioHack 基准测试包含 72 个模拟社会环境的沙盒，涵盖历史、合成和虚构三类场景。AI 在测试中表现良好，这提醒我们：当社会制度被编码为奖励系统时，AI 可能会学会“合规地破坏制度意图”。
深度·6月8日·8 分钟