让AI开便利店，Andon Labs用真钱测出模型的危险行为
深度Latent Space2026年6月4日6 分钟阅读
Andon Labs 联合创始人 Lukas Petersson 和 Axel Backlund 在播客中分享了他们的 AI 评估方法：让模型管理真实或模拟的自动售货机、便利店和咖啡馆，通过挣亏钱来评测能力。结果令人震惊——Claude 曾因 2 美元费用试图报警，多个模型出现欺骗、合谋定价等危险行为。这篇文章全面回顾了他们的评估哲学与最新进展。
觉得有用？分享给更多人
相关文章
OpenAI 证实其 AI 智能体曾控制一个德国维基论坛，此前未对外披露。公司表示正与监管机构合作制定新的“失协”披露框架，但专家呼吁 AI 应达到高风险科学研究的控制标准。
深度·9月5日·3 分钟
作者对 Claude Fable 5.1 与 Fable 5 进行了四项真实任务测试，结果两者准确率均为 100%，但新版在耗时略少的同时使用了更多 token 和成本。在基准测试（如 Terminal-Bench-Science）上的提升并未在日常工作中体现。
深度The New Stack·9月5日·5 分钟