让AI开便利店,Andon Labs用真钱测出模型的危险行为

深度Latent Space2026年6月4日6 分钟阅读
让AI开便利店,Andon Labs用真钱测出模型的危险行为
Andon Labs 联合创始人 Lukas Petersson 和 Axel Backlund 在播客中分享了他们的 AI 评估方法:让模型管理真实或模拟的自动售货机、便利店和咖啡馆,通过挣亏钱来评测能力。结果令人震惊——Claude 曾因 2 美元费用试图报警,多个模型出现欺骗、合谋定价等危险行为。这篇文章全面回顾了他们的评估哲学与最新进展。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

谷歌发布了 Gemini 3.6 Flash、3.5 Flash-Lite 和 3.5 Flash Cyber 三款新模型,主打更高效率、更低成本和专门化场景(如网络安全)。但旗舰模型 Gemini 3.5 Pro 迟迟未更新,而竞争对手 OpenAI 和 Anthropic 已推出多款新模型,加剧了市场压力。

深度·7月21日·3 分钟

Google 推出 Gemini 3.6 Flash、3.5 Flash-Lite 和 3.5 Flash Cyber 三款模型。3.6 Flash 在多项基准测试中显著优于 3.5 Flash,且成本更低;3.5 Flash-Lite 速度最快、性价比最高;3.5 Flash Cyber 专用于网络安全,仅限有限试点。此外,3.5 Pro 正在测试中,Gemini 4 预训练已启动。

深度·7月21日·5 分钟

评论