S
SkillNav

OpenAI 持续加固 ChatGPT Atlas,应对 Prompt Injection 攻击

资讯OpenAI2025-12-22T00:00:00+00:001 分钟阅读

OpenAI 正在加强 ChatGPT Atlas 对 Prompt Injection 攻击的防御能力,方法是采用经过强化学习训练的自动化红队。这个主动的“发现—修补”闭环有助于及早识别新型利用方式,并在 AI 日益 Agent 化的背景下,持续加固该浏览器 Agent 的防御体系。

原文链接:https://openai.com/index/hardening-atlas-against-prompt-injection

相关文章

资讯OpenAI·3月4日
OpenAI 推出学习成果测量套件,评估 AI 对教育成效的长期影响

OpenAI 发布了 Learning Outcomes Measurement Suite,用于系统评估 AI 在教育场景中的实际学习成效。该套件强调跨不同教学环境、并在更长时间周期内跟踪学生学习结果,帮助更准确判断 AI 的教育价值。

1 分钟
深度OpenAI·3月4日
Axios 如何用 AI 放大本地新闻影响力

Axios 首席运营官 Allison Murphy 介绍了公司如何将 AI 用于本地新闻生产。核心做法是借助 AI 支持一线本地记者、优化新闻编辑部流程,并以更高效率扩大高影响力本地报道的覆盖规模。

1 分钟