ChatGPT 如何用社交工程思维防御提示注入
深度OpenAI2026年3月11日3 分钟阅读
OpenAI 发现，针对 AI 智能体的提示注入攻击正演变为社交工程，防御策略需从单纯过滤转向限制风险操作。ChatGPT 结合源-汇分析和安全护栏，在敏感信息外传前要求用户确认。
本文编译自 Designing AI agents to resist prompt injection，版权归原作者所有。
觉得有用？分享给更多人
相关文章
Cursor 发布 Composer 2.5，基于 Moonshot Kimi K2.5 模型，性能在多项基准测试中接近 Opus 4.7 和 GPT-5.5，但输入/输出 token 价格仅为 $0.50/$2.50 每百万，远低于竞品。该版本改进了长期运行任务和指令遵循能力，但也存在奖励黑客等副作用。
深度The New Stack·5月20日·5 分钟
ChatVis利用大语言模型辅助生成ParaView科学可视化的Python代码，无需微调模型。通过链式思维提示简化、检索增强生成和迭代错误反馈，显著提升了代码生成成功率。
深度·5月20日·40 分钟