红队测试

研究团队提出一种自动化多智能体红队测试框架，通过迭代生成和验证困难样本，显著提升多模态大模型在内容安全任务中的鲁棒性。

OpenAI发布自动化红队系统GPT-Red，通过自我对抗训练提升AI安全性、对齐能力和提示注入防御能力。

研究者提出RIFT-Bench，一种基于图表示的动态红队测试方法，可对异构智能体AI系统进行统一安全评估，支持攻击探测与防御策略测试。