智能体安全

研究人员提出Agentic Transaction Processing（ATP）事务模型，将AI生成的工作流动作视为“待验证提案”，通过确定性约束集检验后才可执行，显著提升生成式AI工作流的可靠性与安全性。

研究者提出RIFT-Bench，一种基于图表示的动态红队测试方法，可对异构智能体AI系统进行统一安全评估，支持攻击探测与防御策略测试。