形式化验证

随着强化学习在安全关键领域的广泛应用，神经网络策略缺乏行为保证成为主要障碍。本综述首次建立统一框架，系统梳理验证方法并揭示理论关联。

研究人员推出开源系统OpenProver，采用LLM驱动与Lean 4形式化验证结合的自动定理证明架构，支持人机交互式证明搜索。

研究提出将AI安全中的对抗鲁棒性问题转化为格遍历问题，为多层感知机提供完备的区间认证理论框架。

研究人员提出一种名为“齿轮化执行”的运行时自主管理系统，通过五档执行模式与事件驱动回退机制，为缺乏持续人工监督的自主智能体提供安全保证。该系统在UR5机器人装配单元实验中实现99.6%异常检测率，并提供形式化物理空间安全证书。

研究团队提出新评估协议，揭示自然语言到Lean形式化过程中存在显著语义偏差，工具增强代理虽达89.5%编译率，但仅60.5%忠实度。

研究人员提出HyPOLE框架，利用超属性规范指导部分可观测环境下的多智能体强化学习，在多个基准测试中表现优于基线方法。

研究发现，大模型与形式化求解器协作时，求解结果向用户输出的“叙述”环节存在安全漏洞，可能导致已验证结论被恶意篡改。