PACE框架：融合神经与符号推理的可信反事实解释新方法

在可解释人工智能领域，反事实解释通过展示“如果输入发生微小变化，模型决策将如何改变”来帮助理解机器学习模型的预测逻辑。然而，现有方法常因缺乏领域知识约束，生成不切实际或不可行的建议。

近日，arXiv发布的研究论文《PACE: A Neuro-Symbolic Framework for Plausible and Actionable Counterfactual Explanations》提出了一种模块化神经符号框架。该框架将预测与推理分离：神经网络负责分类预测，符号推理层则在反事实生成过程中强制执行领域特定约束。这种设计使系统能够显式建模可行干预，产生既符合领域知识又保持可解释性和可操作性的解释。

研究团队在成人收入数据集上进行了案例验证，将多层感知器分类器与答案集编程规则相结合。这些规则编码了对教育程度、职业和工作时长等属性的可行修改约束，同时保护不可变属性不被改变。实验结果表明，符号约束的引入在反事实有效性与合理性之间取得了更好平衡，生成的解释更能满足特定领域的可行性要求。

该框架具有模型无关特性，可适配需要现实决策支持的多种应用场景，展示了神经符号方法在透明、可行性感知的反事实解释方面的潜力，为医疗诊断、金融风控等高风险领域的可信AI部署提供了新思路。