GLARE：用自然语言查询视觉模型全局解释的新界面

全局解释对于理解视觉模型在不同数据集、类别和决策场景下的行为至关重要，但其复杂且整体化的特性往往阻碍实际探索。由于用户通常希望针对具体问题获得有针对性的答案，而非静态的分析结果，研究团队提出了一种基于大语言模型的交互界面GLARE，为黑盒图像分类器提供自然语言访问全局解释的能力。该系统的核心大语言模型充当中间媒介，将自然语言问题转化为对局部解释数据的结构化SQL查询，从而在不暴露底层技术细节的情况下实现灵活的数据聚合。针对每个查询，界面会输出经过统计增强的自然语言回复，同时支持局部解释和符合查询意图的可视化展示。研究团队从意图理解准确性、查询映射精度、对新查询和数据集的泛化能力，以及对语言错误的鲁棒性等多个维度对系统进行了评估。结果表明，基于大语言模型的查询方式显著提升了以人为中心的可解释AI中全局解释的可访问性和实用性。