可解释AI

研究发现，即使任务前提被违反，开源大模型 Qwen3-8B 在生成答案前就可能提前“锁定”错误选项，后续推理仅为合理化该选择。

研究指出大语言模型生成的自我解释虽看似合理，但未必反映真实推理过程，建议评估标准应从可信度扩展到实用性，以支持实际决策。

研究人员发现大型语言模型内部存在类似人类意识的“全局工作空间”，通过新型解释技术可解码模型未说出口的思考过程，为AI对齐研究提供新视角。

最新研究指出，逻辑与优化技术的结合能为规则型人工智能提供强大支持，逻辑负责编码规则与推理，优化则为高效计算提供技术支撑，这一组合尤其有助于提升AI系统的透明度与可解释性。

研究人员提出一种新方法，可将深度强化学习的黑盒策略转化为人类可读、逻辑引擎可执行的Prolog程序，同时提供理论性能保证，在多个任务中实现接近原策略的性能。

研究人员提出MAR-12框架，通过12个结构化视角分析表情包中的幽默与有害内容，在检测准确性和解释性上均超越现有方法。

研究者提出一种显式可审计的因果推理框架，通过目标感知因果图构建策略，提升大模型在干预性问答中的推理透明度和鲁棒性。

研究者提出MAPS框架，通过建模多智能体的认知差异与动态记忆，在对话中同时保持个体主观表达与语义对齐，为可解释、人性化的AI对话系统提供新思路。

研究人员开发出LLM-T1D系统，将强化学习的精准控制与大语言模型的自然解释能力相结合，为1型糖尿病患者打造出既高效又透明的智能胰岛素泵控制器。

研究者提出IMEX（基于交互的模型解释）方法，通过静态相关性和交互相关性两种指标，揭示黑盒模型中特征对预测结果的贡献度及交互作用。

研究者提出一套基于归纳逻辑编程的客观指标，用于量化强化学习策略的可解释性，为安全关键和人机协作场景提供更透明的决策依据。

研究者提出GenAI评估框架，通过配置化管道对零售对话系统进行大规模多维度评估，每日处理约5万条记录，支持选择性重评与完整审计追踪。

研究人员提出一种校准优先的奖励审计框架，可将温室强化学习控制中的标量奖励分解为多个可追踪的环境调控组件，使种植者能够清晰了解AI策略何时加热、通风或调节湿度。

研究者提出用动态系统理论分析潜在思维链推理的演化过程，揭示了CODI和COCONUT等模型在隐藏空间中的不同稳定性特征，为提升推理可解释性提供了新工具。

研究人员提出一种结合图尔敏论证模型与AI的诊断框架，将机器学习预测分解为多个论证组件，提升医疗诊断的可解释性与可靠性。

研究提出知识图谱与可解释AI互补融合框架，通过四种整合模式提升城市拆除评估决策的可辩护性。

研究团队提出假设演化协议（HEP），为大型语言模型智能体提供可审计的假设生成、评估与演化框架，推动AI驱动的科学发现过程透明化。

研究者提出智能体记忆的双时态溯源框架，能够同时追踪信念的时间演变和认知过程的时间戳，为AI系统的决策透明性提供新思路。

研究人员推出RuleChef框架，利用大语言模型为文本分类、命名实体识别等NLP任务生成可执行规则，并通过示例与人工反馈迭代优化，最终产出快速、确定、可检查的规则系统。

研究人员提出PACE神经符号框架，通过结合神经网络预测与符号规则约束，生成既符合领域知识又具备可操作性的反事实解释。

研究人员提出Graph-PRefLexOR模型，利用图原生强化学习方法，在材料科学等领域实现可追溯的多步骤推理与假设生成，显著提升推理透明度与语义多样性。

研究人员提出DDIAgents多智能体框架，通过机制条件化知识编排实现药物相互作用预测，在多个基准测试中超越现有方法。

研究者提出新型混合神经网络架构NBS-RASN，通过仅12层80个可解释神经元实现网络安全风险评估，在保持高准确率的同时确保结果完全可解释，挑战了深度学习必须依赖深度网络的传统认知。

研究者提出对比反思框架，通过结构化追踪AI代理行为差异，实现可解释的迭代式提示优化，在HotpotQA测试中将准确率从51.4%提升至60.4%。

研究者提出AnTenA系统，利用大语言模型的知识，在没有标签或辅助数据的情况下，解释张量分解提取的潜在模式。

研究评估了多模态大语言模型在零样本条件下，为图像区域进行物体及部件级概念命名的能力，提出了一种可复现的评估框架，在物体级别准确率可达62%-88%。

研究者提出VirtueMap框架，通过七种非致命、非政治、非宗教的伦理困境场景，评估大语言模型在实践智慧、正义、诚实、勇气和节制五项美德上的表现差异。

研究团队提出图世界模型（GWM）的统一分析框架，揭示图结构演化与局部预测误差传播的关联机制，并设计误差感知训练策略以提升长程规划稳定性。

研究者提出DysLexLens框架，利用大语言模型分析在线论坛中阅读障碍学习者使用AI工具的体验，为低资源环境下的用户洞察分析提供可验证的解决方案。

研究者开发了一套基于大语言模型的治理分析流程，通过对比ERC-8004与Google A2A两种AI代理互操作协议，揭示不同治理模式下社区话语结构与权力分布的异同。

研究者提出利用大语言模型量化产品隐性情感的新框架，在零样本设定下实现高达0.97的相关性和94%的分类准确率，GPT-4o-mini以极低成本达到媲美大模型的效果。

研究人员通过训练数据溯源技术，首次系统揭示了语言模型中社会推理与STEM推理能力的不同数据来源，发现两者依赖完全不同的语料库区域。

研究者提出EPB框架，首次将黑箱神经组合优化模型转化为可读程序组合，通过LLM自主演化程序库实现决策过程透明化，在保持性能的同时揭示优化行为的阶段性变化。

研究人员推出基于大语言模型的交互界面GLARE，让用户能用自然语言提问，获取黑盒图像分类器的全局解释，提升可解释AI的可用性。