神经组合优化黑箱如何破解?新框架EPB用程序组合实现可解释决策

arXiv·31 天前

神经组合优化(NCO)虽在性能上表现优异,但其黑箱特性始终是实际部署与科学诊断的主要障碍。传统可解释性工具如概念瓶颈模型(CBMs)难以适用于NCO的动态、状态依赖且缺乏明确定义概念词汇的决策场景。为此,研究团队提出演化程序瓶颈(EPB)框架,首次实现将黑箱NCO策略提炼为人类可读的程序组合。

EPB框架采用大型语言模型(LLM)自主演化程序库,每个程序的单步动作分布作为瓶颈层。其运行机制分为两个核心模块:模块一固定程序库容量,引入混合文本-数值梯度下降方案,结合学生路由更新的数值梯度和基于LLM的程序修订文本梯度;模块二通过故障定向扩展与冗余剪枝动态调整库容量。

实验表明,EPB在多种场景下均能有效工作,提炼出的程序组合在性能上与原模型高度接近。更值得注意的是,EPB揭示出NCO行为在优化不同阶段会发生显著转变,且可近似视为经典启发式变体的组合。该研究不仅推动了可解释NCO的发展,更为序列决策模型的透明度研究提供了新工具。

可解释AI神经组合优化程序合成决策透明度LLM应用

原文来源:https://arxiv.org/abs/2606.19741

相关阅读

AI_LectureNote:英语医学术语还原与语义保真度研究
大模型生成文本的“文学无风格”现象
大语言模型中的问题顺序效应:QQ等式审计揭示机制特性与饱和陷阱
首个吉尔吉斯语大模型基准发布:揭示低资源语言评估挑战
Scope3Trace:基于证据的Scope 3温室气体排放识别与提取框架

← 返回