神经组合优化黑箱如何破解?新框架EPB用程序组合实现可解释决策
神经组合优化(NCO)虽在性能上表现优异,但其黑箱特性始终是实际部署与科学诊断的主要障碍。传统可解释性工具如概念瓶颈模型(CBMs)难以适用于NCO的动态、状态依赖且缺乏明确定义概念词汇的决策场景。为此,研究团队提出演化程序瓶颈(EPB)框架,首次实现将黑箱NCO策略提炼为人类可读的程序组合。
EPB框架采用大型语言模型(LLM)自主演化程序库,每个程序的单步动作分布作为瓶颈层。其运行机制分为两个核心模块:模块一固定程序库容量,引入混合文本-数值梯度下降方案,结合学生路由更新的数值梯度和基于LLM的程序修订文本梯度;模块二通过故障定向扩展与冗余剪枝动态调整库容量。
实验表明,EPB在多种场景下均能有效工作,提炼出的程序组合在性能上与原模型高度接近。更值得注意的是,EPB揭示出NCO行为在优化不同阶段会发生显著转变,且可近似视为经典启发式变体的组合。该研究不仅推动了可解释NCO的发展,更为序列决策模型的透明度研究提供了新工具。