HASTE系统：分层技能积累让AI工程代理告别“重复造轮子”

当前机器学习工程代理在参与不同竞赛时往往需要从头开始，导致大量计算资源浪费在重新发现已知技术上。为解决这一问题，arXiv最新研究提出HASTE（Hierarchical Accumulation of Skills for Transfer-Efficient ML Engineering）分层多代理系统。该系统将跨竞赛知识组织为三个层级：全局技能、领域特定技能和竞赛特定技能，每个层级对应相应的代理模块。核心协调器负责调度领域专家，并通过大语言模型驱动的抽象机制促进各层级间的知识迁移。实验结果显示，在保持159项技能库不变的情况下，分层加载在8项竞赛中实现了100%的奖牌获得率，而扁平化加载仅达到62.5%——这与完全不加载技能的效果相同，且消耗的输出令牌数量是分层加载的两倍。在完整的MLE-Bench Lite基准测试（涵盖22项Kaggle竞赛）中，HASTE使用Claude Sonnet 4.6模型，每项竞赛耗时12小时，最终达到77.3%的奖牌获得率。研究还发现，当系统从冷启动（无积累技能）转为热启动（加载先前竞赛学到的技能）时，优化迭代次数减少52%，代理保留的修改建议比例从低技能库时的42%提升至50+技能可用时的85%。这表明更好的知识组织方式可以在一定程度上弥补模型能力和计算预算的不足，为高效机器学习工程代理的开发提供了新思路。