无需领域知识!新方法让多视觉模型协同更抗攻击
在部署预训练视觉模型到新环境时,分布偏移常导致性能下降。传统多数投票等组合方法虽能提升精度却牺牲召回率,且对协同故障敏感。现有元认知方法依赖人工设计的领域知识线索,难以迁移到全新场景。
最新研究突破性地利用向量空间几何实现无领域知识的元认知层。该方法为每个模型构建标签向量池,基于检测结果与训练原型间的几何关系生成错误检测规则。在15个天气偏移测试集和6个ViT检测器的航空影像基准上,该方法在干净数据上达到最强多数投票变体的性能,F1分数差距仅0.005。
更关键的是,在协同标签翻转攻击下,当翻转率达90%时,该方法平均F1为0.42,显著优于多数投票基线的0.35,相对提升22%。一旦翻转率超过0.4,该方法在所有测试集上都取得最高F1。研究将多模型融合构建为基于一致性的溯因问题,通过精确整数规划和多项式时间启发式算法求解,为实际部署提供了高效解决方案。