无需领域知识!新方法让多视觉模型协同更抗攻击

arXiv·28 天前

在部署预训练视觉模型到新环境时,分布偏移常导致性能下降。传统多数投票等组合方法虽能提升精度却牺牲召回率,且对协同故障敏感。现有元认知方法依赖人工设计的领域知识线索,难以迁移到全新场景。

最新研究突破性地利用向量空间几何实现无领域知识的元认知层。该方法为每个模型构建标签向量池,基于检测结果与训练原型间的几何关系生成错误检测规则。在15个天气偏移测试集和6个ViT检测器的航空影像基准上,该方法在干净数据上达到最强多数投票变体的性能,F1分数差距仅0.005。

更关键的是,在协同标签翻转攻击下,当翻转率达90%时,该方法平均F1为0.42,显著优于多数投票基线的0.35,相对提升22%。一旦翻转率超过0.4,该方法在所有测试集上都取得最高F1。研究将多模型融合构建为基于一致性的溯因问题,通过精确整数规划和多项式时间启发式算法求解,为实际部署提供了高效解决方案。

视觉Transformer模型融合对抗鲁棒性元认知计算机视觉

原文来源:https://arxiv.org/abs/2608.04190

相关阅读

AI智能体如何重塑人类群体的共识形成机制
text2ql框架革新数据库自然语言查询:支持多目标、零LLM模式实现100%执行准确率
无需预设长度!PILL方法显著提升扩散语言模型填充效率
新方法实现大模型知识编辑的精准逆转:只删恶意不改良性
无需训练!IDEEA实现输入依赖的激活匹配引导

← 返回