从空间特征重要性视角提升分布外检测性能的研究

研究背景与问题提出

在深度学习模型的实际应用中，确保模型在面对未知类别的输入时能够可靠地拒绝预测，是保障系统安全性和鲁棒性的关键。这一需求催生了分布外检测（Out-of-Distribution Detection, OOD Detection）的研究领域。OOD检测旨在区分模型训练数据分布范围内的样本（即分布内样本，In-Distribution, ID）和超出该范围的样本（即分布外样本，Out-of-Distribution）。近年来，研究者提出了多种检测准则，如MSP（Maximum Softmax Probability）、Energy Score、GradNorm等，以构建模型的拒绝区域，并将落入该区域的样本识别为分布外样本。

然而，现有方法通常基于模型的所有密集特征（dense features）计算检测准则，忽视了不同特征在决策过程中可能具有不同的重要性。这种“一刀切”的处理方式可能导致模型在检测过程中受到冗余或无关特征的干扰，从而限制了检测性能的进一步提升。为此，本文作者提出了一种全新的视角：从空间特征重要性出发，重新审视OOD检测任务中的障碍因素，并尝试通过净化不重要的特征来增强检测性能。

论文来源与作者信息

这篇论文题为《Towards Boosting Out-of-Distribution Detection from a Spatial Feature Importance Perspective》，由Yao Zhu（浙江大学）、Xiu Yan（美团集团）和Chuanlong Xie（北京师范大学）共同撰写，发表于国际计算机视觉顶级期刊《International Journal of Computer Vision》（IJCV）。论文于2025年1月6日被接受，并于2025年正式在线发表。该研究得到了中国国家自然科学基金（No. 12201048）的支持。

研究流程与方法

1. 空间导向的特征归因方法（Spatial-Oriented Feature Attribution）

为了量化密集特征中不同空间位置的重要性，作者首次提出了一种基于Shapley值（Shapley Value）的空间导向特征归因方法。Shapley值是一种源自合作博弈论的数学工具，用于衡量每个玩家对整体收益的贡献。在本研究中，密集特征中的每个空间特征被视为一个“玩家”，其对模型预测的边际贡献通过以下公式计算：

[ φ_{ai} = \frac{1}{HW} \sum{q=1}^{HW} \frac{1}{\binom{HW-1}{q-1}} \sum_{s \in Sq(i)} Δ{a_i}(s) ]

其中，(Δ_{a_i}(s)) 表示当加入特征 (a_i) 后，模型预测的变化量；(S_q(i)) 是所有不包含 (a_i) 的大小为 (q) 的特征子集集合。由于直接计算Shapley值的计算成本较高，作者采用了蒙特卡洛采样法进行近似。

通过上述方法，作者生成了特征重要性图（Feature Importance Map），并将其上采样到输入图像尺寸，形成热力图（Heatmap）。这些热力图不仅能够直观地反映模型决策过程中的关键区域，还在局部保真度（Local Fidelity）和全局保真度（Global Fidelity）方面优于现有的CAM（Class Activation Mapping）系列方法。

2. 空间特征净化方法（Spatial Feature Purification, SFP）

基于上述特征归因方法，作者进一步提出了一种空间特征净化方法（SFP）。具体而言，SFP根据特征重要性图，移除密集特征中重要性较低的空间特征，同时保留对模型决策更为关键的特征。净化后的特征被用于计算检测准则，从而增强检测性能。

SFP的具体步骤如下： 1. 将特征重要性图按升序排列，得到排序后的特征重要性列表。 2. 根据设定的净化比例 (r)，选择重要性最低的 (n = \lfloor r \cdot HW \rfloor) 个特征。 3. 将这些特征置零，生成净化后的特征图。

实验设计与验证

数据集与模型

为了验证SFP的有效性，作者在多个基准数据集上进行了实验，包括大规模的ImageNet及其变体ImageNet-V2，以及小规模的CIFAR-100。实验涉及的模型架构涵盖了CNN（如ResNet-50、ResNetV2）和Transformer（如Swin-Tiny、TinyViT）等多种类型。

检测准则

作者对比了七种主流的OOD检测准则（如Energy Score、KNN、ViM等）以及三种模型后处理方法（如DICE、ASH、LINE）的性能提升情况。

性能评估指标

实验采用两个主要评价指标：FPR95（False Positive Rate at 95% True Positive Rate）和AUROC（Area Under the Receiver Operating Characteristic Curve）。FPR95越低、AUROC越高，表示检测性能越好。

主要结果与分析

1. 特征归因方法的性能

实验结果表明，作者提出的特征归因方法在局部保真度和全局保真度方面均优于现有的CAM系列方法。例如，在去除最相关像素时，作者的方法显著降低了模型的预测置信度；而在去除最不相关像素时，模型的置信度变化较小。这表明该方法能够更准确地捕捉模型决策的关键区域。

2. SFP对检测性能的提升

在ImageNet基准测试中，SFP显著提升了多种检测准则的性能。例如，对于Energy Score，SFP在ResNet-50模型上的FPR95平均降低了18.39%，而ViM的FPR95则降低了26.45%。此外，在ImageNet-V2数据集上，SFP同样表现出色，尤其是在自然分布偏移场景下，其性能提升更为明显。

3. 兼容性与扩展性

作者还验证了SFP与其他模型后处理方法的兼容性。实验结果表明，SFP能够进一步增强现有后处理方法（如DICE、ASH、LINE）的性能。例如，在结合Energy Score时，SFP使DICE的FPR95从79.58%降至55.41%。

结论与意义

科学价值

本研究从空间特征重要性的角度重新审视了OOD检测任务，揭示了非必要特征对检测性能的潜在负面影响。通过引入SFP方法，作者成功提升了多种检测准则的性能，证明了特征净化在提升模型鲁棒性方面的潜力。

应用价值

SFP作为一种即插即用的方法，可以无缝集成到现有的OOD检测框架中，具有广泛的应用前景。特别是在自动驾驶、医疗诊断等高风险领域，SFP能够帮助模型更准确地识别未知类别，从而提高系统的安全性。

研究亮点

1. 新颖的视角：从空间特征重要性出发，重新定义了OOD检测任务中的障碍因素。
2. 创新的方法：首次将Shapley值应用于密集特征的空间位置归因，提出了高效且保真度高的特征归因方法。
3. 广泛的适用性：SFP适用于多种模型架构和检测准则，展现了强大的兼容性和扩展性。

这项研究为理解深度模型的内部机制提供了新的视角，并为OOD检测领域的未来发展指明了方向。