多领域适应中的主动动态加权

信息科学 人工智能
多源域适应 传输学习 主动学习 分布对齐 动态边界损失

背景介绍

多源无监督域适应（Multi-source Unsupervised Domain Adaptation, MUDA）旨在从多个已标记的源域向无标记的目标域转移知识。但是，现有的方法在处理源域和目标域的分布差异时，往往只是简单地寻求不同领域之间分布的混合或在决策过程中结合多个单源模型进行加权融合，未深入考察不同源域和目标域之间的全局和局部特征分布的差异。因此，为解决这一问题，该研究提出了一种全新的多源域适应的主动动态加权（Active Dynamic Weighting, ADW）方法。

论文来源

本文的研究工作由西安理工大学的刘龙、周博、赵志鹏和刘泽宁组成的团队完成，于2024年5月20日正式在线发表在《Neural Networks》杂志上，文章编号为177（2024）106398。

研究流程

流程概述

研究主要包括以下几个部分：

  1. 多源动态调节机制设计：ADW在训练过程中动态调节源域和目标域之间特征对齐的程度。
  2. 动态边界损失设计：为了确保跨域类别的可区分性，ADW设计了一种动态边界损失，指导模型聚焦于决策边界附近的难分类样本。
  3. 主动学习策略：首次将主动学习应用于多源无监督域适应，提出了一种高效的重要性采样策略，以最小的标注预算选择目标域的难样本进行标注，并整合到训练过程中，从而进一步优化类别层面的域对齐。

各部分详细说明

1. 多源动态调节机制：（Dynamic Domain Discrepancy Adjustment, DDDA）

  • 使用共享特征提取器（例如ResNet-50）进行数据映射。
  • 在共享特征提取器之后，引入非线性投影头（Non-linear Projection Head）。
  • 计算源域和目标域之间的最大均值差异（Maximum Mean Discrepancy, MMD）。
  • 在训练过程中，通过计算每个源域和目标域的分布距离动态调整源域样本的权重。

2. 动态边界损失：（Dynamic Boundary Loss）

  • 使用动态边界损失方法，通过关注每个源域中决策边界附近的难分类样本，增强模型的分类能力。
  • 该损失函数重点扩展了类别间相似样本的差异，获得更加明确的决策边界。

3. 主动边界样本选择：（Active Margin Sample Selection, AMSS）

  • 基于动态边界损失设计的查询函数对目标域数据的重要性进行排序。
  • 选择排名前列的样本并进行标注，将这些标注样本添加到目标域标注样本集合中。
  • 使用新的样本集合更新模型，优化模型训练效果，增强目标域分类能力。

主要结果

实验在多个基准数据集上进行了测试，包括Office-31、Office-Caltech 10、Office-Home和DomainNet数据集。实验结果显示，ADW在大多数任务上都表现出了优越性。

各组件的实验结果

AB测试实验显示：

  • 动态域差异调节机制（DDDA）的每一模块都显著提升了模型效果，且各模块是互补的。
  • 动态边界损失函数（Dynamic Boundary Loss, (\mathcal{L}_{dis})）通过聚焦于边界附近的样本，进一步提高了分类任务的准确性。
  • 主动边界样本选择策略（AMSS）通过对难样本的选择和标注，显著优化了模型训练效果。

与现有方法对比

从整体实验结果来看，ADW在多个数据集（包括Office-31、Office-Home和DomainNet）上，与现有的方法进行对比，表现出了显著的优越性。具体来说：

  • 在Office-31数据集上，ADW方法在单目标域任务中表现最优，尤其是在目标域为Amazon的任务中，与现有最优方法相比提高了1.9%。
  • 在更复杂的DomainNet数据集中，ADW在大多数任务组下均达到了当前最优性能。
  • 在Office-Home数据集上，ADW在多个迁移任务中达到最高识别准确率，整体平均准确率优于其他方法。

组件消融对比实验

通过消融实验，进一步验证了各模块对整体模型效果的贡献。例如：

  • 当使用动态调整因子时，模型性能提升1.1%。
  • 引入主动边界样本选择策略后，模型平均准确率提升2.8%。

研究意义和价值

  • 科学价值：该研究在多源无监督域适应问题上首次引入了主动学习的方法，提出了创新性的多源动态权重调节和主动边界样本选择策略，通过动态调节和主动学习实现了更高效的跨域迁移。
  • 应用价值：研究在多个真实数据集上验证了方法的有效性和鲁棒性，对于多源数据环境下的机器学习任务，如图像分类、目标检测等，提供了新的解决方案。

研究亮点

  • 重要发现：ADW在多源域适应上解决了域间局部和整体分布差异的问题，并提出了有效的动态权重调节和主动样本选择方法，显著提高了模型的跨域适应能力。
  • 方法新颖性：首次将动态调节和主动学习有效结合并应用于多源域适应问题，在保证标注成本最小的前提下，优化了模型训练效果。
  • 数据验证：通过在多个标准数据集上的广泛实验，证明了方法的优越性和适用性。

结论

本文提出的主动动态加权方法（ADW）为多源无监督域适应问题提供了一种创新性的解决方案，通过动态调节源域和目标域的特征对齐权重，以及主动选择和标注重要目标域样本，实现了高效的跨域迁移。实验结果验证了方法的有效性和鲁棒性，为未来的多模态域适应研究提供了新的思路和方向。