利用图卷积网络进行多视角非图数据的半监督学习

2025-04-13 Sun
背景介绍在机器学习领域，半监督学习（Semi-Supervised Learning, SSL）因其能够利用少量标注数据和大量未标注数据进行学习而备受关注。特别是在数据标注成本高昂的场景中，基于图的半监督学习方法逐渐成为研究热点。图卷积网络（Graph Convolutional Networks, GCNs）在半监督学习中表现出色，尤其是在具有图结构的数据（如引文网络和社交网络）中。然而，GCNs在非图结构的多视图数据（如图像集合）中的应用仍存在明显空白。
多视图数据（Multi-view Data）是指从不同视角或模态捕捉同一对象信息的数据集。例如，电视数据包含视频和音频两个视图，自然语言理解中同一语义对象可以用不同语言表达，人脸识别中2D图像和3D模型代表不同模态的面部数据。多视图学习（Multi-view Learning）旨在利用这些互补信息构建统一模型，从而提升分类性能。然而，现有的多视图学习方法在处理非图数据时，尤其是图像数据，仍然面临挑战。
为了解决这一问题，F. Dornaika、J. Bi和J. Charafeddine等研究者提出了一种基于图卷积网络的多视图半监督分类模型，专门针对非图数据。他们的研究旨在填补这一领域的空白，并为多视图数据的半监督学习提供新的解决方案。
论文来源该论文由F. Dornaika（巴斯克大学和Ikerbasque科学基金会）、J. Bi（巴斯克大学）和J. Charafeddine（德维尼高等教育研究中心）共同撰写，发表于2025年的《Cognitive Computation》期刊。论文的标题为《Leveraging Graph Convolutional Networks for Semi-Supervised Learning in Multi-view Non-graph Data》，DOI为10.1007/s12559-025-10428-y。
研究流程1. 研究目标与方法设计该研究的主要目标是开发两种基于图卷积网络的多视图半监督分类模型，分别称为“统一图半监督分类”（Semi-Supervised Classification with a Unified Graph, SCUG）和“融合图半监督分类”（Semi-Supervised Classification with a Fused Graph, SC-Fused）。这两种模型的共同点在于都使用了GCN框架，并引入了标签平滑约束（Label Smoothing Constraint）。它们的区别在于共识相似图（Consensus Similarity Graph）的构建方式。
2. 统一图半监督分类（SCUG）SCUG的核心思想是通过一个专门的目标函数直接从不同视图中重建共识图。具体步骤如下：
数据预处理：对每个视图中的样本特征进行归一化处理，确保数据矩阵的列向量为单位向量。
统一图构建：使用多视图一致图构建与标签传播算法（MVCGL）估计统一图。该算法通过优化一个全局目标函数，利用标签数据和预测标签的监控信息，生成一个具有判别性的半监督模型。
图卷积网络训练：将统一图和全局特征矩阵输入到GCN架构中，通过层间传播和标签平滑约束进行训练，最终输出所有样本的软标签预测。
3. 融合图半监督分类（SC-Fused）SC-Fused采用自适应融合方法构建统一图，具体步骤如下：
个体图构建：为每个视图构建独立的相似图，通过优化目标函数生成每个视图的图矩阵。
融合图构建：根据每个视图的数据平滑度权重，将个体图自适应地融合为一个统一的共识图。
图卷积网络训练：将融合图和全局特征矩阵输入到GCN架构中，通过层间传播和标签平滑约束进行训练，最终输出所有样本的软标签预测。
4. 实验设计与数据集为了验证所提出模型的有效性，研究者在七个多视图图像数据集上进行了实验，包括ORL、Scene、Handwritten、ALOI、MSRC-v1、YouTube和MNIST。这些数据集涵盖了人脸图像、场景图像、手写数字图像等多种类型。
5. 对比方法与参数设置研究者将SCUG和SC-Fused与七种现有方法进行了对比，包括两种基线方法（GCN-X*和GCN-Multi）和四种最先进的多视图半监督学习方法（MVCGL、AMSSL、DSRL和JCD）。所有模型的参数设置保持一致，以确保实验的公平性。
研究结果实验结果表明，SC-Fused在六个数据集（ORL、Scene、Handwritten、ALOI、MSRC-v1和YouTube）上均取得了最高的分类准确率，表现出了显著的优越性。SCUG在四个数据集（Scene、ALOI、MSRC-v1和YouTube）上表现优异，仅次于SC-Fused。相比之下，其他方法在不同数据集上的表现差异较大，且在处理复杂数据集时表现不佳。
1. 参数敏感性分析研究者对SC-Fused的参数敏感性进行了详细分析，发现不同数据集的最优参数设置存在显著差异。例如，ALOI数据集的最优平衡参数λ为0.1，而Handwritten数据集的最优λ为1200。这表明，不同数据集需要根据其特性进行参数调整，以达到最佳分类效果。
2. 图构建与分类效果通过可视化相似矩阵，研究者发现，SC-Fused在构建图矩阵时能够有效捕捉类内样本的相似性，并减少类间样本的相似性。这种有效的图构建方式直接提升了半监督分类的准确率。例如，在Handwritten和ORL数据集上，SC-Fused构建的图矩阵显示出清晰的类内聚集和类间分离，与其高分类准确率相符。
3. 嵌入可视化通过t-SNE可视化技术，研究者展示了SC-Fused模型在输入特征和输出表示上的分布变化。结果表明，半监督学习使得同一类别的样本更加聚集，不同类别的样本更加分离，进一步验证了模型的有效性。
研究结论该研究提出了两种基于图卷积网络的多视图半监督分类模型，填补了GCN在非图数据应用中的空白。实验结果表明，SC-Fused在多个数据集上均表现出色，特别是在处理复杂数据集时具有显著优势。该研究的主要贡献包括：
提出了两种构建共识图的方法，分别适用于多视图和非图数据。
将生成的图用于训练半监督图卷积网络，提升了分类性能。
通过实验验证了所提出方法在多个数据集上的优越性。
研究亮点创新性：该研究首次将图卷积网络应用于非图结构的多视图数据，提出了一种新的半监督分类框架。
有效性：SC-Fused在多个数据集上均取得了最高的分类准确率，表现出了显著的优越性。
应用价值：该研究为多视图数据的半监督学习提供了新的解决方案，具有广泛的应用前景，特别是在图像分类、视频分析和自然语言处理等领域。
未来展望研究者表示，未来将进一步探索如何降低多视图数据的计算复杂度，特别是在处理高维特征或多视图数据时。此外，他们还计划在GCN框架中引入多层感知机（MLP）层，以进一步减少特征的维度，提升模型的效率和性能。这篇研究为多视图数据的半监督学习提供了新的思路和方法，具有重要的理论和应用价值。通过引入图卷积网络，研究者成功解决了非图数据在半监督学习中的挑战，为未来的相关研究奠定了基础。