结构增强的原型对齐用于无监督跨域节点分类 引言 随着现代信息技术的发展，图神经网络（Graph Neural Networks，GNNs）在处理复杂网络节点分类任务中展示了显著的成功。然而，其中一个关键问题是需要大量高质量标注数据，这对于图结构数据而言获取成本高昂且耗时。因此，如何将知识从一个标注丰富的图（源域）迁移到一个完全无标注的图（目标域）成为了亟待解决的重要问题。 研究背景及目的 作者所在团队来自浙江大学计算机科学学院、浙江省服务机器人重点实验室、以及新加坡国立大学计算学院。他们提出了一种名为结构增强的原型对齐（SEPA）的新型无监督图域适应框架，旨在通过构建基于原型的图和引入显式域差异度量来实现源域和目标域的对齐。该论文发表在《Neural Networks》期刊，并通过一系列实验...
语义分割旨在为图像中的每个像素预测类别标签（Liu et al., 2021; Wang et al., 2021），广泛应用于场景理解、医学图像分析、自动驾驶、地理信息系统和增强现实（Strudel et al., 2021; Sun et al., 2023）。虽然深度神经网络的发展显著提升了分割任务的表现（Chen et al., 2014; Guan et al., 2021; Zhao et al., 2017），但这些进展要求大量像素级标注数据进行模型训练，获取这些数据在现实场景中代价高昂（Jiang et al., 2022; Liang et al., 2023）。与此同时，当测试数据与训练数据存在分布差异时，多数分割方法的性能通常会下降（Huang et al., 2022...
以原型为基础的样本加权蒸馏统一框架应用于缺失模态情感分析 研究背景 情感分析是自然语言处理(NLP)中的一个重要领域，随着社交媒体平台的发展，人们越来越倾向于通过简短的视频片段来表达他们的情感。这导致多模态数据的快速增长。然而，现实生活中经常会遇到模态缺失的情况，例如由于音频丢失、摄像头遮挡或语音转录错误等问题。在这种情况下，对缺失模态的情感分析成为一个具有挑战性的重要议题。多模态的异质性在尝试对所有模态在多模态网络上优化相同目标时，往往导致优化的不平衡问题，尤其是在模态缺失的情况下。现有的研究在处理模态缺失时，常常忽略了网络优化的不平衡问题。 研究来源 这篇论文由山东师范大学信息科学与工程学院的张玉娟、刘芳娥、庄旭强、侯英和张玉灵共同撰写，论文发表于2024年5月20日的《Neural N...
背景介绍 网络剪枝（Network Pruning）是设计高效卷积神经网络（CNNs）模型的重要技术。其通过减少内存占用和计算要求，同时保持或提高总体性能，使得在资源受限设备（如手机或嵌入式系统）上部署CNNs变得可行。当前的假设是许多模型参数过多，即包含大量不必要或冗余的参数，剪枝这些冗余参数可以生成更小且更高效的模型，这不仅适用于资源受限设备，还可以在某些情况下提高模型的泛化能力。 现有的剪枝方法中，滤波器剪枝（Filter Pruning）和权重剪枝（Weight Pruning）都是流行的技术。权重剪枝是一种非结构化剪枝，指根据个别权重的重要性对其进行剪枝而不考虑任何特定的结构或模式。而滤波器剪枝则是结构化剪枝方法的一种，它依据某些标准对整个滤波器进行剪枝，同时保持网络的整体结构。 ...
随着深度学习技术的快速发展，数据挖掘和人工智能训练技术在实际应用中的重要性日益显现。尤其在多变量时间序列异常检测领域，现有方法尽管表现出色，但在面对含有噪声或污染的数据时，依旧存在显著的问题。基于此，本文提出了一种具有双内存模块的多尺度特征提取框架，用以解决上述挑战性问题。 研究背景 多变量时间序列（Multivariate Time Series, MTS）数据通常涉及多个传感器在物联网（IoT）应用中的实时运行状态。有效分析这些数据能够揭示隐藏的信息，对异常情况进行预警，以确保系统的安全运行。然而传统的异常检测方法，如局部异常因子（Local Outlier Factor, LOF）、单一分类支持向量机（One-Class Support Vector Machine, OCSVM）和孤...
背景介绍 多源无监督域适应（Multi-source Unsupervised Domain Adaptation, MUDA）旨在从多个已标记的源域向无标记的目标域转移知识。但是，现有的方法在处理源域和目标域的分布差异时，往往只是简单地寻求不同领域之间分布的混合或在决策过程中结合多个单源模型进行加权融合，未深入考察不同源域和目标域之间的全局和局部特征分布的差异。因此，为解决这一问题，该研究提出了一种全新的多源域适应的主动动态加权（Active Dynamic Weighting, ADW）方法。 论文来源 本文的研究工作由西安理工大学的刘龙、周博、赵志鹏和刘泽宁组成的团队完成，于2024年5月20日正式在线发表在《Neural Networks》杂志上，文章编号为177（2024）1063...
滑模控制在不确定分数阶反应扩散忆阻神经网络中的应用 近年来，随着神经网络在各种领域的广泛应用，对其控制和稳定性研究也越来越受到关注。分数阶（fractional-order, FO）忆阻神经网络（memristor neural networks, MNNs）由于其能够模拟生物神经突触的特点，在信息处理和学习等方面展示了独特的优势。然而，MNNs 在应用中面临诸多挑战，如系统的不确定性、信号传输的时滞以及复杂的时空演化特性，这些因素可能导致网络的不稳定和性能下降。因此，研究一种强鲁棒性的控制方法来解决这些问题具有重要的理论和实际意义。 在背景介绍部分，需要首先介绍忆阻器（memristor）的基本概念及其在神经网络中的应用。忆阻器作为电感、电容、以及电阻之外的第四类电子元件，由Chua于19...
背景与研究动因 在物理学中，了解流体运动对于理解我们的环境以及我们如何与其进行交互至关重要。然而，传统的流体模拟方法由于其高计算需求，在实际应用中存在局限性。近年来，物理学驱动的神经网络被认为是一种有前途的数据驱动方法来理解复杂的自然现象。本文的作者受到平滑粒子流体动力学（SPH）方法的启发，提出了一种基于注意力机制的双管道网络架构——DualFluidNet，用于解决流体模拟中的全局控制和物理定律约束之间平衡的问题。 论文信息来源 本文由来自西安交通大学软件工程学院的Yu Chen、Shuai Zheng、Menglong Jin、Yan Chang和Nianyi Wang撰写，发表在2024年《Neural Networks》期刊上。该论文提出并探讨了一种创新的3D流体模拟方法。 研究方...
合成辅助预训练和补丁级特征对齐的多类别宫颈病变细胞检测蒸馏 背景与研究意义 宫颈癌是一种严重威胁女性生命和健康的疾病。根据国际癌症研究机构（IARC）的数据显示，2020年全球新增宫颈癌病例约为60.4万例，死亡病例约为34.2万例（Sung et al., 2021）。早期诊断和筛查宫颈癌能够有效预防和治疗，而延误诊断则会增加严重并发症和生命危险的风险（Schiffman, Castle, Jeronimo, Rodriguez, & Wacholder, 2007）。目前，全球各地的健康组织均推荐进行早期筛查作为预防和治疗宫颈癌的一种有效方法（A. C. of Obstetricians, Gynecologists et al., 2010）。其中，液基薄层细胞检测（TCT）是检测宫颈...
在数据获取技术的不断发展下，获取大量包含多种特征的高维数据已经变得十分容易，比如图像、视觉等。然而，传统的机器学习方法尤其是基于向量和矩阵的方法，面临着维度灾难、计算复杂度增加以及模型过拟合等挑战。为了解决这些问题，张量作为一种多维数组表示方式，比向量和矩阵更具灵活性，能够更好地处理高维数据。因此，基于张量的机器学习方法逐渐成为学术研究的焦点。 支持张量机 (Support Tensor Machine, STM) 是一种有效的张量分类策略，受到支持向量机 (Support Vector Machine, SVM) 和交替投影技术以及多线性代数操作的启发。STM 旨在处理复杂的张量数据，通过寻找具有最大间隔的两类分类超平面，在分类任务中表现出优异的性能。尽管最近基于不同张量分解方法的一系列改...