非侵入性胶质瘤分级研究综述：基于知识蒸馏的轻量级卷积神经网络 背景介绍 胶质瘤是中枢神经系统的主要肿瘤，早期检测非常重要。世界卫生组织（WHO）将胶质瘤分为Ⅰ至Ⅳ级，Ⅰ和Ⅱ级为低级胶质瘤（LGG），Ⅲ和Ⅳ级为高级胶质瘤（HGG）。准确分类胶质瘤对于生存率评估至关重要。 磁共振成像（MRI）是医学领域诊断和治疗胶质瘤的常用方法。目前，许多学者应用机器学习和深度学习方法进行胶质瘤分类。例如，Zacharaki等人成功应用支持向量机（SVM）算法在MRI图像中分类胶质瘤。而Fatemeh等人采用卷积神经网络（CNN）对MRI图像中的胶质瘤进行分类。遗憾的是，这些研究多集中在提高分类精度，但高参数的CNN架构难以在实际医疗环境中应用。此外，由于胶质瘤数据集较小，他们只能使用具有较少参数的CNN，因而...

近年来，隐私保护和大规模数据传输等应用场景对数据的不可访问性提出了严峻挑战，因此，研究人员通过提出数据无关知识蒸馏（Data-Free Knowledge Distillation，简称DFKD）方法，来解决这些问题。知识蒸馏（Knowledge Distillation，简称KD）是一种训练轻量级模型（学生模型）使其从深度预训练模型（教师模型）中学习知识的方法。然而，传统的知识蒸馏方法要求具有可用的训练数据，这在隐私保护和大规模数据传输场景下是不现实的。本文提出了一种新的DFKD方法——Adaptive Data-Free Knowledge Distillation（简称AdaDFKD），旨在解决现有DFKD方法中目标分布静态和实例级分布学习的局限性，通过建立和利用伪样本间的关系，实现对...

以原型为基础的样本加权蒸馏统一框架应用于缺失模态情感分析 研究背景 情感分析是自然语言处理(NLP)中的一个重要领域，随着社交媒体平台的发展，人们越来越倾向于通过简短的视频片段来表达他们的情感。这导致多模态数据的快速增长。然而，现实生活中经常会遇到模态缺失的情况，例如由于音频丢失、摄像头遮挡或语音转录错误等问题。在这种情况下，对缺失模态的情感分析成为一个具有挑战性的重要议题。多模态的异质性在尝试对所有模态在多模态网络上优化相同目标时，往往导致优化的不平衡问题，尤其是在模态缺失的情况下。现有的研究在处理模态缺失时，常常忽略了网络优化的不平衡问题。 研究来源 这篇论文由山东师范大学信息科学与工程学院的张玉娟、刘芳娥、庄旭强、侯英和张玉灵共同撰写，论文发表于2024年5月20日的《Neural N...

合成辅助预训练和补丁级特征对齐的多类别宫颈病变细胞检测蒸馏 背景与研究意义 宫颈癌是一种严重威胁女性生命和健康的疾病。根据国际癌症研究机构（IARC）的数据显示，2020年全球新增宫颈癌病例约为60.4万例，死亡病例约为34.2万例（Sung et al., 2021）。早期诊断和筛查宫颈癌能够有效预防和治疗，而延误诊断则会增加严重并发症和生命危险的风险（Schiffman, Castle, Jeronimo, Rodriguez, & Wacholder, 2007）。目前，全球各地的健康组织均推荐进行早期筛查作为预防和治疗宫颈癌的一种有效方法（A. C. of Obstetricians, Gynecologists et al., 2010）。其中，液基薄层细胞检测（TCT）是检测宫颈...

医学影像分割的模型异质半监督联邦学习 背景介绍 医学图像分割在临床诊断中具有至关重要的作用，它帮助医生识别和分析病情。然而，该任务通常面临敏感数据、隐私问题及昂贵的标注费用等挑战。尽管当前研究主要聚焦于个性化协作训练医学分割系统，但忽视了获取分割标注是耗时且费力的。如何在保持本地模型个性化的同时平衡标注成本和分割性能，已成为研究的一个重要方向。因此，本研究引入了一种新颖的模型异质半监督联邦学习框架。 论文来源 这篇论文题为“Model-Heterogeneous Semi-Supervised Federated Learning for Medical Image Segmentation”，由Yuxi Ma、Jiacheng Wang、Jing Yang和Liansheng Wang共同...

平衡特征对齐与统一性来解决小样本分类问题 背景与动机 少样本学习（Few-Shot Learning, FSL）的目标是在只有少量新类别（novel classes）样本的条件下，正确地对新样本进行识别。现有的少样本学习方法主要通过最大化特征表示与其对应标签之间的信息，来学习从基础类别（base classes）中可转移的知识。然而，这种方法可能会出现“监督崩溃”（supervision collapse）的问题，因为它对基础类别存在偏差。本文提出了一种解决方案，通过保留数据的内在结构，并学习一种适用于新类别的广义模型。本研究依据信息最大化原则，最大化样本与其特征表示之间以及特征表示与其类别标签之间的互信息（mutual information, MI），以在特征表示中平衡类特异性信息的捕获...

通过替代双教师自调教学实现弱监督语义图像分割 背景介绍 随着计算机视觉领域的不断发展，语义分割成为了其中一个重要而活跃的研究方向。传统的语义分割方法依赖手工标记的像素级标签，然而获取这些精确标注通常需要大量的人力和时间成本。为了解决这一问题，近年来提出了弱监督语义分割（Weakly Supervised Semantic Segmentation，WSSS），其目标是在最小化人工标注的前提下，利用弱标注信息（如图像标签、边框、涂鸦等）实现高效的语义分割。 本文研究的是基于图像级标签的弱监督语义分割方法，这是所有 WSSS 类别中最具挑战性的任务。当前方法主要依赖于图像分类模型生成伪分割掩膜（Pseudo Segmentation Masks，PSMs），但这些模型特征主要用于分类任务，导致伪...