基于深度学习的多模态数据整合在乳腺癌无病生存预测中的应用

乳腺癌是全球女性中最常见的恶性肿瘤之一,尽管早期干预和适当治疗已经显著提高了患者的生存率,但仍有约30%的病例会复发并发生远处转移,导致5年生存率低于23%。传统的临床预测方法,如生物标志物、临床影像和分子检测,虽然具有一定的价值,但其敏感性低、成本高、可用性有限,且存在患者内部的异质性等问题。因此,开发新的方法来可靠地预测术后乳腺癌患者的复发风险和生存率,以便及时干预和改善整体预后,成为当前研究的迫切需求。 近年来,人工智能(AI)技术的快速发展为乳腺癌的预后预测提供了新的可能性。深度学习作为一种强大的AI技术,能够从复杂的多模态数据中提取有价值的信息,结合病理图像、分子数据和临床信息,有望显著提高乳腺癌无病生存(Disease-Free Survival, DFS)的预测准确性。然而,现...

基于Lidar引导的视觉中心3D物体检测的几何预训练

基于Lidar引导的视觉中心3D物体检测的几何预训练

基于LiDAR引导的几何预训练方法提升视觉中心3D目标检测性能 背景介绍 近年来,多摄像头3D目标检测在自动驾驶领域受到了广泛关注。然而,基于视觉的方法在从RGB图像中精确提取几何信息方面仍面临挑战。现有的方法通常利用深度相关任务对图像骨干网络进行预训练以获取空间信息,但这些方法忽略了视角转换的关键问题,导致空间知识在图像骨干和视角转换模块之间存在错位,从而影响了性能。为了解决这一问题,本文提出了一种新颖的几何感知预训练框架——GAPretrain。 论文来源 该论文由Linyan Huang, Huijie Wang, Jia Zeng等作者撰写,他们分别来自厦门大学人工智能系、上海AI实验室OpenDriveLab以及上海交通大学。论文发表于《International Journal ...

模块化脑机接口用于神经记录、神经刺激和药物递送

模块化脑机接口用于神经记录、神经刺激和药物递送

模块化脑机接口:神经记录、神经刺激与药物递送的创新突破 学术背景 脑机接口(Brain-Machine Interface, BMI)是神经科学与临床医学中的重要工具,能够实现大脑与外部世界之间的电荷、物质与信息交互,广泛应用于神经解码、神经系统疾病的诊断与治疗以及脑科学研究。随着神经科学的发展,多模态脑机接口(multimodal BMI)引起了广泛关注,这类接口能够同时支持神经记录、神经刺激和药物递送等多种功能。然而,现有的多模态脑机接口大多针对特定场景设计,具有高度集成的固定配置,难以适应不同实验需求。 针对这一问题,Sheng等人提出了一种模块化的多模态脑机接口,旨在通过灵活的模块化设计,使脑机接口能够根据不同实验需求调整配置、模态和功能。这种设计不仅提高了设备的适应性,还为需要多种...

解释性Transformer模型结合PET与表格数据对滤泡性淋巴瘤的病理分级与预后:一项多机构数字活检研究

用PET影像与临床数据融合的Transformer模型:预测滤泡型淋巴瘤病理分级与预后的一项多中心数字活检研究 学术背景 滤泡型淋巴瘤(Follicular Lymphoma, FL)是西方国家最常见的惰性非霍奇金淋巴瘤,约占新诊断非霍奇金淋巴瘤的30%。根据世界卫生组织(WHO)的分类,滤泡型淋巴瘤分为三个病理等级(1-3级),等级的划分主要依据每高倍视野(High-Power Field, HPF)中的中心母细胞(Centroblasts)数量。然而,3级又进一步细分为3a级和3b级,其中3b级具有更具侵略性的生物学行为,患者预后较差,其治疗策略与弥漫大B细胞淋巴瘤(Diffuse Large B-Cell Lymphoma, DLBCL)相似。相较而言,1-2级患者通常病情进展缓慢,部...

跨九种模态的生物医学对象联合分割、检测和识别的基础模型

解码生物医学图像分析的未来:多模态联合分割、检测和识别的基础模型 背景介绍 在生物医学研究中,图像分析已成为推动生物医学发现的重要工具,能够跨越从亚细胞器到器官层面的多尺度研究。然而,传统的生物医学图像分析方法大多将分割(segmentation)、检测(detection)和识别(recognition)作为独立的任务分别处理,这种割裂式的方法不仅限制了任务间交互的信息共享,也增加了处理复杂多样的生物医学图像数据的难度。 例如,传统的分割方法通常依赖人工指定的边界框(bounding box)来标注感兴趣目标的区域,这对形状不规则或数量庞大的目标(如病理全片图像中的所有细胞)来说是具有挑战性的。此外,忽略目标检测和语义识别(metadata-like semantic informatio...

ONIX:用于自然行为期间多模态神经记录和扰动的统一开源平台

用于自然行为的多模态神经记录与干扰的开放式平台ONIX 研究背景与意义 近年来,神经科学领域在大规模神经群体记录技术和动物行为研究方面取得了显著进展。然而,这两个需求之间始终存在冲突。为了获得高质量的神经数据,许多研究采用固定头部的实验方法,这限制了动物的自然行为表现。然而,越来越多的研究表明,自然行为中的神经活动与固定实验中的表现显著不同。比如,运动行为会影响某些被认为主要用于感官处理的脑区活动,而学习策略在固定和自由活动状态下也存在明显差异。这些发现表明,要研究复杂的神经功能如社会互动、学习和认知,必须在动物自然行为背景下进行神经记录。 传统记录方法多采用笨重的设备及电缆,不仅对动物的运动造成限制,也难以实现长时间记录或大空间实验。这尤其对小型实验动物(如小鼠)是一个巨大挑战。因此,设计...

GPT-4V在放射学中的定量评估:多模态和多解剖区域能力

大型视觉语言模型在放射学中的应用:GPT-4V的多模态与多解剖区域能力定量评估 学术背景 近年来,大型语言模型(Large Language Models, LLMs)如OpenAI的ChatGPT在文本生成领域取得了显著进展。这些模型基于Transformer架构,通过海量文本数据进行训练,能够在无需大量示例的情况下生成可信的文本输出(few-shot learning和zero-shot learning)。LLMs在医学领域的应用也日益广泛,例如将自由文本的放射学报告转换为标准化模板,以及从肺癌的CT报告中挖掘数据。此外,LLMs在放射学考试中的表现也显示出其具备一定的“知识”储备,并能够帮助简化放射学报告。 随着GPT-4V(GPT-4 with Vision)的推出,模型不仅能够处...

通过空间-频率线索挖掘方法实现低光照RGB-T场景中的显著目标检测

通过空间-频率线索挖掘方法实现低光照RGB-T场景中的显著目标检测

通过空间-频率线索挖掘方法实现低光照RGB-T场景中的显著目标检测 显著目标检测(Salient Object Detection, SOD)在计算机视觉领域具有重要地位,其主要任务是在图像中识别出最具视觉吸引力的区域或物体。尽管在过去几十年中,SOD模型在正常光照环境中取得了一定进展,但在低光环境下仍面临严峻挑战。在低光环境下,由于光子不足,导致图像细节缺失,严重影响了SOD的性能。而这种挑战在智能监控、自动驾驶等实际应用中显得尤为突出。 近几年来,RGB-T(可见光和热红外图像)系统因其在光线不足条件下对热红外不变性的特点,引起了越来越多研究人员的关注。借助RGB-T图像,研究人员开发了一些SOD模型,通过融合可见光和热红外线索,在一定程度上缓解了低光环境下的目标检测问题。然而,这些现有...

颞叶癫痫中的非典型连接组拓扑和信号流动

颞叶癫痫中的非典型连接组拓扑和信号流动

癫痫是神经科最常见的疾病之一,其中颞叶癫痫(temporal lobe epilepsy, TLE)是成人最常见的药物难治性癫痫类型。在这一领域,已有很多研究指向TLE不仅涉及内侧颞叶的病理变化,还影响到大脑广泛的结构和功能。在这篇关于TLE的科学报告中,我们将详细介绍一篇由Kexie等人撰写,并在《Progress in Neurobiology》期刊上发表的研究论文。这篇论文探索了TLE患者大脑功能拓扑结构和信号流动模式的异常,提供了新的洞见,有助于我们更深入地了解TLE相关的颞叶病理和认知功能障碍。 研究背景 颞叶癫痫是最常见的药物耐受性癫痫,主要与内侧颞叶病理相关。然而,近期研究表明,TLE对大脑广泛结构和功能的影响超越了颞叶,尤其是涉及到认知功能中的记忆能力。现有的研究发现,TLE...