异构霍普菲尔德神经网络的研究:适应性激活函数与忆阻器结合的动态行为分析

异构霍普菲尔德神经网络的研究:适应性激活函数与忆阻器结合的动态行为分析 本研究背景探讨了神经网络中非线性因素对系统动态行为的影响。尤其是激活函数和忆阻器(memristor)做为非线性因素,常被用于构建混沌系统和模拟突触行为。霍普菲尔德神经网络(Hopfield Neural Network, HNN)因其独特的网络结构和生成复杂脑样动态的能力,而受到广泛关注。再者,当前研究多集中于使用固定激活函数的神经元对系统动态的影响,而对异构激活函数组合的研究较少。 本文由Chunhua Wang、Junhui Liang和Quanli Deng撰写,分别来自湖南大学计算机与电子工程学院和粤港澳大湾区研究院。文章在2024年1月28日提交,2024年5月21日被《Neural Networks》期刊接...

通过空间-频率线索挖掘方法实现低光照RGB-T场景中的显著目标检测

通过空间-频率线索挖掘方法实现低光照RGB-T场景中的显著目标检测

通过空间-频率线索挖掘方法实现低光照RGB-T场景中的显著目标检测 显著目标检测(Salient Object Detection, SOD)在计算机视觉领域具有重要地位,其主要任务是在图像中识别出最具视觉吸引力的区域或物体。尽管在过去几十年中,SOD模型在正常光照环境中取得了一定进展,但在低光环境下仍面临严峻挑战。在低光环境下,由于光子不足,导致图像细节缺失,严重影响了SOD的性能。而这种挑战在智能监控、自动驾驶等实际应用中显得尤为突出。 近几年来,RGB-T(可见光和热红外图像)系统因其在光线不足条件下对热红外不变性的特点,引起了越来越多研究人员的关注。借助RGB-T图像,研究人员开发了一些SOD模型,通过融合可见光和热红外线索,在一定程度上缓解了低光环境下的目标检测问题。然而,这些现有...

基于自适应集成分解和跨模态注意力融合的电网故障诊断框架

基于自适应集成分解与跨模态注意力融合的电网故障诊断框架 研究背景 随着现代电力系统规模的不断扩大和复杂化,电网的稳定运行面临着越来越严峻的挑战。电网故障的发生可能由自然灾害、设备故障以及局部电网结构薄弱等多个因素导致。这些故障不仅会影响电力用户的正常工作,还可能导致大面积停电,进而引发重大损失。美国能源信息管理局的数据显示,美国每年平均发生超过500起电网故障事件,影响数百万用户的电力供应。在中国,因电网故障造成的年均电力损失超过百亿人民币。由此可见,快速准确地检测和诊断电网故障类型已成为电力系统研究中的关键课题之一。 研究来源 本文题为“a grid fault diagnosis framework based on adaptive integrated decomposition a...

耦合神经网络间歇性随机扰动下的快速同步控制及加密解密应用

耦合神经网络间歇性随机扰动下的快速同步控制及加密解密应用 一、背景及研究动机 近年来,神经网络被广泛应用于各种领域,包括数据分类、图像识别及组合优化问题等。在神经网络结构和性能方面,可以将其分为确定性神经网络和随机性神经网络。许多研究表明,加入噪声扰动的随机神经网络展示出比确定性神经网络更好的动态特性,即通过构建具有随机扰动的网络,可以更真实地模拟实际神经网络的模型。然而,当前大多数神经网络的研究主要集中在全时扰动模型上,尽管实际生活中更多的是间歇性随机扰动现象。 二、论文来源 这篇名为《Fast synchronization control and application for encryption-decryption of coupled neural networks with ...

InA: 在预训练语言模型上的抑制自适应方法

InA: 在预训练语言模型上的抑制自适应方法 预训练语言模型(Language Models, LMs)已经在自然语言处理(Natural Language Processing, NLP)任务中取得了显著的效果。然而,传统的微调方法存在冗余参数的问题,影响了效率和效果。为了应对这一挑战,本文提出了一种称为抑制自适应(Inhibition Adaptation, INA)的微调方法,用以减少添加的可调权重,并适当地再权重来自预训练语言模型的知识。 研究背景和问题 当前,微调预训练语言模型是一种常见的解决NLP下游任务的方法。然而,经典的微调方法需要更新所有的模型参数,这会导致冗余参数问题,尤其是当应用于新的下游任务时。冗余参数不仅影响模型的效率,还会阻碍模型性能的提升。为了解决这一问题,已有...

异质共存吸引子、大尺度幅度控制和中央循环忆阻神经网络的有限时间同步

异质共存吸引子、大尺度幅度控制和中央循环忆阻神经网络的有限时间同步 学术背景 忆阻器因其类似大脑突触的记忆性和非线性等物理特性,在类脑神经网络的混沌动力学研究中具有巨大理论和实际意义。近年来,随着大数据和人工智能领域的发展,传统的固定神经网络模型在映射大脑结构和功能上的局限性逐渐显现,这成为形态神经学研究进一步发展的主要障碍。自2008年HP实验室首次发展出物理非线性忆阻器以来,忆阻器在人工神经网络领域受到了广泛关注。忆阻神经网络(Memristive Neural Networks, MNNs)的构建对于研究人脑结构与功能之间的关系、分析人脑神经系统机制、以及增强人工智能决策、优化自适应控制和加速硬件计算都是极其重要的。 论文来源 这篇文章《Heterogeneous Coexisting...

适应性识别和优化不良区域以实现准确的立体匹配

适应性识别和优化不良区域以实现准确的立体匹配

适应性识别和优化不良区域以实现准确的立体匹配 研究背景和动机 随着计算机视觉技术的快速发展,立体匹配技术因其高准确性、成本效益及非侵入性,在机器人、航天、自动驾驶和工业制造等诸多领域中发挥了至关重要的作用。然而,立体匹配在处理遮挡区域、模糊区域时,像素对之间的一致性约束变得不可靠,导致隐藏对应关系探索的困难。因此,尽管在卷积神经网络(CNN)和基于变换器(Transformer)的研究进展迅速,多数方法在处理不良区域时仍存在性能瓶颈。为了应对这一挑战,研究团队引入了一种误差区域特征优化机制以提供上下文特征,从而改进不良区域的立体匹配效果。 研究来源和简介 本文题为”Adaptively Identify and Refine Ill-Posed Regions for Accurate St...

使用模型投影的联邦学习进行多中心疾病诊断

使用模型投影的联邦学习进行多中心疾病诊断

使用模型投影的联邦学习进行多中心疾病诊断 背景介绍 随着医学影像技术的快速发展,基于自动化诊断方法的研究在单中心数据集上表现出良好的性能。然而,这些方法在实际应用中往往难以泛化到其他医疗机构的数据。主要原因是这些方法通常假设不同医疗中心的数据是独立同分布(IID)的,而实际上不同中心由于使用不同的扫描仪和成像参数,导致数据分布非独立同分布(Non-IID)。此外,不同中心诊断的患者数量和种类也存在较大差异。因此,多中心的数据具有异质性,无法通过集中化学习(Centralized Learning)有效解决这一问题。 近年来,联邦学习(Federated Learning,FL)作为一种去中心化框架,为多中心协同训练全球模型提供了可能,同时还保留了各中心患者数据的隐私。然而,Non-IID数据...

自适应采样人工实际控制在约束系统非零和博弈中的应用

自适应采样人工实际控制在约束系统非零和博弈中的应用 背景 在现代工业和科研领域中,智能技术和控制系统的迅速发展,使得传统的控制方法难以满足保证系统稳定性和最小化能耗的严格要求。实际系统通常非常复杂,至少包含两个控制单元,并存在组件之间错综复杂的竞争与合作关系。这种情况下,设计的控制方案不仅要考虑单个控制器的效益最大化,还要实现全局优化。这类问题通常被视为非零和博弈(Non-Zero-Sum Games,NZSG),在多物理输入约束条件下,处理系统耦合动态是一个重要的研究难题。 论文来源 本文题为《Adaptive Sampling Artificial-Actual Control for Non-Zero-Sum Games of Constrained Systems》由Lu Liu和R...

多尺度视觉中枢引导的多模态神经机器翻译:文本感知的跨模态对比解耦

多尺度视觉中枢引导的多模态神经机器翻译:文本感知的跨模态对比解耦

多尺度视觉中枢引导的多模态神经机器翻译:文本感知的跨模态对比解耦 学术背景 多模态神经机器翻译(Multi-Modal Neural Machine Translation, MNMT)旨在将语言无关的视觉信息引入文本以提升机器翻译的性能。然而,由于图像和文本在模态上的显著差异,这两者之间不可避免会出现语义不匹配的问题。解决这些问题的目标在于通过使用分解的多尺度视觉信息作为跨语言中枢,提高不同语言之间的对齐,从而改进MNMT的表现。 论文来源 这篇论文由朱俊俊、苏瑞和叶俊杰等研究人员撰写,作者分别来自昆明理工大学信息工程与自动化学院、云南大学信息科学与工程学院以及云南省人工智能重点实验室。论文将在2024年发表于著名期刊”Neural Networks”。 研究流程 研究工作主要分为以下几个...