耦合神经网络间歇性随机扰动下的快速同步控制及加密解密应用

耦合神经网络间歇性随机扰动下的快速同步控制及加密解密应用 一、背景及研究动机 近年来,神经网络被广泛应用于各种领域,包括数据分类、图像识别及组合优化问题等。在神经网络结构和性能方面,可以将其分为确定性神经网络和随机性神经网络。许多研究表明,加入噪声扰动的随机神经网络展示出比确定性神经网络更好的动态特性,即通过构建具有随机扰动的网络,可以更真实地模拟实际神经网络的模型。然而,当前大多数神经网络的研究主要集中在全时扰动模型上,尽管实际生活中更多的是间歇性随机扰动现象。 二、论文来源 这篇名为《Fast synchronization control and application for encryption-decryption of coupled neural networks with ...

InA: 在预训练语言模型上的抑制自适应方法

InA: 在预训练语言模型上的抑制自适应方法 预训练语言模型(Language Models, LMs)已经在自然语言处理(Natural Language Processing, NLP)任务中取得了显著的效果。然而,传统的微调方法存在冗余参数的问题,影响了效率和效果。为了应对这一挑战,本文提出了一种称为抑制自适应(Inhibition Adaptation, INA)的微调方法,用以减少添加的可调权重,并适当地再权重来自预训练语言模型的知识。 研究背景和问题 当前,微调预训练语言模型是一种常见的解决NLP下游任务的方法。然而,经典的微调方法需要更新所有的模型参数,这会导致冗余参数问题,尤其是当应用于新的下游任务时。冗余参数不仅影响模型的效率,还会阻碍模型性能的提升。为了解决这一问题,已有...

异质共存吸引子、大尺度幅度控制和中央循环忆阻神经网络的有限时间同步

异质共存吸引子、大尺度幅度控制和中央循环忆阻神经网络的有限时间同步 学术背景 忆阻器因其类似大脑突触的记忆性和非线性等物理特性,在类脑神经网络的混沌动力学研究中具有巨大理论和实际意义。近年来,随着大数据和人工智能领域的发展,传统的固定神经网络模型在映射大脑结构和功能上的局限性逐渐显现,这成为形态神经学研究进一步发展的主要障碍。自2008年HP实验室首次发展出物理非线性忆阻器以来,忆阻器在人工神经网络领域受到了广泛关注。忆阻神经网络(Memristive Neural Networks, MNNs)的构建对于研究人脑结构与功能之间的关系、分析人脑神经系统机制、以及增强人工智能决策、优化自适应控制和加速硬件计算都是极其重要的。 论文来源 这篇文章《Heterogeneous Coexisting...

适应性识别和优化不良区域以实现准确的立体匹配

适应性识别和优化不良区域以实现准确的立体匹配

适应性识别和优化不良区域以实现准确的立体匹配 研究背景和动机 随着计算机视觉技术的快速发展,立体匹配技术因其高准确性、成本效益及非侵入性,在机器人、航天、自动驾驶和工业制造等诸多领域中发挥了至关重要的作用。然而,立体匹配在处理遮挡区域、模糊区域时,像素对之间的一致性约束变得不可靠,导致隐藏对应关系探索的困难。因此,尽管在卷积神经网络(CNN)和基于变换器(Transformer)的研究进展迅速,多数方法在处理不良区域时仍存在性能瓶颈。为了应对这一挑战,研究团队引入了一种误差区域特征优化机制以提供上下文特征,从而改进不良区域的立体匹配效果。 研究来源和简介 本文题为”Adaptively Identify and Refine Ill-Posed Regions for Accurate St...

使用模型投影的联邦学习进行多中心疾病诊断

使用模型投影的联邦学习进行多中心疾病诊断

使用模型投影的联邦学习进行多中心疾病诊断 背景介绍 随着医学影像技术的快速发展,基于自动化诊断方法的研究在单中心数据集上表现出良好的性能。然而,这些方法在实际应用中往往难以泛化到其他医疗机构的数据。主要原因是这些方法通常假设不同医疗中心的数据是独立同分布(IID)的,而实际上不同中心由于使用不同的扫描仪和成像参数,导致数据分布非独立同分布(Non-IID)。此外,不同中心诊断的患者数量和种类也存在较大差异。因此,多中心的数据具有异质性,无法通过集中化学习(Centralized Learning)有效解决这一问题。 近年来,联邦学习(Federated Learning,FL)作为一种去中心化框架,为多中心协同训练全球模型提供了可能,同时还保留了各中心患者数据的隐私。然而,Non-IID数据...

自适应采样人工实际控制在约束系统非零和博弈中的应用

自适应采样人工实际控制在约束系统非零和博弈中的应用 背景 在现代工业和科研领域中,智能技术和控制系统的迅速发展,使得传统的控制方法难以满足保证系统稳定性和最小化能耗的严格要求。实际系统通常非常复杂,至少包含两个控制单元,并存在组件之间错综复杂的竞争与合作关系。这种情况下,设计的控制方案不仅要考虑单个控制器的效益最大化,还要实现全局优化。这类问题通常被视为非零和博弈(Non-Zero-Sum Games,NZSG),在多物理输入约束条件下,处理系统耦合动态是一个重要的研究难题。 论文来源 本文题为《Adaptive Sampling Artificial-Actual Control for Non-Zero-Sum Games of Constrained Systems》由Lu Liu和R...

多尺度视觉中枢引导的多模态神经机器翻译:文本感知的跨模态对比解耦

多尺度视觉中枢引导的多模态神经机器翻译:文本感知的跨模态对比解耦

多尺度视觉中枢引导的多模态神经机器翻译:文本感知的跨模态对比解耦 学术背景 多模态神经机器翻译(Multi-Modal Neural Machine Translation, MNMT)旨在将语言无关的视觉信息引入文本以提升机器翻译的性能。然而,由于图像和文本在模态上的显著差异,这两者之间不可避免会出现语义不匹配的问题。解决这些问题的目标在于通过使用分解的多尺度视觉信息作为跨语言中枢,提高不同语言之间的对齐,从而改进MNMT的表现。 论文来源 这篇论文由朱俊俊、苏瑞和叶俊杰等研究人员撰写,作者分别来自昆明理工大学信息工程与自动化学院、云南大学信息科学与工程学院以及云南省人工智能重点实验室。论文将在2024年发表于著名期刊”Neural Networks”。 研究流程 研究工作主要分为以下几个...

一种可视化脑表面神经元活动的脑电图微显示器

一种可视化脑表面神经元活动的脑电图微显示器

一种可视化脑表面神经元活动的脑电图微显示器 背景介绍 当前脑外科手术的功能性映射主要依赖于神经外科医生与电生理学家之间的语言交流。这些过程耗时且存在有限的分辨率。此外,用于测量脑活动的电极网格分辨率较低,且难以与脑表面充分贴合。为了更有效地在手术过程中实时监测和显示脑表面神经元活动,本研究提出并开发了一种具有2048个氮化镓(GaN)发光二极管(LED)的脑内电生理学微型显示屏(iEEG microdisplay)。 研究概览 本文由Youngbin Tchoe等人所写,分别隶属于加利福尼亚大学圣地亚哥分校的电子与计算机工程系、生物医学工程系、麻醉学系、神经外科系以及其他科室。该论文发表于2024年4月24日的《Science Translational Medicine》。 研究工作流程 ...

具备完全神经形态视觉与控制的自动驾驶飞行器

具备完全神经形态视觉与控制的自动驾驶飞行器

具备完全神经形态视觉与控制的自动驾驶飞行器 背景与研究动机 过去十年间,深度人工神经网络(ANNs)在人工智能领域取得了巨大进步,特别是在视觉处理方面。然而,这些先进的视觉处理技术在实现高精确度的同时,往往需要大量且耗能的计算资源,这使得其在小型飞行机器人等资源受限的情况下难以应用。 针对这一问题,神经形态硬件通过模仿生物大脑的稀疏、异步特性,实现了更高效的感知与处理能力。在机器人领域,神经形态硬件中的事件驱动相机和脉冲神经网络(SNNs)具有低延迟、低能耗的潜力。然而,当前嵌入式神经形态处理器的限制和脉冲神经网络训练的挑战使得这些技术主要应用于低维度的感知和动作任务。 为解决这些问题,本文展示了一个全神经形态的视觉到控制的流水线,用于控制飞行中的无人机。具体而言,我们训练了一个脉冲神经网络...

深度强化学习为双足机器人赋能敏捷的足球技能

深度强化学习为双足机器人赋能敏捷的足球技能

深度强化学习为双足机器人赋能敏捷的足球技能 背景介绍 智能体在物理世界中展现出敏捷、灵活和理解能力,是人工智能(Artificial Intelligence,AI)研究长期以来的目标之一。然而,动物和人类不仅能流畅地完成复杂的身体动作,还能感知和理解环境,并通过身体在世界中实现复杂的目标。从历史上看,创造具有复杂运动能力的智能化身体代理的尝试由来已久,无论是在仿真环境中还是在现实中。伴随近几年技术的加速进步,尤其是基于学习的方法对这一领域的推进,深度强化学习(Deep Reinforcement Learning,Deep RL)已经证明其能够高效解决复杂的运动控制问题,无论是对于仿真角色还是物理机器人。 然而,对于人形和双足机器人,由于其在稳定性、机器人安全性、自由度数量和硬件可用性方面...