通过掩码图像建模预训练探索轻量级视觉Transformer的实验研究

一种通过掩码图像建模预训练探索强轻量级视觉Transformer的实验研究 学术背景 近年来,自监督学习(self-supervised learning, SSL)在计算机视觉领域取得了显著进展。特别是掩码图像建模(masked image modeling, MIM)预训练方法在大规模视觉Transformer(vision transformers, ViTs)上的成功应用,使得基于这些模型的下游任务性能得到了极大提升。然而,现有的研究主要集中在大型ViTs上,对于轻量级ViTs的预训练方法及其效果的研究相对较少。此外,尽管许多研究致力于设计复杂的轻量级ViTs架构以提高性能,但很少有工作关注如何优化预训练策略来进一步提升现有轻量级模型的表现。本文旨在探讨MIM预训练能否同样有效应用于...

利用AlphaFold高通量发现抑制性蛋白质片段的研究

高精度预测蛋白片段抑制活性的新方法:FragFold的应用 学术背景 蛋白质相互作用在细胞生命活动中扮演着至关重要的角色,而小肽(peptides)或蛋白片段(protein fragments)可以通过与特定蛋白界面结合,调节蛋白功能,甚至作为抑制剂发挥作用。近年来,高通量实验技术的发展使得在活细胞中大规模测量蛋白片段的抑制活性成为可能。然而,迄今为止,尚未有相应的计算方法能够预测哪些蛋白片段能够与目标蛋白结合并发挥抑制作用,更不用说预测它们的结合模式。这一领域的研究空白促使研究人员开发新的计算工具来解决这一问题。 AlphaFold的推出为蛋白质结构预测带来了革命性的突破,但其在预测蛋白片段与全蛋白结合方面的应用仍然有限。为了填补这一空白,Andrew Savinov等研究人员开发了一种...

利用小波识别金融价格跳跃的新分类

基于小波分析识别金融价格跳跃的新类别研究报告 学术背景 金融市场中的价格跳跃(price jumps)是指在极短时间内价格发生显著波动的现象,通常由外生因素(如突发新闻)或内生因素(市场内部反馈机制)引起。区分这两种不同类型的价格跳跃对于理解市场动态、预测极端事件以及制定有效的监管策略至关重要。然而,现有的研究方法多依赖于监督学习,需要明确的标签(如新闻事件)来分类跳跃,这在实际应用中存在局限性,因为许多价格跳跃可能并没有明确的新闻背景。 为了更好地识别和分类价格跳跃,特别是那些没有明显外生触发的内生跳跃,研究人员提出了一种无监督的分类框架,利用多尺度小波表示(multiscale wavelet representation)来分析时间序列。这一框架不仅能够捕捉价格跳跃的时间不对称性(ti...

通过组合实现分布外泛化:基于Transformer中归纳头的研究

大语言模型中的分布外泛化与组合机制研究 论文背景 近年来,大语言模型(Large Language Models, LLMs)如 GPT-4 在处理新颖任务时表现出惊人的创造力,通常只需少数示例即可解决问题。这些任务要求模型在不同于训练数据的分布上进行泛化,即所谓的“分布外泛化”(Out-of-Distribution Generalization, OOD Generalization)。尽管 LLMs 取得了巨大成功,但其如何实现分布外泛化仍是一个未解之谜。本文旨在通过研究 LLMs 在隐藏规则生成的任务中的表现,特别是通过聚焦于一种称为“归纳头”(Induction Heads, IHs)的组件,揭示分布外泛化与组合机制之间的关系。 本文的研究主要针对 LLMs 在符号推理等任务中的表...

具有不规则约束的迟滞非线性系统的自适应量化控制及其在压电定位平台中的应用

压电定位平台的滞回非线性系统自适应量化控制研究 背景介绍 在现代高精度定位系统中,智能材料(如压电陶瓷)因其优异的性能被广泛应用于微纳制造、软机器人等领域。然而,这些材料固有的滞回非线性(Hysteresis Nonlinearity)特性使得系统的输入与输出呈现复杂的循环关系,导致定位不准确,甚至可能引发系统不稳定。因此,如何有效控制滞回非线性系统成为当前研究的热点问题。此外,实际应用中还存在不规则约束(Irregular Constraints)的问题,即系统在某些时刻受到约束,而在其他时刻则不受约束。传统的控制方法通常仅适用于全程约束或无约束的情况,无法有效处理这种间歇性约束。为此,Heyu Hu等研究者提出了一种自适应量化控制方案,旨在解决滞回非线性系统在存在不规则约束情况下的跟踪控...

外骨骼辅助建筑工人站立与跪姿平衡及工作任务评估

建筑工人穿戴膝关节外骨骼辅助平衡与工作任务评估 背景介绍 建筑工人在危险的工作环境中面临着严重的安全和健康风险,尤其是在高处施工时,长时间的站立和跪姿可能会导致膝关节损伤、肌肉骨骼疾病以及视觉干扰等因素影响工人的平衡能力。为了防止跌倒和其他工伤事故,研究人员开始关注如何通过技术手段提升建筑工人在这些高风险环境中的平衡能力。膝关节外骨骼(knee exoskeleton)作为一种可穿戴设备,被认为是一种有潜力的干预措施,可以减少膝关节的负荷,帮助工人在各种工作姿势中保持平衡。 本研究的核心在于探讨下肢关节,特别是膝关节,在站立和跪姿中对神经平衡控制策略的影响。同时,研究还评估了高处环境和膝关节外骨骼对建筑工人姿势平衡及焊接任务表现的影响。通过虚拟现实(VR)和混合现实(MR)技术,研究人员模拟...

解剖病理学中的自动化组织分析策略:基准标记集成与多表面组织比较

自动化策略在解剖病理学组织分析中的应用:基准标记整合与多表面组织比较 背景介绍 在解剖病理学实验室中,许多流程仍依赖于手动操作,尤其是在石蜡包埋组织块(Paraffin-Embedded Tissue Blocks, PETBs)的制备和处理过程中。手动操作不仅可能导致样本处理不一致,还可能引发样本错误识别或丢失,进而影响诊断的准确性和效率。为了应对这一问题,自动化技术被引入以提升实验室的效率、减少人为错误,并确保样本处理的一致性。 然而,现有的自动化解决方案仍面临诸多挑战,尤其是在组织样本的追踪和特定区域的识别方面。例如,在处理过程中,石蜡包埋组织块中的特定区域可能需要在后续实验室分析中进一步研究(如肿瘤治疗中的分子分型),但缺乏可靠的参考点使得这一过程复杂且容易出错。因此,研究团队提出了...

针对具有消失控制增益的切换非线性系统的动态事件触发自适应跟踪控制

动态事件触发自适应控制在非线性切换系统中的应用研究 学术背景介绍 随着人工智能技术的快速发展,非线性切换系统(Switched Nonlinear Systems)的研究受到了广泛关注。切换系统是一类由多个子系统组成的复杂系统,系统在不同的子系统之间进行切换,每个子系统的动态行为由不同的微分方程或差分方程描述。这类系统在工程实践中有着广泛的应用,例如电力系统、机器人控制、自动驾驶等。然而,由于系统中存在不确定性、输入饱和(Input Saturation)和控制增益消失(Vanishing Control Gains)等问题,非线性切换系统的控制设计面临着巨大的挑战。 输入饱和是指系统的控制输入信号在某些情况下会受到物理限制,导致系统性能下降甚至不稳定。控制增益消失则意味着在某些时刻,系统的...

基于折扣值迭代的零和博弈自适应评判设计及其应用验证

基于折扣价值迭代的自适应评判设计在零和游戏中的应用与验证 研究背景 在控制领域,最优控制(Optimal Control)是一个核心研究方向,旨在设计和分析控制系统以优化系统性能。随着系统复杂度的增加,传统的基于哈密顿-雅可比-贝尔曼方程(Hamilton-Jacobi-Bellman, HJB)的最优控制方法面临“维度灾难”(Curse of Dimensionality)问题。为了应对这一挑战,研究者们提出了自适应动态规划(Adaptive Dynamic Programming, ADP)方法,结合强化学习(Reinforcement Learning)和函数逼近(Function Approximation)等技术,有效提升了复杂系统的控制能力。 零和游戏(Zero-Sum Game...

基于测地距离场的五轴连续扫描方法用于多入口内壁表面检测

基于测地距离场的五轴连续扫描方法用于多入口内壁表面检测 背景介绍 在工业应用中,多入口内壁(MEI, Multi-Entrance Inwall)表面因其复杂的拓扑结构和潜在的碰撞风险,精确检测这些表面一直是一个挑战。传统的点对点检测方法效率较低,而近年来开发的五轴连续扫描技术则显著提高了检测效率,为大面积、复杂表面的检测提供了新的可能性。然而,目前五轴连续扫描的路径规划仍然高度依赖人工干预,尤其是针对MEI表面时,由于复杂的碰撞场景和多入口结构,自动化路径生成尤为困难。为此,本文提出了一种基于测地距离场(GDF, Geodesic Distance Field)的新方法,旨在自动、高效地生成五轴连续扫描路径,解决MEI表面检测中的路径规划和碰撞规避问题。 论文来源 本论文由 Yuzhu D...