基于课程引导的自监督动态异质网络表示学习

学术背景 在现实世界中,网络数据(如社交网络、引文网络等)通常包含多种类型的节点和边,并且这些网络结构会随着时间的推移而动态变化。为了更好地分析这些复杂的网络,研究者们提出了网络嵌入(network embedding)技术,旨在将网络中的节点和边表示为固定长度的向量,以便于后续的分析任务,如节点分类、链接预测等。然而,传统的网络嵌入模型在处理动态异质网络(dynamic heterogeneous networks)时面临诸多挑战,尤其是如何有效地捕捉网络结构的动态变化和异质性。 近年来,Transformer模型在自然语言处理(NLP)领域取得了显著的成功,但其在网络嵌入中的应用仍处于起步阶段。Transformer模型通过自注意力机制(self-attention)能够捕捉序列数据中的...

低资源领域适应的神经机器翻译中的情景课程学习

Epi-Curriculum:用于低资源领域自适应的情景课程学习 研究背景与问题陈述 近年来,神经机器翻译 (Neural Machine Translation, NMT) 成为自然语言处理技术领域的标杆。然而,尽管神经机器翻译在处理大规模并行语料库任务上的表现已接近人类翻译水平,但其在低资源和新领域的表现仍然不尽如人意。这种不足主要体现在两个方面:模型对领域切换的鲁棒性差以及在目标领域小数据集条件下的适应能力较低。现有研究往往仅解决其中一个问题,比如增强领域切换的鲁棒性或提升对于新领域的适应能力,却缺乏一种能够同时解决这两个关键问题的统一解决方案。 在分析这些问题的背景下,来自University of South Florida的Keyu Chen等学者与Snap Inc.的Di Zh...

基于课程学习的记忆辅助知识转移框架用于弱监督在线活动检测

研究背景与研究意义 近年来,视频理解领域中弱监督在线活动检测(Weakly Supervised Online Activity Detection, WS-OAD)作为高水平视频理解的一个重要课题,得到了广泛关注。其主要目标是通过仅使用廉价的视频级标注,在流媒体视频中逐帧检测正在进行的活动。这一任务在许多实际应用场景中具有重要价值,包括自动驾驶、公共安全监控、机器人导航及增强现实等。 尽管全监督方法(Fully Supervised Methods)已在在线活动检测(OAD)中取得了显著进展,但它们严重依赖于密集的帧级注释(Frame-level Annotations),这不仅成本高昂且易受噪声影响,从而限制了模型的扩展性。弱监督设置旨在解决这一问题,但因其在线约束(Online Con...