面向遗忘-鲁棒知识追踪的深度图记忆网络

面向遗忘-鲁棒知识追踪的深度图记忆网络

面向遗忘-鲁棒知识追踪的深度图记忆网络 近年来,知识追踪(KT)作为个性化学习的重要方法吸引了广泛关注。知识追踪旨在预测学生回答新问题时的正确率,利用他们过往问题的回答历史来估计其知识状态。然而,当前的知识追踪方法仍面临一些挑战,包括对遗忘行为的建模和潜在概念之间关系的识别。为了解决这些问题,本文提出了一种全新的知识追踪模型,即深度图记忆网络(Deep Graph Memory Network, DGMN)。本文具体概述了DGMN模型的设计、实验过程及其在各类数据集上的表现。 研究背景 知识追踪问题自提出以来,一直是教育领域的一个重要研究方向。其核心目标是通过学生的历史回答数据,预测其未来回答问题的正确概率。早期的知识追踪方法主要包括基于贝叶斯方法和状态空间模型的方法,例如隐马尔可夫模型(H...

基于多重关系图注意网络的知识图谱实体类型连接嵌入

连接嵌入基于多重关系图注意力网络用于知识图谱实体类型识别 研究背景 当今,知识图谱(Knowledge Graphs, KGs)在各种基于KG驱动的AI相关领域中引起了越来越多的研究兴趣。大规模的知识图谱提供了丰富而有效的结构化信息,是多个智能应用的核心数据资源,如问答系统和网页搜索。通常,知识图谱中包含大量实体类型(Entity Typing)实例,以元组 ((e, t)) 的形式存在,其中 (e) 是实体,(t) 是其层次型类型。尽管现代知识图谱(如Freebase, YAGO和Google Knowledge Graph)取得了很大成功,但它们的覆盖范围仍远未完全和全面。例如,在FB15k数据集中,10%的具有/music/artist类型的实体没有/people/person类型。 ...

将大型语言模型和知识图谱统一起来

统一大语言模型与知识图谱 背景 近年来,自然语言处理和人工智能领域涌现了大量研究成果,其中,大语言模型(Large Language Models, LLMS)如 ChatGPT 和 GPT-4 表现出色。然而,尽管这些模型具有出色的泛化能力,常常因其黑箱性质无法有效捕捉和访问事实知识而受到批评。另一方面,知识图谱(Knowledge Graphs, KGs)如 Wikipedia 和 Huapu 通过结构化形式存储了大量事实知识,但构建和演化知识图谱的过程却非常复杂。因此,研究人员提出将大语言模型与知识图谱相结合,利用两者的优势以实现互补。 来源 本文发表在《IEEE Transactions on Knowledge and Data Engineering》2024年7月第36卷第7期...

基于图的非抽样策略增强知识图谱推荐系统

基于图的非抽样策略增强知识图谱推荐系统

基于图的无采样知识图谱增强推荐 近年来,知识图谱(Knowledge Graph, KG)增强推荐系统,旨在解决冷启动问题和推荐系统的可解释性,已经吸引了大量的研究兴趣。现有的推荐系统通常侧重于隐式反馈,如购买历史记录,但缺乏负反馈。大多数系统采用负采样策略处理隐式反馈数据,这可能忽略了潜在的正用户-项目交互。而其他一些工作则采用无采样策略,将所有未观察到的交互视为负样本,并为每个负样本分配权重,以表示该样本为正样本的概率。然而,这些方法使用简单直观的权重分配策略,不能捕捉所有交互数据中的潜在关系。 研究背景与动机 随着互联网的快速发展,信息超载的问题日益严重。为了提高用户的搜索体验并增加产品供应商的收入,推荐系统应运而生,并在电子商务、社交网络等多个应用中取得了巨大成功。近年来,作为内容信...

推荐系统中基于知识图谱的上下文图注意力网络

基于知识图谱的推荐系统:Contextualized Graph Attention Network 近年来,随着在线信息和内容的爆炸式增长,推荐系统在电子商务网站和社交媒体平台等各种场景中变得越来越重要。这些系统通常旨在为用户提供她可能感兴趣的项目列表。然而,传统的基于用户行为数据的方法(例如协同过滤、深度学习)面临着数据稀疏性和冷启动问题。为了解决这些问题,研究者尝试将各种辅助信息 (side information) 融入到推荐系统中,其中包含用户的社交网络、评论文本等。 研究背景 在这些辅助信息中,项目知识图谱(Knowledge Graph, KG)包含丰富的项目间关系,并已被证明可以显著提高推荐系统的性能。知识图谱本质上是一个异构网络,其中节点代表实体,边代表关系。然而,如何将这...

通过联合学习结构特征和软逻辑规则进行知识图谱补全

近年来,知识图谱(Knowledge Graph, KG)已经在许多人工智能任务中得到了广泛应用。知识图谱通过使用头实体(head entity)、关系(relation)和尾实体(tail entity)的三元组(Triplet)表示事物及其关系,如典型三元组(h = Paris, r = capital_of, t = France)表示真实世界的一个常识事实。虽然知识图谱已经成为智能问答、实体消歧、语义网络搜索和事实核查等众多下游人工智能应用的重要资源,但现存的知识图谱并不完美,常常存在缺失关系或包含错误的问题。为了应对这些问题,知识图谱嵌入(Knowledge Graph Embedding, KGE)成为了一个主要的任务,它通过学习图谱中的结构信息和潜在逻辑规则来预测缺失的事实。 ...

DRGI: 深度关系图信息增益用于知识图谱构建完成

知识图谱(Knowledge Graph,KG)嵌入技术是人工智能领域中的一个重要研究课题,主要用于知识获取和知识图谱的扩展。近年来,尽管有许多基于图嵌入的方法被提出,但这些方法通常只能关注知识图谱的语义信息,忽略了图的自然结构信息。因此,尽管图卷积网络(Graph Convolutional Networks,GCN)方法能够捕捉部分结构信息,但由于知识图谱的不完全性,它们仍然面临信息不足的问题。为了克服这一问题,本研究提出了一种新的模型,即深度关系图信息增益(Deep Relational Graph Infomax,DRGI),通过互信息(Mutual Information,MI)最大化充分利用了结构信息和语义信息。 本文由来自中国电子科技大学未来媒体中心的Shuang Liang,...

基于图的条件生成对抗网络用于生成合成功能性脑网络诊断重度抑郁症

基于图的条件生成对抗网络用于生成合成功能性脑网络诊断重度抑郁症

基于图的条件生成对抗网络用于生成合成功能性脑网络诊断重度抑郁症 研究背景: 重度抑郁症(Major Depressive Disorder, MDD)是一种广泛存在的精神障碍,影响数百万人的生活,并且对全球健康构成重大威胁。研究表明,通过静息态功能磁共振成像(resting-state functional magnetic resonance imaging, rs-fMRI)提取的功能连接性(functional connectivity, FC)能够揭示与MDD相关的功能连接模式,在精准诊断中起到重要作用。然而,由于相关数据的有限性,为稳健的MDD诊断带来挑战。为应对这一挑战,近年来一些研究尝试使用深度神经网络(Deep Neural Networks, DNN)架构来构建生成对抗网络...

基于丘脑下核和皮层活动区分帕金森病的静止震颤与自愿手部运动

帕金森病(Parkinson’s disease, PD)是一种常见的神经退行性疾病,其主要症状包括静止性震颤、运动迟缓和肌强直。深部脑刺激(Deep Brain Stimulation, DBS)已被广泛用于治疗帕金森病的运动症状(Krauss et al., 2021)。然而,DBS治疗也存在显著的副作用,其中大部分是由刺激扩展到DBS目标结构周围的区域导致的(Koeglsperger et al., 2019)。为减少这种副作用,研究人员提出了一种适应性深部脑刺激(adaptive DBS, aDBS)方案,通过实时监控病人的当前运动状态来调整DBS的强度和时机(Little et al., 2016; Piña-Fuentes et al., 2017; Tinkhauser et ...

基于卷积神经网络的耐药癫痫早期预测

研究背景及研究目的 癫痫是一种自发性且严重的神经系统疾病,表现为反复发作,全球有大约5000万人受其影响[1]。尽管近年来抗癫痫药物(ASM)的发展有所进步,药物难治性癫痫(Drug-Resistant Epilepsy,DRE)仍影响着20%到30%的癫痫患者[1-3]。DRE患者不仅面临巨大的经济、社会和心理负担,但需长时间的药物试验才能确诊。早期识别高风险患者,可以为施行如癫痫手术、神经调控或生酮饮食等治疗方式提供更早的干预。 以往的研究已指出DRE的风险因素包括:早期发病、高频率发作、脑电图(EEG)异常、神经缺陷、认知障碍、创伤史和颅内结构病变等[5-9]。然而,对于新诊断的癫痫患者,这些因素的重要性尚不明确,因此需要综合工具来早期识别高风险患者。 脑电图在癫痫领域扮演着不可或缺的...