将大型语言模型和知识图谱统一起来

统一大语言模型与知识图谱 背景 近年来,自然语言处理和人工智能领域涌现了大量研究成果,其中,大语言模型(Large Language Models, LLMS)如 ChatGPT 和 GPT-4 表现出色。然而,尽管这些模型具有出色的泛化能力,常常因其黑箱性质无法有效捕捉和访问事实知识而受到批评。另一方面,知识图谱(Knowledge Graphs, KGs)如 Wikipedia 和 Huapu 通过结构化形式存储了大量事实知识,但构建和演化知识图谱的过程却非常复杂。因此,研究人员提出将大语言模型与知识图谱相结合,利用两者的优势以实现互补。 来源 本文发表在《IEEE Transactions on Knowledge and Data Engineering》2024年7月第36卷第7期...

基于图的非抽样策略增强知识图谱推荐系统

基于图的非抽样策略增强知识图谱推荐系统

基于图的无采样知识图谱增强推荐 近年来,知识图谱(Knowledge Graph, KG)增强推荐系统,旨在解决冷启动问题和推荐系统的可解释性,已经吸引了大量的研究兴趣。现有的推荐系统通常侧重于隐式反馈,如购买历史记录,但缺乏负反馈。大多数系统采用负采样策略处理隐式反馈数据,这可能忽略了潜在的正用户-项目交互。而其他一些工作则采用无采样策略,将所有未观察到的交互视为负样本,并为每个负样本分配权重,以表示该样本为正样本的概率。然而,这些方法使用简单直观的权重分配策略,不能捕捉所有交互数据中的潜在关系。 研究背景与动机 随着互联网的快速发展,信息超载的问题日益严重。为了提高用户的搜索体验并增加产品供应商的收入,推荐系统应运而生,并在电子商务、社交网络等多个应用中取得了巨大成功。近年来,作为内容信...

推荐系统中基于知识图谱的上下文图注意力网络

基于知识图谱的推荐系统:Contextualized Graph Attention Network 近年来,随着在线信息和内容的爆炸式增长,推荐系统在电子商务网站和社交媒体平台等各种场景中变得越来越重要。这些系统通常旨在为用户提供她可能感兴趣的项目列表。然而,传统的基于用户行为数据的方法(例如协同过滤、深度学习)面临着数据稀疏性和冷启动问题。为了解决这些问题,研究者尝试将各种辅助信息 (side information) 融入到推荐系统中,其中包含用户的社交网络、评论文本等。 研究背景 在这些辅助信息中,项目知识图谱(Knowledge Graph, KG)包含丰富的项目间关系,并已被证明可以显著提高推荐系统的性能。知识图谱本质上是一个异构网络,其中节点代表实体,边代表关系。然而,如何将这...

通过联合学习结构特征和软逻辑规则进行知识图谱补全

近年来,知识图谱(Knowledge Graph, KG)已经在许多人工智能任务中得到了广泛应用。知识图谱通过使用头实体(head entity)、关系(relation)和尾实体(tail entity)的三元组(Triplet)表示事物及其关系,如典型三元组(h = Paris, r = capital_of, t = France)表示真实世界的一个常识事实。虽然知识图谱已经成为智能问答、实体消歧、语义网络搜索和事实核查等众多下游人工智能应用的重要资源,但现存的知识图谱并不完美,常常存在缺失关系或包含错误的问题。为了应对这些问题,知识图谱嵌入(Knowledge Graph Embedding, KGE)成为了一个主要的任务,它通过学习图谱中的结构信息和潜在逻辑规则来预测缺失的事实。 ...

DRGI: 深度关系图信息增益用于知识图谱构建完成

知识图谱(Knowledge Graph,KG)嵌入技术是人工智能领域中的一个重要研究课题,主要用于知识获取和知识图谱的扩展。近年来,尽管有许多基于图嵌入的方法被提出,但这些方法通常只能关注知识图谱的语义信息,忽略了图的自然结构信息。因此,尽管图卷积网络(Graph Convolutional Networks,GCN)方法能够捕捉部分结构信息,但由于知识图谱的不完全性,它们仍然面临信息不足的问题。为了克服这一问题,本研究提出了一种新的模型,即深度关系图信息增益(Deep Relational Graph Infomax,DRGI),通过互信息(Mutual Information,MI)最大化充分利用了结构信息和语义信息。 本文由来自中国电子科技大学未来媒体中心的Shuang Liang,...

基于图的条件生成对抗网络用于生成合成功能性脑网络诊断重度抑郁症

基于图的条件生成对抗网络用于生成合成功能性脑网络诊断重度抑郁症

基于图的条件生成对抗网络用于生成合成功能性脑网络诊断重度抑郁症 研究背景: 重度抑郁症(Major Depressive Disorder, MDD)是一种广泛存在的精神障碍,影响数百万人的生活,并且对全球健康构成重大威胁。研究表明,通过静息态功能磁共振成像(resting-state functional magnetic resonance imaging, rs-fMRI)提取的功能连接性(functional connectivity, FC)能够揭示与MDD相关的功能连接模式,在精准诊断中起到重要作用。然而,由于相关数据的有限性,为稳健的MDD诊断带来挑战。为应对这一挑战,近年来一些研究尝试使用深度神经网络(Deep Neural Networks, DNN)架构来构建生成对抗网络...

基于丘脑下核和皮层活动区分帕金森病的静止震颤与自愿手部运动

帕金森病(Parkinson’s disease, PD)是一种常见的神经退行性疾病,其主要症状包括静止性震颤、运动迟缓和肌强直。深部脑刺激(Deep Brain Stimulation, DBS)已被广泛用于治疗帕金森病的运动症状(Krauss et al., 2021)。然而,DBS治疗也存在显著的副作用,其中大部分是由刺激扩展到DBS目标结构周围的区域导致的(Koeglsperger et al., 2019)。为减少这种副作用,研究人员提出了一种适应性深部脑刺激(adaptive DBS, aDBS)方案,通过实时监控病人的当前运动状态来调整DBS的强度和时机(Little et al., 2016; Piña-Fuentes et al., 2017; Tinkhauser et ...

基于卷积神经网络的耐药癫痫早期预测

研究背景及研究目的 癫痫是一种自发性且严重的神经系统疾病,表现为反复发作,全球有大约5000万人受其影响[1]。尽管近年来抗癫痫药物(ASM)的发展有所进步,药物难治性癫痫(Drug-Resistant Epilepsy,DRE)仍影响着20%到30%的癫痫患者[1-3]。DRE患者不仅面临巨大的经济、社会和心理负担,但需长时间的药物试验才能确诊。早期识别高风险患者,可以为施行如癫痫手术、神经调控或生酮饮食等治疗方式提供更早的干预。 以往的研究已指出DRE的风险因素包括:早期发病、高频率发作、脑电图(EEG)异常、神经缺陷、认知障碍、创伤史和颅内结构病变等[5-9]。然而,对于新诊断的癫痫患者,这些因素的重要性尚不明确,因此需要综合工具来早期识别高风险患者。 脑电图在癫痫领域扮演着不可或缺的...

基于改进的集合经验模态分解的EEG脑功能网络用于焦虑分析和检测

基于改进的集合经验模态分解的脑功能网络用于焦虑分析和检测 学术背景及研究目的 随着现代生活压力的增加,焦虑症(Anxiety)作为一种常见神经系统疾病,正日益成为全球公共卫生领域亟待解决的问题。焦虑症不仅表现在精神障碍上,还涉及注意力、记忆和学习等认知过程的异常表现。COVID-19疫情的爆发进一步增加了焦虑症的患病率。据统计,焦虑症在12个月内的发病率为男性4.80%,女性5.20%。然而,焦虑的病因至今尚未明确,且自愈的概率较低。这些复杂性和不确定性使得早期检测和干预变得尤为重要。然而,传统的焦虑检测方法依赖于面对面访谈和自我评估,不仅费时费力,还受到医生专业经验和患者自我评估的主观因素影响。因此,有必要探索一种客观且准确的焦虑分析和检测方法。 在众多生理信号中,脑电图(EEG)因其高时...

EEG微状态在预测奥卡西平治疗新诊断局灶性癫痫患者疗效中的作用

EEG微状态在预测奥卡西平治疗新诊断局灶性癫痫患者疗效中的作用

EEG 微状态在预测新诊断局灶性癫痫患者奥卡西平治疗效果中的作用 引言 背景 局灶性癫痫(focal epilepsy)是最常见的癫痫类型,占所有癫痫病例的约60%。根据不同的癫痫类型,抗癫痫药物的选择也会有所不同。在局灶性癫痫的治疗中,奥卡西平(oxcarbazepine,简称OXC)被广泛应用。然而,奥卡西平能够使约65%的患者实现无癫痫发作,但仍有相当部分患者未能获得良好的治疗效果。电生理监测技术,如脑电图(electroencephalography,EEG),在癫痫的诊断和管理中具有重要作用。 研究目的 微状态(microstate)是一种反映大脑电活动的时-空特征的脑电图模式。以往的研究显示抗癫痫药物可以影响大脑的EEG信号,但对奥卡西平的研究仍然有限。同时,研究显示短暂状态可能...