深度学习解释性研究：基于扰动的归因图评估方法 背景和研究动机 随着深度学习模型在各种任务中取得显著成功，人们越来越关注这些模型的解释性和透明性。然而，尽管模型在准确性上表现卓越，其决策过程的可解释性仍然存在很大不足。这种不足限制了模型在实际应用中的推广，因为许多场景需要模型不仅能提供准确的预测，还需具备鲁棒性、不确定性估计以及对决策过程的直观解释能力。 在计算机视觉领域，归因方法（Attribution Methods）被广泛应用于神经网络的解释性研究。这些方法通过生成归因图（Attribution Maps，AMs），显示输入图像中哪些区域对模型的决策贡献最大。然而，由于归因图的定性特性，如何定量评估这些图的有效性仍是一个未解决的问题。本研究旨在解决归因图评估中面临的可靠性和一致性问题，为...

面向全科诊断决策的基于知识图谱的可解释个性化认知推理模型 背景介绍 全科医学作为社区和家庭医疗的重要组成部分，覆盖了不同年龄、性别、器官系统及各类疾病。其核心理念是以人为中心、以家庭为单位，强调长期负责的综合健康维护和促进。然而，现有证据显示，中国的初级卫生保健（Primary Health Care, PHC）质量仍未达到令人满意的水平。在临床诊断和治疗准确性方面存在着显著需要提升的空间。为了应对这一问题，基于人工智能的决策工具逐渐成为全科医生诊断疾病的有力辅助。然而，现有的研究主要存在两个问题：一是缺乏足够的可扩展性和解释能力；二是现有模型大多操作复杂，难以适用于实际的全科医疗环境。 论文来源 这篇名为《An Explainable and Personalized Cognitive ...

基于知识增强的图主题Transformer在可解释生物医学文本摘要中的应用 研究背景 由于生物医学文献发表量持续增加，自动生物医学文本摘要任务变得愈加重要。2021年，仅在PubMed数据库中就发表了1,767,637篇文章。现有的基于预训练语言模型（Pre-trained Language Models，简称PLMs）的摘要方法虽然提升了摘要性能，但在捕捉领域特定知识和结果可解释性方面存在显著局限。这可能导致生成的摘要缺乏连贯性，包括冗余句子或重要领域知识的遗漏。此外，变压器模型的黑箱特性使得用户难以理解摘要生成的原因和方式，因此在生物医学文本摘要中，包含领域特定知识和可解释性对提高准确性和透明度至关重要。 研究来源 本文的论文由Qianqian Xie、Prayag Tiwari（IEE...

在模型驱动的故障诊断中,能够识别出导致系统异常的关键观测数据是十分有价值的。本文介绍了一种识别关键观测数据的框架和算法。该框架通过将原始观测数据抽象为”子观测”,来确定哪些观测对诊断结果至关重要。一个”关键子观测”被定义为在最大程度上抽象化后,仍能导出与原始观测相同的最小诊断集。 该研究由澳大利亚的Cody James Christopher和法国的Alban Grastien两位作者合作完成,分别来自澳大利亚科学与工业研究组织数据61中心和法国原子能与替代能源委员会。他们的工作发表于2024年的人工智能期刊上。 研究人员首先阐述了模型驱动诊断的基本框架和概念。该框架包括系统模型、观测数据和诊断假设空间三个主要部分。系统模型描述了系统的所有可能行为;观测是对实际系统行为的感知,可能来源于传感...