本研究的主要作者包括Bhavana Dalvi、Peter Jansen、Oyvind Tafjord、Zhengnan Xie、Hannah Smith、Leighanna Pipatanangkura和Peter Clark。研究机构包括Allen Institute for AI（位于西雅图）和University of Arizona（位于图森）。该研究于2022年5月28日发布在arXiv预印本平台上。
本研究的主要科学领域是自然语言处理（NLP），特别是开放域文本问答（Open-Domain Textual Question-Answering, QA）中的解释生成。当前的人工智能系统在提供答案时，通常只能展示一两句支持证据（“rationales”），而无法展示从已知事实到答案的推理链条。这使得用户难以理解系统的推理过程，也难以在系统出错时定位错误的来源。因此，本研究的目标是通过生成“蕴含树”（entailment trees）来解释答案，展示从已知事实到答案的多步推理过程。
本研究的主要流程包括以下几个步骤：
研究团队创建了首个多步蕴含树数据集——EntailmentBank。该数据集包含1,840个多步蕴含树，每个树都展示了一个问答对（QA pair）如何从少量相关句子中推导出来。数据集中的句子主要来源于WorldTree V2，这是一个面向小学科学问题的知识库。
研究团队定义了三个逐步增加难度的解释任务： 1. 任务1（无干扰句子）：给定所有相关句子，生成有效的蕴含树。 2. 任务2（含干扰句子）：给定所有相关句子和一些干扰句子，生成有效的蕴含树。 3. 任务3（完整语料库）：给定一个完整的语料库，生成有效的蕴含树。
研究团队开发了基于T5（Text-to-Text Transfer Transformer）的生成模型——EntailmentWriter。该模型通过输入相关句子和假设（即问答对的声明形式），生成蕴含树。模型在训练集上进行了微调，并使用了默认的超参数。
研究团队对三个任务分别进行了实验，并使用多个评估指标来衡量生成的蕴含树的质量。评估指标包括： - 叶子节点（Leaf Nodes）：生成的树是否使用了正确的叶子句子。 - 推理步骤（Steps）：生成的树中的推理步骤是否结构正确。 - 中间节点（Intermediates）：生成的中间结论是否正确。 - 整体证明（Overall Proof）：生成的树是否完全正确。
实验结果表明，在任务1（无干扰句子）中，模型能够生成约35%的完美树（即完全正确的蕴含树）。在任务2（含干扰句子）中，尽管输入中包含了大量干扰句子，模型仍然能够较好地识别相关事实，生成的结构也相对合理。在任务3（完整语料库）中，由于任务复杂性增加，模型的表现有所下降，但仍能生成部分正确的树。
本研究的主要贡献在于： - 提出了将解释形式化为多步、多前提的文本蕴含任务。 - 创建了首个多步蕴含树数据集——EntailmentBank，为基于蕴含的解释提供了新的资源。 - 展示了使用生成模型生成蕴含树的可行性，特别是在输入中包含必要事实时。
这项研究的科学价值在于为生成更丰富、更系统的解释提供了新的途径，特别是在开放域问答系统中。通过展示推理链条，用户可以更好地理解系统的推理过程，并在系统出错时进行调试。
研究团队还进行了跨领域的泛化实验，展示了EntailmentBank训练的模型在其他领域（如EQASC数据集）中的潜力。此外，研究团队还探讨了交互式解释生成的可能性，即通过逐步生成推理链条来帮助用户理解系统的推理过程。
本研究为生成更丰富、更系统的解释提供了新的资源和方法，具有重要的科学和应用价值。