一种事实验证方法、系统、计算机设备和存储介质与流程

[0001]
本申请涉及信息技术领域，特别是涉及一种事实验证方法、系统、计算机设备和存储介质。


背景技术：

[0002]
对于事实验证，现有的方法主要把事实验证任务与传统的自然语言推理任务进行类比，通过构建声明-证据对并提取特征来支撑下游的预测任务。传统的自然语言推理方法一般通过拼接声明和相关证据句，并提取相应句子级别的特征，从而作为预测层的输入。除此以外，还可以针对每一个证据句子够着声明-证据对，从而更精细的考虑到不同证据带来的影响。但是，这些方法都没有考虑到证据句子之间的语义关联性，因此难以解决一些需要多个证据共同判断的声明。为了解决该问题，通过引入全连接的图结构把不同的证据句子作为图中的节点，基于图进行证据句子的整合推理。除以以外，人们也提出在由切分的证据句子上进行图的构建，从而进一步探索证据间可能存在的语义关联。
[0003]
但是先前的方法通常只是提取了句子级别的特征作为证据的特征表示，却忽略了结合实体以及上下文这些可以丰富证据表示的重要特征。此外，现有的方法主要是为了提高标签预测的准确性，而忽视了对事实验证模型可解释性的探索，这可能导致验证结果并不可靠。而且，现有的模型通常只关注提升单证据或多证据场景下的事实验证，不能同时适用于这两种情况。


技术实现要素：

[0004]
基于此，有必要针对上述技术问题，提供一种事实验证方法、系统、计算机设备和存储介质。
[0005]
第一方面，本发明实施例提供了一种事实验证方法，包括以下步骤：输入待验证的声明，并对所述声明进行检索，获取所述声明的证据集；基于所述证据集，构造由实体节点、句子节点和上下文节点组成的分层异构图；将所述声明和所述证据集进行拼接，对节点进行初始化，得到节点的特征表示；根据所述分层异构图中节点的神经网络传播方向，对节点的特征表示进行基于推理的更新；对更新后节点的特征表示进行推理路径的搭建，根据所述推理路径输出所述声明的预测结果。
[0006]
进一步的，所述输入待验证的声明，并对所述声明进行检索，获取所述声明的证据集，包括：根据输入的所述声明，利用句子解析器提取所述声明的关键词组；通过检索工具的应用接口检索所述关键词组的关联文档，将所述关联文档存储在文章集中；搭建句子检索模型对所述文章集中的文章进行句子检索，输出和所述声明相关的关联
句子；利用所述检索模型对所述关联句子进行相关度打分，将分数落在预设阈值之内的句子作为证据集。
[0007]
进一步的，所述基于所述证据集，构造由实体节点、句子节点和上下文节点组成的分层异构图，包括：从所述证据集中分别提取出所有句子组成的上下文节点、证据句组成的句子节点和名词短语组成的实体节点；构建从所述实体节点到所述句子节点的第一有向边、从所述句子节点到所述上下文节点的第二有向边；根据所述实体节点构建句子级链接、上下文级链接和文章级链接的第三有向边。
[0008]
进一步的，所述对更新后节点的特征表示进行推理路径的搭建，根据所述推理路径输出所述声明的预测结果，包括：将所述实体节点、句子节点和上下文节点的特征表示进行拼接，并通过一个单层的感知器得到推理路径的特征表示；计算所述推理路径相对于所述声明的对齐向量，得到推理路径的选择概率；根据所述选择概率计算所述声明的预测标签分布，通过所述预测标签分布推理出所述声明的预测结果。
[0009]
另一方面，本发明实施例还提供了一种事实验证系统，包括：证据检索模块，用于输入待验证的声明，并对所述声明进行检索，获取所述声明的证据集；异构图模块，用于基于所述证据集，构造由实体节点、句子节点和上下文节点组成的分层异构图；节点初始模块，用于将所述声明和所述证据集进行拼接，对节点进行初始化，得到节点的特征表示；节点更新模块，用于根据所述分层异构图中节点的神经网络传播方向，对节点的特征表示进行基于推理的更新；结果预测模块，用于对更新后节点的特征表示进行推理路径的搭建，根据所述推理路径输出所述声明的预测结果。
[0010]
进一步的，所述证据检索模块包括证据集单元，所述证据集单元用于：据输入的所述声明，利用句子解析器提取所述声明的关键词组；通过检索工具的应用接口检索所述关键词组的关联文档，将所述关联文档存储在文章集中；搭建句子检索模型对所述文章集中的文章进行句子检索，输出和所述声明相关的关联句子；利用所述检索模型对所述关联句子进行相关度打分，将分数落在预设阈值之内的句子作为证据集。
[0011]
进一步的，所述异构图模块包括图构建单元，所述图构建单元用于：从所述证据集中分别提取出所有句子组成的上下文节点、证据句组成的句子节点和名词短语组成的实体节点；
构建从所述实体节点到所述句子节点的第一有向边、从所述句子节点到所述上下文节点的第二有向边；根据所述实体节点构建句子级链接、上下文级链接和文章级链接的第三有向边。
[0012]
进一步的，所述结果预测模块包括标签推理单元，所述标签推理单元用于：将所述实体节点、句子节点和上下文节点的特征表示进行拼接，并通过一个单层的感知器得到推理路径的特征表示；计算所述推理路径相对于所述声明的对齐向量，得到推理路径的选择概率；根据所述选择概率计算所述声明的预测标签分布，通过所述预测标签分布推理出所述声明的预测结果。
[0013]
本发明实施例还提供了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现以下步骤：输入待验证的声明，并对所述声明进行检索，获取所述声明的证据集；基于所述证据集，构造由实体节点、句子节点和上下文节点组成的分层异构图；将所述声明和所述证据集进行拼接，对节点进行初始化，得到节点的特征表示；根据所述分层异构图中节点的神经网络传播方向，对节点的特征表示进行基于推理的更新；对更新后节点的特征表示进行推理路径的搭建，根据所述推理路径输出所述声明的预测结果。
[0014]
本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现以下步骤：输入待验证的声明，并对所述声明进行检索，获取所述声明的证据集；基于所述证据集，构造由实体节点、句子节点和上下文节点组成的分层异构图；将所述声明和所述证据集进行拼接，对节点进行初始化，得到节点的特征表示；根据所述分层异构图中节点的神经网络传播方向，对节点的特征表示进行基于推理的更新；对更新后节点的特征表示进行推理路径的搭建，根据所述推理路径输出所述声明的预测结果。
[0015]
本申请的有益效果是：本发明实施例公开了一种事实验证方法、系统、计算机设备和存储介质，该方法中首先根据检索到的证据句，首先构造一个节点包含句子、实体和上下文的异构图，利用基于双向结构的编码器分别初始化上下文节点、句子节点和实体节点的特征表示；其次，采用了一种分层结构，实现语义特征从粒度节点到粗粒度节点进行传播；在图中提取潜在的推理路径，并通过拼接同一路径中涉及的节点特征表示对路径进行编码；最后，使用一个分类器来预测每个推理路径的标签，并通过各路径与声明的相关性来聚合结果。该方法通过使用分层异构图结合不同粒度特征进行证据表示学习，有助于捕捉证据之间的关系。通过从细粒度到粗粒度的特征传播推理过程，有助于提升推理模型的可解释性，并显示出分层异构图神经网络方法的有效性，显著提高了事实验证的准确度和效率。
附图说明
[0016]
图1为一个实施例中事实验证方法的流程示意图；
图2为一个实施例中证据集采集的流程示意图；图3为一个实施例中构建分层异构图的流程示意图；图4为一个实施例中通过预测标签分布进行事实验证的流程示意图；图5为一个实施例中事实验证系统的结构框图；图6为一个实施例中计算机设备的内部结构图。
具体实施方式
[0017]
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。
[0018]
随着信息爆炸，人们不可避免地接受一些假新闻和误导性的声明。如何自动验证这些声明的真实性已成为一个重要的研究课题。为了解决这个问题，事实验证任务被提出来用以自动的验证声明的真实性，比如通过从维基百科此类值得信赖的知识库中抽取出相关的证据来进行推理判断。事实验证模型可以相应地将一项声明标记为“支持”、“反驳”或“信息不足”，表明相关证据是否能够支持、驳斥该项声明或表示该项声明不能判断。
[0019]
在一个实施例中，如图1所示，提供了一种事实验证方法，该方法包括以下步骤：步骤101，输入待验证的声明，并对所述声明进行检索，获取所述声明的证据集；步骤102，基于所述证据集，构造由实体节点、句子节点和上下文节点组成的分层异构图；步骤103，将所述声明和所述证据集进行拼接，对节点进行初始化，得到节点的特征表示；步骤104，根据所述分层异构图中节点的神经网络传播方向，对节点的特征表示进行基于推理的更新；步骤105，对更新后节点的特征表示进行推理路径的搭建，根据所述推理路径输出所述声明的预测结果。
[0020]
具体地， 在进行事实验证过程中，首先根据检索到的证据句，首先构造一个节点包含句子、实体和上下文的异构图，利用基于双向结构的编码器分别初始化上下文节点、句子节点和实体节点的特征表示；其次，采用了一种分层结构，实现语义特征从粒度节点到粗粒度节点进行传播；在图中提取潜在的推理路径，并通过拼接同一路径中涉及的节点特征表示对路径进行编码；最后，使用一个分类器来预测每个推理路径的标签，并通过各路径与声明的相关性来聚合结果。该方法通过使用分层异构图结合不同粒度特征进行证据表示学习，有助于捕捉证据之间的关系。通过从细粒度到粗粒度的特征传播推理过程，有助于提升推理模型的可解释性，并显示出分层异构图神经网络方法的有效性，显著提高了事实验证的准确度和效率。
[0021]
在一个实施例中，如图2所示，事实验证过程中证据集采集具体包括：步骤201，根据输入的所述声明，利用句子解析器提取所述声明的关键词组；步骤202，通过检索工具的应用接口检索所述关键词组的关联文档，将所述关联文档存储在文章集中；步骤203，搭建句子检索模型对所述文章集中的文章进行句子检索，输出和所述声明相
关的关联句子；步骤204，利用所述检索模型对所述关联句子进行相关度打分，将分数落在预设阈值之内的句子作为证据集。
[0022]
具体地，该过程可以分为两个关键阶段，即文档检索和句子选择。在文献检索环节，采用实体链接的方法检索相关文献。具体来说，对于每个声明，本实施例首先应用一个基于研究库中的句子解析器来提取潜在的实体，该实体可以称为句子中的关键词组。然后通过维基百科提供的应用接口在维基百科中搜索相关文档，并将排名前k的文章存储在一个集合中，该集合定义为。在句子选择阶段中，本实施例使用基于检索模型为给定声明检索的文章中的句子生成一个排名分数。使用带有负采样的修正铰链损失函数来训练该检索模型，最后利用训练好的该模型计算所有检索到的句子的相关度得分，最后输出排名前位的句子作为证据集。
[0023]
在一个实施例中，如图3所示，对于分层异构图的构建包括：步骤301，从所述证据集中分别提取出所有句子组成的上下文节点、证据句组成的句子节点和名词短语组成的实体节点；步骤302，构建从所述实体节点到所述句子节点的第一有向边、从所述句子节点到所述上下文节点的第二有向边；步骤303，根据所述实体节点构建句子级链接、上下文级链接和文章级链接的第三有向边。
[0024]
具体地，本实施例以证据集作为输入，构造一个分层的异构图。为了考虑不同层次的特征，本实施例构造了一个由实体、句子和上下文三种节点组成的图。具体来说，本实施例将证据集中的所有句子连接成一个长句，并将其视为上下文节点。对于句子节点，本实施例将证据集中的每个证据句作为单独节点。此外本实施例使用命名实体识别工具提取证据句中的名词短语，将其作为实体节点，而且，两个节点可能引用同一个实体。为了约束信息传播的方向和捕捉证据语句之间的关系，本实施例设计了从细粒度节点到粗粒度节点的有向边和同类节点之间的无向边。对于句子节点，用全连接的子图在每对句子之间建立边。为了在充分挖掘实体之间的关系同时避免大量实体带来的噪音，本实施例为实体节点构建了三种类型的边：句子级链接、上下文级链接以及文章级链接。句子级链接表示同一句子中节点之间的连接，上下文级链接表示不同文章中属于同一实体的节点之间的连接。文章级链接构建的节点之间的连接为其中一个节点位于文章标题中，另一个节点位于文章的其余部分。此外，本实施例为每个实体到句子对构造了从实体节点到句子节点的有向边，以及为每个句子到上下文对构造句子节点到上下文节点的有向边。这样，最终得到一个分层异构的图结构。
[0025]
在一个实施例中，如图4所示，通过预测标签分布进行事实验证的过程包括：步骤401，将所述实体节点、句子节点和上下文节点的特征表示进行拼接，并通过一个单层的感知器得到推理路径的特征表示；步骤402，计算所述推理路径相对于所述声明的对齐向量，得到推理路径的选择概率；步骤403，根据所述选择概率计算所述声明的预测标签分布，通过所述预测标签分布推理出所述声明的预测结果。
[0026]
具体的，在进行预测之前首先进行特征表示的初始化和更新。例如，对于上下文节
点而言，首先拼接声明和序列证据，然后将其输入到预训练好的语言编码模型中来生成上下文节点的特征表示；对于实体节点而言，利用与实体相关的文本跨度来生成实体的向量表示。具体的，我们首先构建一个二元矩阵 m，其中当第j个单词在第i个实体的文本跨度区间之内，则标记m(i,j)=1, 否则为0。然后通过将证据句子的单词表示与二元矩阵m相乘，从而保留下证据的单词表示矩阵中与实体相关的行。最后，将与实体相关的文本跨度内的单词的向量表示进行最大值池化和平均值池化，再进行拼接，并通过一个单层的感知器得到最终的实体特征表示。
[0027]
在节点特征初始化以后，再进行节点特征的更新，对于同类型的节点，比如实体节点，本实施例采用一种图注意力网络机制进行节点的特征传播。对于不同类型的节点间的更新，即从实体节点到句子节点和从句子节点到上下文节点。例如，首先计算句子节点 i和实体节点 j之间的注意力权重，然后在句子节点i上聚合相关实体节点的特征得到句子聚合的实体特征。此外，为了保留更多的节点本身的特征，本实施例将每个证据句子聚合的实体特征以及证据句子特征进行结合，得到候选的句子节点特征。总体来说，按照这样的步骤进行特征的传播：实体节点在由实体组成的实体图中进行节点特征的更新。句子节点聚合来自实体节点的特征，并在句子节点构成的子图中更新自身的特征。上下文节点聚合来自句子节点的特征。
[0028]
在进行最后的预测阶段，首先获得来自不同推理路径的预测结果，然后根据与声明的相关程度聚合产生最后的预测结果。将由实体节点到上下文节点的链接视为推理路径，即实体-句子-上下文这样的形式。通过拼接这些节点的特征表示作为整个路径的向量表示。由于一个句子节点与多个实体节点相链接，需要区分与该句子相关的实体节点。本实施例采用计算句子节点与多个实体节点的相关度得分；将实体节点表示与句子以及上下文节点的特征表示进行拼接，并通过一个单层的感知器从而得到推理路径的特征表示；接下来，计算每个推理路径相对于声明的对齐向量，生成每个路径的选择概率；最后，利用选择概率得到声明的预测标签分布，通过所述预测标签分布推理出所述声明的预测结果。
[0029]
应该理解的是，虽然上述流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，这些步骤可以以其它的顺序执行。而且，上述流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，这些子步骤或者阶段的执行顺序也不必然是依次进行，而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
[0030]
在一个实施例中，如图5所示，提供了一种事实验证系统，包括：证据检索模块501、异构图模块502、节点初始模块503、节点更新模块504和结果预测模块505，其中：证据检索模块501，用于输入待验证的声明，并对所述声明进行检索，获取所述声明的证据集；异构图模块502，用于基于所述证据集，构造由实体节点、句子节点和上下文节点组成的分层异构图；
节点初始模块503，用于将所述声明和所述证据集进行拼接，对节点进行初始化，得到节点的特征表示；节点更新模块504，用于根据所述分层异构图中节点的神经网络传播方向，对节点的特征表示进行基于推理的更新；结果预测模块505，用于对更新后节点的特征表示进行推理路径的搭建，根据所述推理路径输出所述声明的预测结果。
[0031]
在一个实施例中，如图5所示，所述证据检索模块501包括证据集单元5011，所述证据集单元5011用于：据输入的所述声明，利用句子解析器提取所述声明的关键词组；通过检索工具的应用接口检索所述关键词组的关联文档，将所述关联文档存储在文章集中；搭建句子检索模型对所述文章集中的文章进行句子检索，输出和所述声明相关的关联句子；利用所述检索模型对所述关联句子进行相关度打分，将分数落在预设阈值之内的句子作为证据集。
[0032]
在一个实施例中，如图5所示，所述异构图模块502包括图构建单元5021，所述图构建单元5021用于：从所述证据集中分别提取出所有句子组成的上下文节点、证据句组成的句子节点和名词短语组成的实体节点；构建从所述实体节点到所述句子节点的第一有向边、从所述句子节点到所述上下文节点的第二有向边；根据所述实体节点构建句子级链接、上下文级链接和文章级链接的第三有向边。
[0033]
在一个实施例中，如图5所示，所述结果预测模块505包括标签推理单元5051，所述标签推理单元5051用于：将所述实体节点、句子节点和上下文节点的特征表示进行拼接，并通过一个单层的感知器得到推理路径的特征表示；计算所述推理路径相对于所述声明的对齐向量，得到推理路径的选择概率；根据所述选择概率计算所述声明的预测标签分布，通过所述预测标签分布推理出所述声明的预测结果。
[0034]
关于事实验证系统的具体限定可以参见上文中对于事实验证方法的限定，在此不再赘述。上述权事实验证系统中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中，也可以以软件形式存储于计算机设备中的存储器中，以便于处理器调用执行以上各个模块对应的操作。
[0035]
图6示出了一个实施例中计算机设备的内部结构图。该计算机设备包括该计算机设备包括通过系统总线连接的处理器、存储器、网络接口、输入装置和显示屏。其中，存储器包括非易失性存储介质和内存储器。该计算机设备的非易失性存储介质存储有操作系统，还可存储有计算机程序，该计算机程序被处理器执行时，可使得处理器实现权限异常检测方法。该内存储器中也可储存有计算机程序，该计算机程序被处理器执行时，可使得处理器执行权限异常检测方法。计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏，计
算机设备的输入装置可以是显示屏上覆盖的触摸层，也可以是计算机设备外壳上设置的按键、轨迹球或触控板，还可以是外接的键盘、触控板或鼠标等。
[0036]
本领域技术人员可以理解，图6中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的计算机设备的限定，具体的计算机设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
[0037]
在一个实施例中，如图6所示，提供了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行计算机程序时实现以下步骤：输入待验证的声明，并对所述声明进行检索，获取所述声明的证据集；基于所述证据集，构造由实体节点、句子节点和上下文节点组成的分层异构图；将所述声明和所述证据集进行拼接，对节点进行初始化，得到节点的特征表示；根据所述分层异构图中节点的神经网络传播方向，对节点的特征表示进行基于推理的更新；对更新后节点的特征表示进行推理路径的搭建，根据所述推理路径输出所述声明的预测结果。
[0038]
在一个实施例中，处理器执行计算机程序时还实现以下步骤：根据输入的所述声明，利用句子解析器提取所述声明的关键词组；通过检索工具的应用接口检索所述关键词组的关联文档，将所述关联文档存储在文章集中；搭建句子检索模型对所述文章集中的文章进行句子检索，输出和所述声明相关的关联句子；利用所述检索模型对所述关联句子进行相关度打分，将分数落在预设阈值之内的句子作为证据集。
[0039]
在一个实施例中，处理器执行计算机程序时还实现以下步骤：从所述证据集中分别提取出所有句子组成的上下文节点、证据句组成的句子节点和名词短语组成的实体节点；构建从所述实体节点到所述句子节点的第一有向边、从所述句子节点到所述上下文节点的第二有向边；根据所述实体节点构建句子级链接、上下文级链接和文章级链接的第三有向边。
[0040]
在一个实施例中，处理器执行计算机程序时还实现以下步骤：将所述实体节点、句子节点和上下文节点的特征表示进行拼接，并通过一个单层的感知器得到推理路径的特征表示；计算所述推理路径相对于所述声明的对齐向量，得到推理路径的选择概率；根据所述选择概率计算所述声明的预测标签分布，通过所述预测标签分布推理出所述声明的预测结果。
[0041]
在一个实施例中，提供了一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现以下步骤：输入待验证的声明，并对所述声明进行检索，获取所述声明的证据集；基于所述证据集，构造由实体节点、句子节点和上下文节点组成的分层异构图；将所述声明和所述证据集进行拼接，对节点进行初始化，得到节点的特征表示；根据所述分层异构图中节点的神经网络传播方向，对节点的特征表示进行基于推理的更新；对更新后节点的特征表示进行推理路径的搭建，根据所述推理路径输出所述声明的预测结果。
[0042]
在一个实施例中，处理器执行计算机程序时还实现以下步骤：根据输入的所述声明，利用句子解析器提取所述声明的关键词组；通过检索工具的应用接口检索所述关键词组的关联文档，将所述关联文档存储在文章集中；搭建句子检索模型对所述文章集中的文章进行句子检索，输出和所述声明相关的关联句子；利用所述检索模型对所述关联句子进行相关度打分，将分数落在预设阈值之内的句子作为证据集。
[0043]
在一个实施例中，处理器执行计算机程序时还实现以下步骤：从所述证据集中分别提取出所有句子组成的上下文节点、证据句组成的句子节点和名词短语组成的实体节点；构建从所述实体节点到所述句子节点的第一有向边、从所述句子节点到所述上下文节点的第二有向边；根据所述实体节点构建句子级链接、上下文级链接和文章级链接的第三有向边。
[0044]
在一个实施例中，处理器执行计算机程序时还实现以下步骤：将所述实体节点、句子节点和上下文节点的特征表示进行拼接，并通过一个单层的感知器得到推理路径的特征表示；计算所述推理路径相对于所述声明的对齐向量，得到推理路径的选择概率；根据所述选择概率计算所述声明的预测标签分布，通过所述预测标签分布推理出所述声明的预测结果。
[0045]
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一非易失性计算机可读取存储介质中，该计算机程序在执行时，可包括如上述各方法的实施例的流程。
[0046]
以上实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
[0047]
以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本申请专利的保护范围应以所附权利要求为准。