模型矛盾现象的识别方法、装置、设备及存储介质与流程

所属的技术人员能够理解，本技术的各个方面可以实现为系统、方法或程序产品。因此，本技术的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式（包括固件、微代码等），或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。与上述方法实施例基于同一发明构思，本技术实施例中还提供了一种计算机设备。在一种实施例中，该计算机设备可以是服务器，如图2所示的服务器230。在该实施例中，计算机设备的结构如图6所示，可以至少包括存储器601、通讯模块603，以及至少一个处理器602。存储器601，用于存储处理器602执行的计算机程序。存储器601可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统，以及运行即时通讯功能所需的程序等；存储数据区可存储各种即时通讯信息和操作指令集等。存储器601可以是易失性存储器（volatile memory），例如随机存取存储器（random-access memory，ram）；存储器601也可以是非易失性存储器（non-volatilememory），例如只读存储器，快闪存储器（flash memory），硬盘（hard disk drive，hdd）或固态硬盘（solid-state drive，ssd）；或者存储器601是能够用于携带或存储具有指令或数据结构形式的期望的计算机程序并能够由计算机存取的任何其他介质，但不限于此。存储器601可以是上述存储器的组合。处理器602，可以包括一个或多个中央处理单元（central processing unit，cpu）或者为数字处理单元等等。处理器602，用于调用存储器601中存储的计算机程序时实现上述模型矛盾现象的识别方法。通讯模块603用于与终端设备和其他服务器进行通信。本技术实施例中不限定上述存储器601、通讯模块603和处理器602之间的具体连接介质。本技术实施例在图6中以存储器601和处理器602之间通过总线604连接，总线604在图6中以粗线描述，其它部件之间的连接方式，仅是进行示意性说明，并不引以为限。总线604可以分为地址总线、数据总线、控制总线等。为便于描述，图6中仅用一条粗线描述，但并不描述仅有一根总线或一种类型的总线。存储器601中存储有计算机存储介质，计算机存储介质中存储有计算机可执行指令，计算机可执行指令用于实现本技术实施例的模型矛盾现象的识别方法。处理器602用于执行上述的模型矛盾现象的识别方法，如图3a所示。在另一种实施例中，计算机设备也可以是其他计算机设备，如图2所示的终端设备210。在该实施例中，计算机设备的结构可以如图7所示，包括：通信组件710、存储器720、显示单元730、摄像头740、传感器750、音频电路760、蓝牙模块770、处理器780等部件。通信组件710用于与服务器进行通信。在一些实施例中，可以包括电路无线保真（wireless fidelity，wifi）模块，wifi模块属于短距离无线传输技术，电子设备通过wifi模块可以帮助对象收发信息。存储器720可用于存储软件程序及数据。处理器780通过运行存储在存储器720的软件程序或数据，从而执行终端设备210的各种功能以及数据处理。存储器720可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。存储器720存储有使得终端设备210能运行的操作系统。本技术中存储器720可以存储操作系统及各种应用程序，还可以存储执行本技术实施例模型矛盾现象的识别方法的计算机程序。显示单元730还可用于显示由对象输入的信息或提供给对象的信息以及终端设备210的各种菜单的图形用户界面（graphical user interface，gui）。具体地，显示单元730可以包括设置在终端设备210正面的显示屏732。其中，显示屏732可以采用液晶显示器、发光二极管等形式来配置。显示单元730可以用于显示本技术实施例中的缺陷检测界面、模型训练界面等。显示单元730还可用于接收输入的数字或字符信息，产生与终端设备210的对象设置以及功能控制有关的信号输入，具体地，显示单元730可以包括设置在终端设备210正面的触控屏731，可收集对象在其上或附近的触摸操作，例如点击按钮，拖动滚动框等。其中，触控屏731可以覆盖在显示屏732之上，也可以将触控屏731与显示屏732集成而实现终端设备210的输入和输出功能，集成后可以简称触摸显示屏。本技术中显示单元730可以显示应用程序以及对应的操作步骤。摄像头740可用于捕获静态图像，对象可以将摄像头740拍摄的图像通过应用发布。摄像头740可以是一个，也可以是多个。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件（charge coupled device，ccd）或互补金属氧化物半导体（complementary metal-oxide-semiconductor，cmos）光电晶体管。感光元件把光信号转换成电信号，之后将电信号传递给处理器780转换成数字图像信号。终端设备还可以包括至少一种传感器750，比如加速度传感器751、距离传感器752、指纹传感器753、温度传感器754。终端设备还可配置有陀螺仪、气压计、湿度计、温度计、红外线传感器、光传感器、运动传感器等其他传感器。音频电路760、扬声器761、传声器762可提供对象与终端设备210之间的音频接口。音频电路760可将接收到的音频数据转换后的电信号，传输到扬声器761，由扬声器761转换为声音信号输出。终端设备210还可配置音量按钮，用于调节声音信号的音量。另一方面，传声器762将收集的声音信号转换为电信号，由音频电路760接收后转换为音频数据，再将音频数据输出至通信组件710以发送给比如另一终端设备210，或者将音频数据输出至存储器720以便进一步处理。蓝牙模块770用于通过蓝牙协议来与其他具有蓝牙模块的蓝牙设备进行信息交互。例如，终端设备可以通过蓝牙模块770与同样具备蓝牙模块的可穿戴电子设备（例如智能手表）建立蓝牙连接，从而进行数据交互。处理器780是终端设备的控制中心，利用各种接口和线路连接整个终端的各个部分，通过运行或执行存储在存储器720内的软件程序，以及调用存储在存储器720内的数据，执行终端设备的各种功能和处理数据。在一些实施例中，处理器780可包括一个或多个处理单元；处理器780还可以集成应用处理器和基带处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，基带处理器主要处理无线通信。可以理解的是，上述基带处理器也可以不集成到处理器780中。本技术中处理器780可以运行操作系统、应用程序、用户界面显示及触控响应，以及本技术实施例的模型矛盾现象的识别方法。另外，处理器780与显示单元730耦接。在一些可能的实施方式中，本技术提供的模型矛盾现象的识别方法的各个方面还可以实现为一种程序产品的形式，其包括计算机程序，当程序产品在计算机设备上运行时，计算机程序用于使计算机设备执行本说明书上述描述的根据本技术各种示例性实施方式的模型矛盾现象的识别方法中的步骤，例如，计算机设备可以执行如图3a中所示的步骤。程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以是但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体地例子（非穷举的列表）包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器（ram）、只读存储器（rom）、可擦式可编程只读存储器（eprom或闪存）、光纤、便携式紧凑盘只读存储器（cd-rom）、光存储器件、磁存储器件、或者上述的任意合适的组合。本技术的实施方式的程序产品可以采用便携式紧凑盘只读存储器（cd-rom）并包括计算机程序，并可以在电子设备上运行。然而，本技术的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被命令执行系统、装置或者器件使用或者与其结合使用。可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读计算机程序。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由命令执行系统、装置或者器件使用或者与其结合使用的程序。可读介质上包含的计算机程序可以用任何适当的介质传输，包括但不限于无线、有线、光缆、rf等等，或者上述的任意合适的组合。可以以一种或多种程序设计语言的任意组合来编写用于执行本技术操作的计算机程序，程序设计语言包括面向对象的程序设计语言—诸如java、c++等，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。计算机程序可以完全地在用户计算机设备上执行、部分地在用户计算机设备上执行、作为一个独立的软件包执行、部分在用户计算机设备上部分在远程计算机设备上执行、或者完全在远程计算机设备上执行。在涉及远程计算机设备的情形中，远程计算机设备可以通过任意种类的网络包括局域网（lan）或广域网（wan）连接到用户计算机设备，或者，可以连接到外部计算机设备（例如利用因特网服务提供商来通过因特网连接）。应当注意，尽管在上文详细描述中提及了装置的若干单元或子单元，但是这种划分仅仅是示例性的并非强制性的。实际上，根据本技术的实施方式，上文描述的两个或更多单元的特征和功能可以在一个单元中具体化。反之，上文描述的一个单元的特征和功能可以进一步划分为由多个单元来具体化。此外，尽管在附图中以特定顺序描述了本技术方法的操作，但是，这并非要求或者暗示必须按照该特定顺序来执行这些操作，或是必须执行全部所示的操作才能实现期望的结果。附加地或备选地，可以省略某些步骤，将多个步骤合并为一个步骤执行，和/或将一个步骤分解为多个步骤执行。本领域内的技术人员应明白，本技术的实施例可提供为方法、系统、或计算机程序产品。因此，本技术可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本技术可采用在一个或多个其中包含有计算机可用计算机程序的计算机可用存储介质（包括但不限于磁盘存储器、cd-rom、光学存储器等）上实施的计算机程序产品的形式。本技术是参照根据本技术实施例的方法、设备（系统）、和计算机程序产品的流程图和／或方框图来描述的。应理解可由计算机程序命令实现流程图和／或方框图中的每一流程和／或方框、以及流程图和／或方框图中的流程和／或方框的结合。可提供这些计算机程序命令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的命令产生用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的装置。这些计算机程序命令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的命令产生包括命令装置的制造品，该命令装置实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能。这些计算机程序命令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的命令提供用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的步骤。尽管已描述了本技术的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例做出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本技术范围的所有变更和修改。显然，本领域的技术人员可以对本技术进行各种改动和变型而不脱离本技术的精神和范围。这样，倘若本技术的这些修改和变型属于本技术权利要求及其等同技术的范围之内，则本技术也意图包含这些改动和变型在内。

背景技术：

1、近年来，随着互联网技术的飞速发展，人工智能（artificial intelligence，ai）技术广泛应用于医疗领域，尤其是大语言模型（large language model，llm）在医疗领域中的应用越来越普及。llm帮助医生快速获取信息并制定决策，提高医疗效率与医疗服务质量。同时，llm还为患者提供了个性化的健康咨询与建议，帮助患者了解自身的身体健康情况。

2、然而，随着llm技术的发展，模型的矛盾现象却越发突出。这里的矛盾现象是指llm有时并不是完全理解了某些知识，而是处于一种似是而非的状态，由于llm对同一知识点的认知结果不同，导致模型在不同形式的对话中，给出截然不同的答案，形成了llm的矛盾现象。因此，如何识别llm的矛盾现象就成为了目前亟需解决的问题。

3、目前，提出设计常识问答题任务与常识造句题任务，来验证llm的矛盾现象。例如，针对同一知识三元组<狮子，居住，海洋>，生成一道常识问答题与一道常识造句题，llm针对常识问答题“请回答下面的常识问题：狮子居住在海洋中吗？”进行作答，给出的回答是“狮子不居住在海洋中”，llm针对常识造句题“请根据下列关键词造出一句符合常识的句子：狮子，居住，海洋”作答，给出的回答却是“狮子居住在海洋中”，常识问答题的回答表达了否定含义，但常识造句题的回答又表达了肯定含义，llm在不同形式的对话中，给出了截然不同的回答，由此判定llm出现了矛盾现象。

4、然而，采用上述方式只能识别出llm对明确定义否定知识的认知是否发生了矛盾，由于否定知识的设定原因，目前无法识别出llm对模糊定义否定知识的认知是否发生了矛盾。那么，当llm应用于实际应用场景时，由于对模糊定义否定知识的认知处于模棱两可状态，可能会在不同形式的对话中，给出截然不同的回答，影响对象判断等。

5、因此，为了解决上述问题，又提出了一种新的模型矛盾现象的识别方法。

技术实现思路

1、本技术实施例提供了一种模型矛盾现象的识别方法、装置、设备及存储介质，以解决无法识别出llm对模糊定义否定知识的认知是否发生了矛盾的问题。

2、第一方面，本技术实施例提供了一种模型矛盾现象的识别方法，包括：

3、获得包含多个肯定知识三元组的知识图谱，每个肯定知识三元组包括：头实体、尾实体以及实体关系；

4、针对所述知识图谱中的各头实体，分别执行以下操作：对与一个头实体具有相同类型的第一头实体集进行实体关系挖掘，针对所述第一头实体集关联的肯定知识三元组集中第一出现频率不小于设定阈值的实体关系对，分别将所述一个头实体与各实体关系对结合，生成实体间不具有相应实体关系的各否定知识三元组，以及，针对所述第一头实体集关联的肯定知识三元组中第二出现频率不小于设定阈值的实体关系，分别将所述一个头实体与各实体关系结合，生成所述一个头实体不具有相应实体关系的各否定知识三元组，其中，每个实体关系对包括：实体关系，以及具有实体关系的尾实体；

5、基于获得的多个否定知识三元组，对目标模型进行矛盾现象的识别操作，获得相应的矛盾现象识别结果。

6、第二方面，本技术实施例还提供了一种模型矛盾现象的识别装置，包括：

7、图谱获取单元，用于获得包含多个肯定知识三元组的知识图谱，每个肯定知识三元组包括：头实体、尾实体以及实体关系；

8、三元组挖掘单元，用于针对所述知识图谱中的各头实体，分别执行以下操作：对与一个头实体具有相同类型的第一头实体集进行实体关系挖掘，针对所述第一头实体集关联的肯定知识三元组集中第一出现频率不小于设定阈值的实体关系对，分别将所述一个头实体与各实体关系对结合，生成实体间不具有相应实体关系的各否定知识三元组，以及，针对所述第一头实体集关联的肯定知识三元组中第二出现频率不小于设定阈值的实体关系，分别将所述一个头实体与各实体关系结合，生成所述一个头实体不具有相应实体关系的各否定知识三元组，其中，每个实体关系对包括：实体关系，以及具有实体关系的尾实体；

9、识别单元，用于基于获得的多个否定知识三元组，对目标模型进行矛盾现象的识别操作，获得相应的矛盾现象识别结果。

10、可选的，所述识别单元用于：

11、当所述一个否定知识三元组表征实体间不具有相应实体关系时，将所述一个否定知识三元组填充到预设的第一题目模版中，生成以所述一个否定知识三元组为关键词造句的所述首轮测试题目；

12、当所述一个否定知识三元组表征所述一个头实体不具有相应实体关系时，基于预设的第二题目模版与所述一个否定知识三元组，生成询问哪些尾实体与所述一个否定知识三元组的头实体具有相应实体关系的所述首轮测试题目。

13、可选的，所述识别单元用于：

14、当所述首轮测试题目的回答中包含头实体时，将所述首轮测试题目的回答填充到预设的第三题目模版中，生成询问所述首轮测试题目的回答是否符合常理的所述下一轮测试题目；

15、当所述首轮测试题目的回答中未包含目标头实体时，将所述首轮测试题目与相应回答进行拼接，并将拼接文本填充到所述第三题目模版中，生成询问所述首轮测试题目的回答是否符合常理的所述下一轮题目。

16、第三方面，本技术实施例还提供了一种计算机设备，包括处理器和存储器，其中，所述存储器存储有程序代码，当所述程序代码被所述处理器执行时，使得所述处理器执行上述任意一种模型矛盾现象的识别方法的步骤。

17、第四方面，本技术实施例还提供了一种计算机可读存储介质，其包括程序代码，当程序产品在计算机设备上运行时，所述程序代码用于使所述计算机设备执行上述任意一种模型矛盾现象的识别方法的步骤。

18、第五方面，本技术实施例还提供了一种计算机程序产品，包括计算机指令，计算机指令被处理器执行上述任意一种模型矛盾现象的识别方法的步骤。

19、本技术有益效果如下：

20、本技术实施例提供了一种模型矛盾现象的识别方法、装置、设备及存储介质，该方法包括：

21、基于知识图谱中与各头实体具有相同类型的第一头实体集及其关联的实体关系，从包含多个肯定知识三元组的知识图谱中，挖掘出图谱中暗含的一些表征否定知识的三元组，丰富否定知识的内容，且挖掘过程中是图谱自身的进一步扩展、开发，未引入额外的提示信息，避免因提示信息中存在的噪声数据，产生挖掘稳定性差的问题。

22、本技术挖掘得到了两种形式的否定知识三元组，一种是明确定义实体间不具有相应实体关系的各否定知识三元组，另一种是模糊定义不具有相应实体关系的各否定知识三元组， 充分利用两种形式的否定知识三元组，对目标模型进行矛盾现象的识别判定，扩大矛盾现象的识别范围，及时地识别出导致模型发生矛盾现象的知识点，更加全面地了解目标模型对各知识点的认知水平，以免在模型应用于实际应用场景时，因未完全理解了某些知识，导致矛盾现象的产生，也能有效地提升模型在问答过程中的作答准确率以及产品使用对象的使用体验。

23、本技术的其它特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本技术而了解。本技术的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。