知识问答方法、装置、设备及存储介质与流程

文档序号:35062985发布日期:2023-08-09 02:02阅读:39来源:国知局
知识问答方法、装置、设备及存储介质与流程

本技术涉及大语言模型,更具体的说,是涉及一种知识问答方法、装置、设备及存储介质。


背景技术:

1、知识问答是指,用户向机器提出指令,由机器针对用户提出的指令给出对应的答复内容的过程。

2、近年来,伴随着人工智能技术的发展,越来越多的企业逐步探索将知识问答与深度学习相结合,通过生成式深度学习模型来输出与用户的提问相匹配的知识答案。但是,目前的深度学习模型仅能够处理一些较为简单的用户提问,对于复杂描述问题难以理解,进而导致无法给出准确的知识答案。并且,深度学习模型对训练语料的要求较高,在一些垂直应用领域内或开放域问答场景,用户的知识问答比较专业或偏僻,这些专业知识或偏僻知识可能并未在训练过程被深度学习模型所掌握,从而导致深度学习模型无法给出准确的知识答案,这也限制了知识问答的应用场景。


技术实现思路

1、鉴于上述问题,提出了本技术以便提供一种知识问答方法、装置、设备及存储介质,以解决现有方案无法针对复杂描述问题给出准确知识答案,以及在垂直应用领域或开放域问答场景下,现有方案输出的知识答案准确性不高的问题。具体方案如下:

2、第一方面,提供了一种知识问答方法,包括:

3、获取用户输入的问题文本,所述问题文本用于描述用户提出的问题;

4、按照思维链式推理策略,将所述问题文本拆解为若干个推理任务;

5、确定与所述推理任务对应的知识插件,并调用所述知识插件得到推理任务对应的知识搜索结果,其中,所述知识插件包括若干场景下的本地化知识资源和/或搜索引擎知识资源;

6、将所述问题文本及所述知识搜索结果拼接为提示指令prompt,输入至预配置的大语言模型,得到大语言模型输出的针对所述问题文本的答复内容。

7、优选地,所述按照思维链式推理策略,将所述问题文本拆解为若干推理任务,包括:

8、获取预配置的问题拆解提示指令模板,所述问题拆解提示指令模板包括问题文本槽,所述问题拆解提示指令模板用于指示大语言模型将所述问题文本槽内的问题文本拆解为若干个推理任务;

9、将所述问题文本填充至所述问题文本槽,得到编辑后问题拆解提示指令prompt;

10、将所述编辑后问题拆解提示指令prompt输入至所述大语言模型,得到大语言模型输出的对所述问题文本拆解后的若干个推理任务;

11、其中,所述大语言模型在训练阶段,采用训练问题文本及对应的按照思维链式推理策略进行拆解后的若干个推理任务为训练数据进行训练。

12、优选地,确定与所述推理任务对应的知识插件,包括:

13、获取预配置的插件选择提示指令模板,所述插件选择提示指令模板包括推理任务槽,所述插件选择提示指令模板用于提示大语言模型给出所述推理任务槽内的推理任务所依赖的知识插件,及将输入的问题文本转换为所述知识插件对应的输入格式要求;

14、将拆解后的每一推理任务分别填充至所述推理任务槽,得到每一推理任务对应的编辑后插件选择提示指令prompt;

15、将所述编辑后插件选择提示指令prompt输入至所述大语言模型,得到大语言模型输出的每一推理任务所依赖的知识插件,及符合所述知识插件输入格式要求的检索输入文本;

16、其中,所述大语言模型在训练阶段所使用的训练数据包括:对训练问题文本拆解后的推理任务、各推理任务所依赖的知识插件及按照该知识插件的输入格式要求对训练问题文本转换后的搜索输入文本。

17、优选地,调用所述知识插件得到推理任务对应的知识搜索结果的过程,包括:

18、对于每一推理任务:

19、调用推理任务所依赖的知识插件,并将得到的符合所述知识插件输入格式要求的检索输入文本传递给所述知识插件,以便所述知识插件按照所述检索输入文本进行知识搜索,并返回知识搜索结果,作为推理任务对应的知识搜索结果。

20、优选地,将所述问题文本及所述知识搜索结果拼接为提示指令prompt的过程,包括:

21、将所述问题文本、所述问题文本之前的历史知识问答对话信息及所述知识搜索结果拼接为提示指令prompt。

22、优选地,还包括:

23、结合所述问题文本拆解后的若干个推理任务,生成所述问题文本对应的推理描述信息;

24、则将所述问题文本及所述知识搜索结果拼接为提示指令prompt的过程,包括:

25、将所述问题文本、所述推理描述信息及所述知识搜索结果拼接为提示指令prompt;

26、或,

27、将所述问题文本、所述问题文本之前的历史知识问答对话信息、所述推理描述信息及所述知识搜索结果拼接为提示指令prompt。

28、优选地,结合所述问题文本拆解后的若干个推理任务,生成所述问题文本对应的推理描述信息,包括:

29、获取预配置的推理描述提示指令模板,所述推理描述提示指令模板包括推理任务槽,所述推理描述提示指令模板用于提示大语言模型基于所述推理任务槽内的各推理任务给出输入的问题文本对应的推理描述信息;

30、将拆解后的各个推理任务填充至所述推理任务槽,得到编辑后推理描述提示指令prompt;

31、将所述编辑后推理描述提示指令prompt输入至所述大语言模型,得到大语言模型输出的所述问题文本对应的推理描述信息;

32、其中,所述大语言模型在训练阶段所使用的训练数据包括:对训练问题文本拆解后的推理任务,及训练问题文本对应的推理描述信息。

33、优选地,在将所述问题文本及所述知识搜索结果拼接为提示指令prompt之前,还包括:

34、若一推理任务对应的知识搜索结果包括多条知识资源,则对所述多条知识资源进行加工,得到该推理任务对应的加工后知识资源,所述加工操作包括筛选、整合中的至少一项。

35、优选地,对所述多条知识资源进行加工,得到该推理任务对应的加工后知识资源的过程,包括:

36、获取预配置的知识加工提示指令模板,所述知识加工提示指令模板包括知识资源槽,所述知识加工提示指令模板用于提示大语言模型对所述知识资源槽内的各条知识资源进行加工处理给出加工后知识资源;

37、将所述多条知识资源填充至所述知识资源槽,得到编辑后知识加工提示指令prompt;

38、将所述编辑后知识加工提示指令prompt输入至所述大语言模型,得到大语言模型输出的加工后知识资源;

39、其中,所述大语言模型在训练阶段所使用的训练数据包括:对于同一推理任务的多条知识资源及人工对多条知识资源加工后的知识资源。

40、第二方面,提供了一种知识问答装置,包括:

41、输入信息获取单元,用于获取用户输入的问题文本,所述问题文本用于描述用户提出的问题;

42、问题拆解单元,用于按照思维链式推理策略,将所述问题文本拆解为若干个推理任务;

43、知识搜索单元,用于确定与所述推理任务对应的知识插件,并调用所述知识插件得到推理任务对应的知识搜索结果,其中,所述知识插件包括若干场景下的本地化知识资源和/或搜索引擎知识资源;

44、问答交互单元,用于将所述问题文本及所述知识搜索结果拼接为提示指令prompt,输入至预配置的大语言模型,得到大语言模型输出的针对所述问题文本的答复内容。

45、第三方面,提供了一种知识问答设备,包括:存储器和处理器;

46、所述存储器,用于存储程序;

47、所述处理器,用于执行所述程序,实现如前所述的知识问答方法的各个步骤。

48、第四方面,提供了一种存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时,实现如前所述的知识问答方法的各个步骤。

49、借由上述技术方案,本技术对于用户输入的问题文本,按照思维链式推理策略进行拆解,将问题文本拆解为若干个推理任务,进而在预配置的知识插件库中确定每一推理任务对应的知识插件,调用知识插件得到推理任务对应的知识搜索结果,其中知识插件库中的知识插件可以包括若干场景下的本地化知识资源和/或搜索引擎知识资源,进一步将问题文本和知识搜索结果拼接为提示指令送入大语言模型,得到大语言模型输出的针对问题文本的答复内容。由于本技术将用户的问题文本按照思维链式推理策略拆解为若干个推理任务,拆解后的各推理任务相比于原始的问题文本更加简单、易于理解,特别是对于复杂描述问题,通过拆解后得到的各个推理任务更加便于大语言模型理解,且该思维链式推理策略也更加符合大语言模型的处理逻辑,提升了对复杂描述问题的理解程度,进而有助于大语言模型给出正确的知识答复。

50、进一步地,本技术预先配置了多个知识插件,包括不同场景下的本地化知识资源和/或搜索引擎知识资源,对于一些垂直应用领域场景、开放域问答场景,通过调用相应的知识插件可以得到知识搜索结果,将该知识搜索结果与用户输入的问题文本拼接为prompt送入给大语言模型,可以使得大语言模型掌握相应的知识搜索结果,在此基础上能够输出更加准确的知识答复,使得知识问答的应用场景可以拓展到一些垂直应用领域场景及开放域应用场景。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1