一种基于大模型的问答方法、装置、设备及介质与流程

本申请涉及自然语言处理，尤其涉及一种基于大模型的问答方法、装置、设备及介质。

背景技术：

1、目前大模型在语义理解上，展现了超出理解的泛化能力，能够在低标注，甚至是零标注的情况下，达到很好的泛化效果。

2、但大模型同时存在明显缺陷：大模型是一个封闭的模型，其回复信息是基于大模型本身已有的知识体系进行回复，而城市云脑项目等特定应用场景中的很多知识，是存储在城市语音系统等特定数据库中。而由于大模型参数量巨大，调试成本高昂，很难基于城市语音系统等特定数据库对大模型进行调试，这就导致了大模型无法基于城市语音系统等特定数据库进行相对准确的问答。

技术实现思路

1、本申请提供了一种基于大模型的问答方法、装置、设备及介质，用以解决现有技术中大模型无法针对第三方数据库进行问答的问题。

2、第一方面，本申请实施例提供了一种基于大模型的问答方法，所述方法包括：

3、获取预先配置的问答模板，并将待回复的目标问题写入到所述问答模板中；其中所述问答模板中至少包括第三方数据库的数据库信息，以及用于提示大模型对所述目标问题进行思考的第一提示词；

4、将写入完成的问答模板输入到所述大模型中，所述大模型根据所述数据库信息以及所述第一提示词，对所述目标问题进行思考，基于思考结果确定所述目标问题对应的目标sql并输出；

5、根据所述大模型输出的所述目标sql，在所述第三方数据库中查找所述目标sql对应的目标数据；将所述目标数据输入到所述大模型中，所述大模型根据所述目标数据生成并输出回复信息。

6、第二方面，本申请实施例还提供了一种基于大模型的问答装置，所述装置包括：

7、处理模块，用于获取预先配置的问答模板，并将待回复的目标问题写入到所述问答模板中；其中所述问答模板中至少包括第三方数据库的数据库信息，以及用于提示大模型对所述目标问题进行思考的第一提示词；将写入完成的问答模板输入到所述大模型中，所述大模型根据所述数据库信息以及所述第一提示词，对所述目标问题进行思考，基于思考结果确定所述目标问题对应的目标sql并输出；

8、查找模块，用于根据所述大模型输出的所述目标sql，在所述第三方数据库中查找所述目标sql对应的目标数据；

9、所述处理模块，还用于将所述目标数据输入到所述大模型中，所述大模型根据所述目标数据生成并输出回复信息。

10、第三方面，本申请实施例提供了一种电子设备，所述电子设备包括处理器，所述处理器用于执行存储器中存储的计算机程序时实现如上述任一所述基于大模型的问答方法的步骤。

11、第四方面，本申请实施例提供了一种计算机可读存储介质，其存储有计算机程序，所述计算机程序被处理器执行时实现如上述任一所述基于大模型的问答方法的步骤。

12、在本申请实施例中，电子设备获取预先配置的问答模板，并将待回复的目标问题写入到该问答模板中；其中该问答模板中至少包括第三方数据库中存储的数据的数据库信息，以及用于提示大模型对该目标问题进行思考的第一提示词；将写入完成的问答模板输入到该大模型中，该大模型根据该数据库信息以及该第一提示词，对该目标问题进行思考，基于思考结果确定该目标问题对应的目标sql并输出；根据该大模型输出的该目标sql，在该第三方数据库中查找该目标sql对应的目标数据；将该目标数据输入到该大模型中，该大模型根据该目标数据生成并输出回复信息。在本申请实施例中，通过在问答模板中增加第三方数据库的数据库信息，以及提示大模型对待回复问题进行思考的提示词，使得大模型对目标问题进行思考，基于思考结果，确定并输出目标sql。电子设备可以根据大模型输出的目标sql，在第三方数据库中查找该目标sql对应的目标数据，大模型根据该目标数据生成答复信息，实现了问答过程，并提高问答的准确度。本申请实施例中，电子设备实现高准确率且充分利用第三方数据库中的数据进行回复，大大提升了大模型回复结果的可信赖度，并且提高了大模型的泛化能力和准确率。

技术特征：

1.一种基于大模型的问答方法，其特征在于，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述问答模板中还包括用于写入大模型生成的sql的第一字段；

3.根据权利要求2所述的方法，其特征在于，所述问答模板中还包括用于提示写入sql对应的数据的第二提示词及第二字段；

4.根据权利要求1所述的方法，其特征在于，所述问答模板中还包括用于提示所述大模型根据所述思考结果和所述目标数据，判断所述目标问题是否被解决的第三提示词；

5.根据权利要求4所述的方法，其特征在于，所述方法还包括：

6.根据权利要求1所述的方法，其特征在于，所述第三方数据库为城市语音系统的数据库。

7.一种基于大模型的问答装置，其特征在于，所述装置包括：

8.根据权利要求7所述的装置，其特征在于，所述问答模板中还包括用于写入大模型生成的sql的第一字段；

9.一种电子设备，其特征在于，所述电子设备包括处理器，所述处理器用于执行存储器中存储的计算机程序时实现如权利要求1-6任一所述基于大模型的问答方法的步骤。

10.一种计算机可读存储介质，其特征在于，其存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1-6中任一所述基于大模型的问答方法的步骤。

技术总结
本申请涉及自然语言处理技术领域，尤其涉及一种基于大模型的问答方法、装置、设备及介质。在本申请实施例中，通过在问答模板中增加第三方数据库的数据库信息，以及提示大模型对待回复问题进行思考的提示词，使得大模型对目标问题进行思考，基于思考结果，确定并输出目标SQL。电子设备可以根据大模型输出的目标SQL，在第三方数据库中查找该目标SQL对应的目标数据，大模型根据该目标数据生成答复信息，实现了问答过程，并提高问答的准确度。本申请实施例中，电子设备实现高准确率且充分利用第三方数据库中的数据进行回复，大大提升了大模型回复结果的可信赖度，并且提高了大模型的泛化能力、可信赖性和准确率。

技术研发人员：冯卫森,刘微,孟卫明
受保护的技术使用者：海信集团控股股份有限公司
技术研发日：
技术公布日：2024/1/15