本发明涉及人工智能,具体涉及一种智能问答式理财顾问模型的训练处理方法及装置。
背景技术:
1、银行通过向用户提供手机银行来更好的服务用户,用户通过手机银行可以浏览其中的理财产品,当用户遇到理财方面的问题时可以通过语音电话咨询相关工作人员,相关工作人员可以在解答用户提出问题时,向该用户推荐适合的理财产品。
2、现有技术为了提高服务效率,通过理财产品推荐模型向用户推荐产品,以及通过咨询模型回答用户提出的问题,但是这两类模型在使用之前需要分别进行模型训练,耗时耗力,且效率低下,而且在模型训练完成后,需要分别调用两类模型分别向用户提供问题解答服务和理财产品推荐服务,造成了系统资源浪费。
技术实现思路
1、针对现有技术中的问题,本发明实施例提供一种智能问答式理财顾问模型的训练处理方法及装置,能够至少部分地解决现有技术中存在的问题。
2、一方面,本发明提出一种智能问答式理财顾问模型的训练处理方法,包括:
3、获取与推荐任务相对应的第一数据集,以及与问答任务相对应的第二数据集,根据所述第一数据集和所述第二数据集构建用于模型训练的任务语料库;
4、基于所述任务语料库对bert模型进行预训练,学习到与问题相关的用于向用户推荐的理财产品,根据学习到的所述理财产品和与问题对应的理财知识,学习生成回答问题的答案;
5、优化所述bert模型的模型结构和超参数组合,根据学习生成回答问题的答案与问题的真实答案之间的差异不断使得预设损失函数得到最优解,基于训练所述bert模型得到智能问答式理财顾问模型。
6、其中,获取与推荐任务相对应的第一数据集,包括:
7、从理财知识、用户个人特征信息、银行产品和环境特征四个方面进行数据收集,得到与推荐任务相对应的第一数据集。
8、其中,获取与问答任务相对应的第二数据集,包括:
9、对与理财产品推荐相关的问题对应的答案进行数据收集,得到与问答任务相对应的第二数据集。
10、其中,所述根据所述第一数据集和所述第二数据集构建用于模型训练的任务语料,包括:
11、对所述推荐任务和所述问答任务分别进行数据标注;
12、根据适配于所述bert模型的标记符号对完成数据标注的数据进行分隔;
13、根据问题主题类型和理财产品特征信息对完成分隔的数据进行分类存储;
14、根据实时获取的与问题主题类型对应的问题答案和理财产品特征信息,更新已存储的各类存储信息;
15、按照预设比例将更新的各类存储信息划分为训练集、测试集和验证集。
16、其中,所述基于所述任务语料库对bert模型进行预训练,学习到与问题相关的用于向用户推荐的理财产品,包括:
17、将所述bert模型作为编码器,输入银行产品和理财知识至所述编码器,得到表示银行产品和理财知识之间语义关联的上下文语义表示;
18、根据所述bert模型对用户问题进行预处理,得到问题语义表示,并根据所述问题语义表示和所述上下文语义表示确定问题和理财知识之间的整体相似度;
19、根据环境特征对用户个人特征信息进行修正,根据大于预设相似度阈值的整体相似度对应的目标理财知识,以及完成修正的用户个人特征信息学习到向用户推荐的理财产品。
20、其中,获取实时交互的市场经济数据;相应的,所述智能问答式理财顾问模型的训练处理方法还包括:
21、将学习到的所述理财产品、与问题对应的理财知识,以及实时交互的市场经济数据作为上下文或条件,学习生成回答问题的答案。
22、本发明提供一种基于上述智能问答式理财顾问模型的训练处理方法的问答处理方法,包括:
23、获取用户提出的问题;
24、基于所述智能问答式理财顾问模型对所述问题进行处理,得到问题答案和向所述用户推荐的理财产品;
25、其中,所述智能问答式理财顾问模型基于智能问答式理财顾问样本数据训练所述bert模型得到。
26、一方面,本发明提出一种智能问答式理财顾问模型的训练处理装置,包括:
27、获取单元,用于获取与推荐任务相对应的第一数据集,以及与问答任务相对应的第二数据集,根据所述第一数据集和所述第二数据集构建用于模型训练的任务语料库;
28、学习单元,用于基于所述任务语料库对bert模型进行预训练,学习到与问题相关的用于向用户推荐的理财产品,根据学习到的所述理财产品和与问题对应的理财知识,学习生成回答问题的答案;
29、训练单元,用于优化所述bert模型的模型结构和超参数组合,根据学习生成回答问题的答案与问题的真实答案之间的差异不断使得预设损失函数得到最优解,基于训练所述bert模型得到智能问答式理财顾问模型。
30、再一方面,本发明实施例提供一种电子设备,包括:处理器、存储器和总线,其中,
31、所述处理器和所述存储器通过所述总线完成相互间的通信;
32、所述存储器存储有可被所述处理器执行的程序指令,所述处理器调用所述程序指令能够执行如下方法:
33、获取与推荐任务相对应的第一数据集,以及与问答任务相对应的第二数据集,根据所述第一数据集和所述第二数据集构建用于模型训练的任务语料库;
34、基于所述任务语料库对bert模型进行预训练,学习到与问题相关的用于向用户推荐的理财产品,根据学习到的所述理财产品和与问题对应的理财知识,学习生成回答问题的答案;
35、优化所述bert模型的模型结构和超参数组合,根据学习生成回答问题的答案与问题的真实答案之间的差异不断使得预设损失函数得到最优解,基于训练所述bert模型得到智能问答式理财顾问模型。
36、本发明实施例提供一种非暂态计算机可读存储介质,包括:
37、所述非暂态计算机可读存储介质存储计算机指令,所述计算机指令使所述计算机执行如下方法:
38、获取与推荐任务相对应的第一数据集,以及与问答任务相对应的第二数据集,根据所述第一数据集和所述第二数据集构建用于模型训练的任务语料库;
39、基于所述任务语料库对bert模型进行预训练,学习到与问题相关的用于向用户推荐的理财产品,根据学习到的所述理财产品和与问题对应的理财知识,学习生成回答问题的答案;
40、优化所述bert模型的模型结构和超参数组合,根据学习生成回答问题的答案与问题的真实答案之间的差异不断使得预设损失函数得到最优解,基于训练所述bert模型得到智能问答式理财顾问模型。
41、本发明实施例提供的智能问答式理财顾问模型的训练处理方法及装置,获取与推荐任务相对应的第一数据集,以及与问答任务相对应的第二数据集,根据所述第一数据集和所述第二数据集构建用于模型训练的任务语料库;基于所述任务语料库对bert模型进行预训练,学习到与问题相关的用于向用户推荐的理财产品,根据学习到的所述理财产品和与问题对应的理财知识,学习生成回答问题的答案;优化所述bert模型的模型结构和超参数组合,根据学习生成回答问题的答案与问题的真实答案之间的差异不断使得预设损失函数得到最优解,基于训练所述bert模型得到智能问答式理财顾问模型,能够提高智能问答式理财顾问模型的训练效率。