一种基于大语言模型的微调方法、系统、设备及介质与流程

文档序号:36506335发布日期:2023-12-28 16:25阅读:来源:国知局

技术特征:

1.一种基于大语言模型的微调方法,其特征在于,首先从智能中台获取工业知识图谱,根据待输入的查询问题和所述工业知识图谱生成知识图谱三元组训练数据,然后根据llm大语言模型构建微调模型,最后将所述三元组训练数据输入至所述微调模型中,得到知识图谱逻辑链溯源回答。

2.根据权利要求1所述的一种基于大语言模型的微调方法,其特征在于,所述基于大语言模型的微调方法具体包括以下步骤:

3.根据权利要求2所述的一种基于大语言模型的微调方法,其特征在于,所述步骤s1具体包括以下步骤:

4.根据权利要求3所述的一种基于大语言模型的微调方法,其特征在于,所述步骤s12具体包括以下步骤:

5.根据权利要求4所述的一种基于大语言模型的微调方法,其特征在于,所述步骤s2具体包括以下步骤:

6.根据权利要求5所述的一种基于大语言模型的微调方法,其特征在于,所述步骤s3具体包括以下步骤:

7.一种基于大语言模型的微调系统,其特征在于,包括预处理单元、构建单元、预测单元;所述预处理单元,用于从智能中台获取工业知识图谱,根据待输入的查询问题和所述工业知识图谱生成知识图谱三元组训练数据;

8.一种电子设备,其特征在于,包括存储器和处理器;所述存储器上存储有计算机程序;当所述计算机程序在所述处理器上执行时,实现如权利要求1-6任一项所述的基于大语言模型的微调方法。

9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机指令;当所述计算机指令在如权利要求8所述的电子设备上执行时,实现如权利要求1-6任一项所述的基于大语言模型的微调方法。


技术总结
本发明涉及工业自动化技术领域,具体地说,涉及一种基于大语言模型的微调方法、系统、设备及介质;首先从智能中台获取工业知识图谱,根据待输入的查询问题和所述工业知识图谱生成知识图谱三元组训练数据,然后根据LLM大语言模型构建微调模型,最后将所述三元组训练数据输入至所述微调模型中,得到知识图谱逻辑链溯源回答;通过将知识图谱作为控制模态进行微调,并基于逻辑链分解的知识图谱三元组训练数据,生成高质量的LLM微调数据集,能够充分利用知识图谱的内容和关系,缓解微调数据分布不均衡的问题,实现了基于知识图谱的上下文学习,将多种工业知识图谱作为大语言模型的输入,增强了大语言模型输出的可靠性和确定性。

技术研发人员:贾波,陈永志,陈欣,张思俊,曹磊
受保护的技术使用者:中电九天智能科技有限公司
技术研发日:
技术公布日:2024/1/15
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1