医疗鉴别诊断方法、装置、电子设备及存储介质与流程

本发明涉及医疗，特别是涉及一种医疗鉴别诊断方法、装置、电子设备及存储介质。

背景技术：

1、医疗鉴别诊断是医生在诊断过程中经常使用的系统方法，主要用来识别并区分可能导致类似症状的多种疾病或病状。简而言之，鉴别诊断就是指定一个可能的疾病列表，疾病列表中的疾病内容能够解释患者当前的临床表现。由于医生对于其他科室或者专业外的其他医疗知识掌握程度有限，使得人工智能系统能够在一定程度上给予医生一些鉴别诊断列表。

2、目前，现有的医疗鉴别诊断系统方法主要有以下几种，一种是基于规则的专家系统方法，主要是利用专家总结出来的诊断规则构建知识库，然后通过推理引擎进行病症鉴别。还有一种是基于深度学习的算法模型，通过使用卷积神经网络（cnn）或者循环神经网络（rnn）来分析医疗数据，使得模型能够从数据中自动学习特征并推理出对应的诊断内容。还有一种是基于开源大语言模型，通过大语言模型在海量的医疗文本语料库中进行预训练，学习医学语言的通用模式、结构和语义，使得训练后的大语言模型具备很强的医疗知识理解能力和推理能力，最后直接使用prompt构造智能让大模型推理出相应的鉴别诊断结果。但是，基于规则的专家系统方法虽然具备一定的可解释性，但是需要大量的人力参与和规则制定进行维护，且知识覆盖范围有限。基于深度学习的算法模型需要大量的已标注数据集，且最终模型输出的结果质量取决于训练数据的质量。此外，基于开源大模型的方式虽然具有较强的知识理解能力和推理能力，但是大语言模型对于医疗领域的知识掌握程度有限，容易导致最终输出结果存在歧义。

3、综上所述，现有的医疗鉴别诊断方法对于医疗领域知识的掌握程度有限，且医疗鉴别诊断的预测结果准确性较低。

技术实现思路

1、基于此，有必要针对上述技术问题，提供一种对于医疗领域知识的掌握度较好且医疗鉴别诊断的预测结果准确度较高的医疗鉴别诊断方法、装置、电子设备及存储介质。

2、本发明提供了一种医疗鉴别诊断方法，所述方法包括：

3、获取医疗文本数据，并对所述医疗文本数据进行筛选，得到大语言模型的中文医疗词典，所述中文医疗词典用于应用到所述大语言模型的模型词典中；

4、通过所述医疗文本数据对所述大语言模型进行自然语言处理任务的continue预训练，得到医疗大模型；

5、对所述医疗大模型进行冻结处理，并通过低秩参数对所述医疗大模型进行微调，以对所述医疗大模型的下游任务进行对齐，得到医疗鉴别诊断大模型；

6、将当前病历文本作为所述医疗鉴别诊断大模型的输入，以调用所述医疗鉴别诊断大模型对所述当前病历文本进行处理，并输出所述当前病历文本的鉴别诊断结果。

7、在其中一个实施例中，所述医疗文本数据至少包括医疗文献、医疗问答、医疗知识图谱以及医疗电子病历；

8、所述获取医疗文本数据，并对所述医疗文本数据进行筛选，得到大语言模型的中文医疗词典，包括：

9、获取所述医疗文献、医疗问答、医疗知识图谱以及医疗电子病历，并从所述医疗文献、医疗问答、医疗知识图谱以及医疗电子病历中筛选出所述中文医疗词典；

10、将所述中文医疗词典作为所述模型词典应用到所述大语言模型中。

11、在其中一个实施例中，所述通过所述医疗文本数据对所述大语言模型进行自然语言处理任务的continue预训练，得到医疗大模型，包括：

12、将所述大语言模型中的其他transformer层进行冻结处理，并通过所述医疗文本数据对所述大语言模型中的新自然语言处理任务的嵌入层进行训练，以提升所述自然语言处理任务与其他任务的医疗语义空间理解；

13、基于所述通过所述医疗文本数据对所述大语言模型中的新自然语言处理任务的嵌入层进行训练，生成所述医疗大模型。

14、在其中一个实施例中，所述对所述医疗大模型进行冻结处理，并通过低秩参数对所述医疗大模型进行微调，以对所述医疗大模型的下游任务进行对齐，得到医疗鉴别诊断大模型，包括：

15、获取所述低秩参数，所述低秩参数为低秩的矩阵参数；

16、对所述医疗大模型进行冻结处理，并调用所述低秩参数通过低秩分解的方式对所述医疗大模型的下游任务进行对齐处理，生成所述医疗鉴别诊断大模型。

17、在其中一个实施例中，所述将当前病历文本作为所述医疗鉴别诊断大模型的输入，以调用所述医疗鉴别诊断大模型对所述当前病历文本进行处理，并输出所述当前病历文本的鉴别诊断结果，包括：

18、获取当前患者的所述当前病历文本，并调用所述医疗鉴别诊断大模型通过新自然语言处理任务的嵌入层以及transformer层对所述当前病历文本进行低秩分解；

19、基于所述调用所述医疗鉴别诊断大模型通过新自然语言处理任务的嵌入层以及transformer层对所述当前病历文本进行低秩分解，获取所述当前病历文本对应的矩阵维度。

20、在其中一个实施例中，所述将当前病历文本作为所述医疗鉴别诊断大模型的输入，以调用所述医疗鉴别诊断大模型对所述当前病历文本进行处理，并输出所述当前病历文本的鉴别诊断结果，还包括：

21、调用所述医疗鉴别诊断大模型根据所述当前病历文本对应的矩阵维度生成所述当前病历文本的鉴别诊断结果。

22、在其中一个实施例中，所述方法还包括：

23、调用所述大语言模型对所述医疗文本数据进行上下文分析，以根据所述医疗文本数据的上下文，对所述医疗文本数据对应的鉴别诊断结果进行预测；

24、基于所述医疗文本数据对应的鉴别诊断结果生成所述自然语言处理任务，并通过所述自然语言处理任务对所述大语言模型进行continue预训练。

25、本发明还提供了一种医疗鉴别诊断装置，所述装置包括：

26、数据筛选模块，用于获取医疗文本数据，并对所述医疗文本数据进行筛选，得到大语言模型的中文医疗词典，所述中文医疗词典用于应用到所述大语言模型的模型词典中；

27、模型预训练模块，用于通过所述医疗文本数据对所述大语言模型进行自然语言处理任务的continue预训练，得到医疗大模型；

28、模型微调模块，用于对所述医疗大模型进行冻结处理，并通过低秩参数对所述医疗大模型进行微调，以对所述医疗大模型的下游任务进行对齐，得到医疗鉴别诊断大模型；

29、鉴别诊断预测模块，用于将当前病历文本作为所述医疗鉴别诊断大模型的输入，以调用所述医疗鉴别诊断大模型对所述当前病历文本进行处理，并输出所述当前病历文本的鉴别诊断结果。

30、本发明还提供了一种电子设备，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现如上述任一种所述的医疗鉴别诊断方法。

31、本发明还提供了一种计算机存储介质，存储有计算机程序，所述计算机程序被处理器执行时实现如上述任一种所述的医疗鉴别诊断方法。

32、本发明还提供了一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现如上述任一种所述的医疗鉴别诊断方法。

33、上述医疗鉴别诊断方法、装置、电子设备及存储介质，通过获取大量的医疗文本数据，并对医疗文本数据进行筛选，得到用于应用到所述大语言模型的模型词典中的中文医疗词典。随后，通过医疗文本数据对大语言模型进行自然语言处理任务的continue预训练，得到医疗大模型。然后，对该医疗大模型进行冻结处理，并通过低秩参数对医疗大模型进行微调，以对医疗大模型的下游任务进行对齐，得到医疗鉴别诊断大模型。最后，将当前病历文本作为医疗鉴别诊断大模型的输入，以调用医疗鉴别诊断大模型对当前病历文本进行处理，并输出当前病历文本的鉴别诊断结果。该方法基于大语言模型使用医疗词汇和医疗语料做continue预训练，有助于专业医疗信息知识掌握，从而更好的理解病历与做鉴别诊断的推理。另外，使用低秩参数微调对齐方式能够激发大模型的鉴别诊断预测能力，比直接使用prompt构造指令让大模型推理出鉴别诊断的结果更专一并且输出的鉴别诊断结果准确度更高。