一种文图生成方法、装置、计算机设备及存储介质与流程

本申请实施例涉及图像生成，具体涉及一种文图生成方法、装置、计算机设备及存储介质。

背景技术：

1、文图生成是一种根据输入文本生成图像的技术，例如，向计算机设备输入一段文本，计算机设备可以使用文图生成程序生成符合文本描述的图像。文图生成在产品外观设计、艺术创作等场景具有广泛应用；基于文图生成的广泛应用，如何提高文图生成的准确性，从而提高文图生成性能，成为了本领域技术人员亟需解决的技术问题。

技术实现思路

1、有鉴于此，本申请实施例提供一种文图生成方法、装置、计算机设备及存储介质，以提高文图生成的准确性，提高文图生成性能。

2、为实现上述目的，本申请实施例提供如下技术方案。

3、第一方面，本申请实施例提供一种文图生成方法，包括：

4、获取输入的文本；

5、对所述文本进行编码，获取文本表征信息；所述文本表征信息包括文本描述的多个实体的嵌入表示信息，一个实体的嵌入表示信息包括实体在文本的文本嵌入表示信息，以及实体在知识图谱的知识图谱嵌入表示信息；

6、根据所述文本表征信息，生成符合文本描述的图像。

7、第二方面，本申请实施例提供一种文图生成方法，包括：

8、获取用户的文图生成请求，所述文图生成请求用于请求生成图像，并且所述文图生成请求携带有描述图像的文本，所述文本描述的图像属于任一图像领域；

9、调用文图生成模型，对所述文本进行编码，以获取文本表征信息，并根据所述文本表征信息，生成符合所述文本描述的图像；所述文本表征信息包括所述文本描述的多个实体的嵌入表示信息，所述文本描述的多个实体构成所述图像的组成要素，并且一个实体的嵌入表示信息包括实体在文本的文本嵌入表示信息，以及实体在知识图谱的知识图谱嵌入表示信息；

10、将生成的图像反馈给所述用户。

11、第三方面，本申请实施例提供一种文图生成装置，包括：文图生成模型；所述文图生成模型包括文本编码器和图像生成器；

12、所述文本编码器，用于获取输入的文本；对所述文本进行编码，获取文本表征信息；所述文本表征信息包括文本描述的多个实体的嵌入表示信息，一个实体的嵌入表示信息包括实体在文本的文本嵌入表示信息，以及实体在知识图谱的知识图谱嵌入表示信息；

13、所述图像生成器，用于根据所述文本表征信息，生成符合文本描述的图像。

14、第四方面，本申请实施例提供一种计算机设备，包括至少一个存储器和至少一个处理器，所述存储器存储一条或多条计算机可执行指令，所述处理器调用所述一条或多条计算机可执行指令，以执行如上述第一方面所述的文图生成方法，或者，如上述第二方面所述的文图生成方法。

15、第五方面，本申请实施例提供一种存储介质，所述存储介质存储一条或多条计算机可执行指令，所述一条或多条计算机可执行指令被执行时，实现如上述第一方面所述的文图生成方法，或者，如上述第二方面所述的文图生成方法。

16、第六方面，本申请实施例提供一种计算机程序，所述计算机程序被执行时，实现如上述第一方面所述的文图生成方法，或者，如上述第二方面所述的文图生成方法。

17、本申请实施例提供的文图生成方法，可以获取输入的文本，并对文本进行编码，以获取文本表征信息，其中，文本表征信息包括文本描述的多个实体的嵌入表示信息，并且一个实体的嵌入表示信息包括实体在文本的文本嵌入表示信息，以及实体在知识图谱的知识图谱嵌入表示信息；也就是说，文本表征信息中实体的嵌入表示信息结合了文本嵌入表示信息和知识图谱嵌入表示信息，可以从实体在文本上下文的表示维度，以及实体在知识图谱的表示维度，增强文本中的实体概念，从而使得由实体的嵌入表示信息所构成的文本表征信息更为准确；进而，本申请实施例可以根据文本表征信息，生成符合文本描述的图像，以实现在输入文本的情况，实现生成符合文本描述的图像。由于实体的嵌入表示信息结合了实体的文本嵌入表示信息和知识图谱嵌入表示信息，可以使得由实体的嵌入表示信息构成的文本表征信息的准确度得到提升，使得文本表征信息能够准确反映文本描述；进而在准确的文本表征信息的基础上，指导图像生成，能够使得所生成的图像的准确度提升，因此本申请实施例可以提高文图生成的准确性，提高文图生成性能。

技术特征：

1.一种文图生成方法，其中，包括：

2.根据权利要求1所述的方法，其中，所述对所述文本进行编码，获取文本表征信息包括：

3.根据权利要求1所述的方法，其中，所述文图生成方法利用文图生成模型实现，所述文图生成模型的训练过程包括：

4.根据权利要求3所述的方法，其中，所述确定训练实体在知识图谱数据集的知识图谱嵌入表示信息包括：

5.根据权利要求1所述的方法，其中，所述根据所述文本表征信息，生成符合文本描述的图像包括：

6.根据权利要求5所述的方法，其中，所述根据达到迭代结束条件时所生成的噪声图像在隐空间的潜在编码，确定符合文本描述的图像包括：

7.根据权利要求5所述的方法，其中，所述迭代的生成多个噪声图像在隐空间的潜在编码包括：使用扩散模型的类数值方法，迭代的进行多步去噪，以生成多个噪声图像在隐空间的潜在编码；其中，一步去噪对应生成一个噪声图像在隐空间的潜在编码。

8.根据权利要求3所述的方法，其中，还包括：

9.根据权利要求8所述的方法，其中，还包括：

10.根据权利要求1所述的方法，其中，还包括：

11.一种文图生成方法，其中，包括：

12.一种文图生成装置，其中，包括：文图生成模型；所述文图生成模型包括文本编码器和图像生成器；

13.根据权利要求12所述的装置，其中，还包括：

14.一种计算机设备，其中，包括至少一个存储器和至少一个处理器，所述存储器存储一条或多条计算机可执行指令，所述处理器调用所述一条或多条计算机可执行指令，以执行如权利要求1-10任一项所述的文图生成方法，或者，如权利要求11所述的文图生成方法。

技术总结
本申请实施例提供一种文图生成方法、装置、计算机设备及存储介质，其中方法包括：获取输入的文本；对所述文本进行编码，获取文本表征信息；所述文本表征信息包括文本描述的多个实体的嵌入表示信息，一个实体的嵌入表示信息包括实体在文本的文本嵌入表示信息，以及实体在知识图谱的知识图谱嵌入表示信息；根据所述文本表征信息，生成符合文本描述的图像。本申请实施例可以提高文图生成的准确性，提高文图生成性能。

技术研发人员：刘冰雁,汪诚愚,黄俊
受保护的技术使用者：阿里云计算有限公司
技术研发日：
技术公布日：2024/1/15