变换参数确定方法、装置、电子设备及存储介质与流程

本发明涉及视频编码，具体涉及一种变换参数确定方法、装置、电子设备及存储介质。

背景技术：

1、在av1(aomedia video 1)中，变换编码(transform coding)是以块为单位进行的，这个块称为变换块(transform block)。通常而言，一个编码块可以按多种方式划分为多个变换块，每个变换块还可以进一步划分，得到多个更小的变换块。为了寻找最好的变换块划分方式，编码器需要为每个可能大小的变换块以及变换类型计算其率失真成本(ratedistortion cost，rd cost)，继而从中选择rd cost最小的作为最终的变换块大小和变换类型。而av1中变换块支持多种不同的大小分割，同时每种变换块支持16种可能的变换核类型，现有的方法需要遍历所有分割大小和变换核的组合，这个过程导致av1编码器的计算复杂度相当高的同时，编码效率低下。

技术实现思路

1、为了解决现有技术中存在的上述问题，本技术实施方式提供了一种变换参数确定方法、装置、电子设备及存储介质，可以在不降低av1视频编码器压缩性能前提下，快速确定当前编码块的最佳分割大小和变换核，继而在降低av1视频编码器的计算复杂度的同时，提升编码速度。

2、第一方面，本技术的实施方式提供了一种变换参数确定方法，该方法包括：

3、确定第一编码块的最大深度，其中，最大深度用于标识第一编码块的最大分割次数；

4、根据最大深度确定第一编码块的多个候选分割尺寸；

5、根据多个候选分割尺寸中的每个候选分割尺寸，对第一编码块进行分割，得到多个第二编码块；

6、根据多个第二编码块中每个第二编码块的属性信息，确定多个变换核，其中，多个变换核与多个第二编码块一一对应；

7、根据多个变换核中的每个变换核，对每个变换核对应的第二编码块进行变换处理，得到多个率失真成本，其中，多个率失真成本与多个变换核一一对应；

8、将多个率失真成本中，最小值对应的变换核，以及最小值对应的第二编码块的分割尺寸，作为第一编码块的变换参数。

9、在一种可能的实施方式中，根据多个第二编码块中每个第二编码块的属性信息，确定多个变换核，包括：

10、根据每个第二编码块的属性信息确定多个候选变换核；

11、根据多个候选变换核对每个第二编码块进行多次变换处理，确定每个第二编码块对应的变换核；

12、将每个第二编码块对应的变换核的集合，作为多个变换核；

13、其中，多次变换处理中的第i次变换处理包括：

14、根据候选变换核ai对每个第二编码块进行变换，确定哈达玛变换绝对差和bi，其中，候选变换核ai为多个候选变换核中第i个变换核，i为大于或等于1的整数；

15、若哈达玛变换绝对差和bi处于第一范围，则确定候选变换核ai为每个第二编码块对应的变换核；

16、若哈达玛变换绝对差和bi处于第二范围，则确定coeff值ci，当coeff值ci处于第三范围时，确定候选变换核ai为每个第二编码块对应的变换核，否则，结束第i次变换处理，进行第i+1次变换处理，直至确定出每个第二编码块对应的变换核或遍历完多个候选变换核；

17、若哈达玛变换绝对差和bi处于第四范围，则直接结束第i次变换处理，进行第i+1次变换处理，直至确定出每个第二编码块对应的变换核或遍历完多个候选变换核。

18、在一种可能的实施方式中，属性信息包括：画面内容信息和块类型信息，根据每个第二编码块的属性信息确定多个候选变换核，包括：

19、若每个第二编码块的画面内容信息满足第一条件，则确定多个第一变换核为每个第二编码块的多个候选变换核，其中，多个第一变换核为所有变换核中包括idtx变换的变换核；

20、若每个第二编码块的画面内容信息不满足第一条件，且每个第二编码块的块类型信息满足第二条件，则确定多个第二变换核为每个第二编码块的多个候选变换核，其中，多个第二变换核为所有变换核中不包括flipadst变换的变换核；

21、否则，则确定所有变换核为每个第二编码块的多个候选变换核。

22、在一种可能的实施方式中，当多个候选变换核为所有变换核中不包括flipadst变换的变换核时，在第1次变换处理中，候选变换核a1为dct_dct变换核。

23、在一种可能的实施方式中，在根据每个第二编码块的属性信息确定多个候选变换核之前，方法还包括：

24、确定每个第二编码块的相邻编码块的模式信息；

25、若模式信息满足第三条件，且每个第二编码块的尺寸信息满足第四条件，则结束对每个第二编码块的处理；

26、若模式信息满足第三条件，且每个第二编码块的预测模式满足第五条件，则对每个第二编码块中的指定区域进行后续处理，其中，指定区域为每个第二编码块右上角1/4区域。

27、在一种可能的实施方式中，确定第一编码块的最大深度，包括：

28、确定第一编码块的块类型；

29、根据块类型和第一编码块的尺寸信息确定第一编码块的当前深度；

30、若块类型满足第六条件，则第一编码块的最大深度为第一编码块的当前深度加1；

31、若块类型满足第七条件，则第一编码块的最大深度为第一编码块的当前深度加2。

32、在一种可能的实施方式中，在确定第一编码块的块类型之后，方法还包括：

33、根据当前深度，确定第一编码块是否存在前一深度；

34、若存在，则获取前一深度对应的编码块编码后的量化系数；

35、当量化系数满足第八条件时，结束对第一编码块的变换参数的确定处理。

36、第二方面，本技术的实施方式提供了一种变换参数确定装置，包括：

37、分析模块，用于确定第一编码块的最大深度，其中，最大深度用于标识第一编码块的最大分割次数，并根据最大深度确定第一编码块的多个候选分割尺寸，根据多个候选分割尺寸中的每个候选分割尺寸，对第一编码块进行分割，得到多个第二编码块；

38、遍历模块，用于根据多个第二编码块中每个第二编码块的属性信息，确定多个变换核，其中，多个变换核与多个第二编码块一一对应；

39、处理模块，用于根据多个变换核中的每个变换核，对每个变换核对应的第二编码块进行变换处理，得到多个率失真成本，其中，多个率失真成本与多个变换核一一对应，并将多个率失真成本中，最小值对应的变换核，以及最小值对应的第二编码块的分割尺寸，作为第一编码块的变换参数。

40、第三方面，本技术实施方式提供一种电子设备，包括：处理器，处理器与存储器相连，存储器用于存储计算机程序，处理器用于执行存储器中存储的计算机程序，以使得电子设备执行如第一方面的方法。

41、第四方面，本技术实施方式提供一种计算机可读存储介质，计算机可读存储介质存储有计算机程序，计算机程序使得计算机执行如第一方面的方法。

42、第五方面，本技术实施方式提供一种计算机程序产品，计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质，计算机可操作来使计算机执行如第一方面的方法。

43、实施本技术实施方式，具有如下有益效果：

44、在本技术实施方式中，通过确定第一编码块的最大深度，进一步确定第一编码块的多个候选分割尺寸，继而对分割尺寸进行筛选，减少需要遍历的分割尺寸数量。然后，根据多个候选分割尺寸中的每个候选分割尺寸，对第一编码块进行分割，得到多个第二编码块。继而根据多个第二编码块中每个第二编码块的属性信息，确定每个第二编码块对应的最佳变换核，得到多个变换核。最后，根据多个变换核中的每个变换核，对每个变换核对应的第二编码块进行变换处理，得到多个率失真成本。继而将多个率失真成本中，最小值对应的变换核，以及最小值对应的第二编码块的分割尺寸，作为第一编码块的变换参数。由此，仅需要遍历根据最大深度所确定出的多个候选分割尺寸、以及相应分割尺寸下的第二编码块与其对应的最佳变换核的组合，即可确定出第一编码块的最佳变换参数。相对于现有技术中，遍历所有可能的分割大小和变换核的组合的方案，本方案通过对分割大小和变换核的筛选极大的减少了需要遍历的组合数，继而可以在不降低av1视频编码器压缩性能前提下，快速确定当前编码块的最佳分割大小和变换核，实现在降低av1视频编码器的计算复杂度的同时，提升编码速度。