一种视频编码的编码尺寸判决方法、装置、设备及介质与流程

本技术涉及视频编码，尤其涉及一种视频编码的编码尺寸判决方法、装置、设备及介质。

背景技术：

1、h.265/hevc(high efficiency video coding，高效视频编码)作为新一代视频编码标准，相比上一代视频编码标准h.264/avc在压缩效率上提升了一倍，同时编码复杂度也大大增加。主要是由于hevc中引入了一些新技术，如大尺寸四叉树分割、35种帧内预测模式、rdo(rate distortion optimization，率失真优化)技术和sao(sample adaptiveoffset，样点自适应偏移)技术等。其中rdo过程需要计算每一种编码尺寸和预测单元的编码代价，从中选择代价最小的作为最佳尺寸和预测模式，因此，rdo过程是编码器编码过程中计算量最大的部分。

2、为了降低帧内编码的复杂度，减少计算量，现有技术采用从空域相关性的角度估计当前编码树单元的深度预测范围的方法来控制编码块的深度划分范围，或者利用编码单元的图像纹理特征采用不同的快速算法进行模式选择和提前终止划分，但只考虑空域相关性或只考虑图像纹理特征对于降低帧内编码复杂度仍具有较大的局限性。

3、因此，现有技术中存在因在视频编码时仅考虑空域相关性或仅考虑图像纹理特征导致帧内编码复杂度仍然很高的问题。

技术实现思路

1、本技术提供了一种视频编码的编码尺寸判决方法、装置、设备及介质，能够有效地减少视频编码的计算量，降低编码计算复杂度。

2、第一方面，本技术实施例提供了一种视频编码的编码尺寸判决方法，该方法应用于视频编码设备，该方法包括：

3、获取与当前编码树单元相邻的多个相邻编码树单元对应的多个编码深度值；

4、根据各相邻编码树单元的编码深度值和各相邻编码树单元对应的预设权重因子计算得到当前编码树单元的预测深度值；

5、基于罗伯茨梯度算子计算当前编码树单元的纹理复杂度；

6、根据预测深度值和纹理复杂度确定当前编码树单元的初步遍历深度范围；

7、基于初步遍历深度范围对当前编码树单元中划分的当前编码单元执行提前终止划分机制，得到当前编码单元的最优编码尺寸。

8、进一步的，多个相邻编码树单元包括当前编码树单元的左编码树单元、上编码树单元、左上编码树单元和右上编码树单元；左编码树单元和上编码树单元对应的预设权重因子为第一权重因子，左上编码树单元和右上编码树单元对应的预设权重因子为第二权重因子；

9、第一权重因子大于第二权重因子。

10、进一步的，上述基于罗伯茨梯度算子计算当前编码树单元的纹理复杂度，包括：

11、基于罗伯茨梯度算子根据当前编码树单元的宽度值、高度值和多个像素值进行计算，得到当前编码树单元的平均梯度值；

12、根据预设第一纹理阈值、预设第二纹理阈值、预设第三纹理阈值和平均梯度值得到当前编码树单元的纹理复杂度。

13、进一步的，初步遍历深度范围包括第一深度值、第二深度值和第三深度值；

14、基于初步遍历深度范围对当前编码树单元中划分的当前编码单元执行提前终止划分机制，得到当前编码单元的最优编码尺寸，包括：

15、根据第一深度值确定当前编码单元的当前划分尺寸；

16、根据当前划分尺寸和当前编码单元对应的多个像素值计算得到当前编码单元的纹理平坦度，检测纹理平坦度是否小于预设平坦度阈值；若小于，则提前终止划分，并将当前划分尺寸作为最优编码尺寸；若大于等于，则执行率失真代价判断步骤。

17、进一步的，上述执行率失真代价判断步骤，包括：

18、获取当前编码树单元中的尺寸与当前划分尺寸相同的多个已编码单元的第一平均率失真代价，获取左编码树单元、上编码树单元和左上编码树单元中的尺寸和当前划分尺寸相同的多个已编码单元的第二平均率失真代价；

19、根据第一平均率失真代价和第二平均率失真代价计算得到率失真代价阈值；

20、获取当前编码单元的最优率失真代价，检测最优率失真代价是否小于率失真代价阈值；若小于，则提前终止划分，并将当前划分尺寸作为当前编码单元的最优编码尺寸；若大于等于，则执行边缘特征判断步骤。

21、进一步的，上述执行边缘特征判断步骤，包括：

22、根据计算得到的当前编码单元的边缘特征判断当前编码单元是否含有边缘；

23、若当前编码单元含有边缘，则根据当前编码树单元的纹理复杂度、预测深度值和当前划分尺寸判断是否提前终止划分；若提前终止划分，则将当前划分尺寸作为当前编码单元的最优编码尺寸；若不提前终止划分，则执行最优尺寸比较步骤；

24、若当前编码单元不含有边缘，则判断当前编码单元的4个子编码单元是否含有边缘，若含有边缘，则根据当前编码树单元的纹理复杂度和预测深度值判断是否提前终止划分；若提前终止划分，则将当前划分尺寸作为当前编码单元的最优编码尺寸；若不含有边缘或者若不提前终止划分，则执行最优尺寸比较步骤。

25、进一步的，上述执行最优尺寸比较步骤，包括：

26、根据初步遍历深度范围中的第二深度值确定第二划分尺寸；

27、根据第二划分尺寸对当前编码单元进行划分，得到第二尺寸编码单元；

28、计算当前编码单元的率失真代价和第二尺寸编码单元的率失真代价并比较；

29、若当前编码单元的率失真代价大于等于第二尺寸编码单元的率失真代价，则将当前划分尺寸作为当前编码单元的最优编码尺寸；

30、若当前编码单元的率失真代价小于第二尺寸编码单元的率失真代价，则将第二划分尺寸作为当前编码单元的最优编码尺寸。

31、第二方面，本技术实施例提供了一种视频编码的编码尺寸判决装置，该装置应用于视频编码设备，该装置包括：

32、编码深度值获取模块，用于获取与当前编码树单元相邻的多个相邻编码树单元对应的多个编码深度值；

33、预测深度值获取模块，用于根据各相邻编码树单元的编码深度值和各相邻编码树单元对应的预设权重因子计算得到当前编码树单元的预测深度值；

34、纹理复杂度计算模块，用于基于罗伯茨梯度算子计算当前编码树单元的纹理复杂度；

35、初步遍历深度确定模块，用于根据预测深度值和纹理复杂度确定当前编码树单元的初步遍历深度范围；

36、提前终止划分模块，用于基于初步遍历深度范围对当前编码树单元中划分的当前编码单元执行提前终止划分机制，得到当前编码单元的最优编码尺寸。

37、第三方面，本技术实施例提供了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行计算机程序时执行如上述任一实施例的一种视频编码的编码尺寸判决方法的步骤。

38、第四方面，本技术实施例提供了一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现如上述任一实施例的一种视频编码的编码尺寸判决方法的步骤。

39、综上，与现有技术相比，本技术实施例提供的技术方案带来的有益效果至少包括：

40、本技术实施例提供的一种视频编码的编码尺寸判决方法，本技术根据相邻编码树单元的编码深度值计算当前编码树单元的预测深度值，考虑了编码的空域相关性；再根据预测深度值和纹理复杂度计算当前编码树单元的初步深度遍历范围，即初步深度遍历范围是联合了空域相关性和图像纹理特征得到的，这使得初步深度遍历范围中深度值对应的编码尺寸结果更加精确、准确；再在初步深度遍历范围的基础上，对编码树单元划分编码单元的尺寸时应用提前终止划分机制，能够在初步深度遍历范围中的几个最接近最优编码尺寸的深度值中，进一步缩小范围，从而确定最优的编码尺寸，避免了视频编码的率失真优化过程中对每一种编码尺寸和对应编码代价的遍历计算，减少了视频编码的计算量，降低了编码计算复杂度。