一种基于历史信息的多类型预测模式决策方法和系统与流程

本发明属于数据处理领域，特别是一种基于历史信息的多类型预测模式决策方法和系统。

背景技术：

1、目前，国际视频vvc标准和我国音视频avs3(the third generation ofaudiovideo coding standard)标准及之前的版本或扩展版标准中，各种预测模式主要包括帧内预测模式、帧间预测模式、(intra string copy，isc)模式、帧内块复制(intrablock copy，ibc)等。以avs3编码器为例，对于每个编码单元的帧内预测模式决策至少包括以下步骤：第一步：计算帧内块复制模式率失真优化值：包括进行bv预测，通过历史信息缓存、运动估计以及哈希搜索选取合适的候选bv,并逐一尝试计算每个bv带来的sad、消耗比特数和对应的率失真优化值cost，选取cost最低的bv，作为帧内块复制最终选中的bv，该cost即为所求的帧内块复制模式率失真优化值。第二步：计算普通帧内预测模式率失真优化值：包括遍历所有普通帧内预测模式的子模式，计算每种使用子模式编码当前块的satd、以及编码模式信息所需比特数、从而计算率失真优化值cost，选取cost最低的普通帧内预测模式子模式作为最优预测模式，该cost即为所求的普通帧内预测模式的率失真优化值。第三步：计算帧内串复制模式率失真优化值：包括在当前编码单元左上角、上方和左方编码单元中寻找相似区域，并计算相似区域与当前编码单元的残差，从而计算率失真优化值。第四步：判断以上哪种模式的率失真优化值最低，则选用该模式作为最优帧内预测模式。

2、目前帧内预测模式决策未充分利用当前编码单元的预测模式跟历史编码信息的关联，对所有内容都采用逐个遍历多类型预测模式的方法，存在编码复杂度极高的问题。本技术中将上述决策方法命名为全模式预测模式决策方法。

技术实现思路

0、
技术实现要素：

1、本发明要解决是现有帧内预测模式决策对所有内容都采用逐个遍历多类型预测模式的方法，存在编码复杂、难度过高的问题。

2、本发明提出一种基于历史信息的多类型预测模式决策方法和系统。

3、一种基于历史信息的多类型预测模式决策方法，包括：

4、步骤1，根据应用场景，判断出编码过程中存在的预测模式的类型，动态保存至少一种预测模式的历史编码信息，根据当前编码单元的历史编码信息得到其选中概率最高的至少一个预测模式，用得到的预测模式组成候选模式列表；

5、步骤2，计算当前编码单元分别使用候选模式列表中的预测模式进行帧内预测的率失真优化值，记为cost，对候选列表中的所有模式，根据其cost值进行排序，选出最优cost；

6、步骤3，根据最优cost判断是否符合预设条件，若符合，则选取其对应的模式作为当前编码单元的最优预测模式，并将提前终止标记位设置为1；若不符合，则将提前终止标记位设置为0。

7、步骤4，在该编码单元后续的帧内预测编码过程中，若检测到提前终止标记位为1，则跳过后续模式决策的过程，将当前编码单元的最优预测模式经过熵编码后写入码流；若检测到提前终止标记位为0，则继续进行模式决策，通过比较各种模式的率失真优化值来获得最优预测模式，将最优预测模式经过熵编码后写入码流。

8、优选的，所述步骤1中，得到候选模式列表的方式为：编码器在做模式决策时遍历所有能选择的预测模式，并记录每个编码单元最终选中的预测模式，统计所有编码单元选中预测模式的概率，根据各种预测模式被选中概率的高低进行排序，用其中选中概率最高的n种预测模式组成候选模式列表，其中n为小于预测模式数量的整数。

9、优选的，所述步骤1中，判断出编码过程中存在的预测模式的类型的方式为：判断是否开启帧内块复制工具，如果开启，则编码过程中包含帧内块复制的预测模式决策；判断是否开启帧内串复制工具，如果开启，则编码过程中包含帧内串复制的预测模式决策；判断当前编码单元是否属于i帧，如果是，则编码过程中不包含帧间预测模式决策，包含帧内预测模式决策；如果否，则编码过程中包含帧内预测模式决策和帧间预测模式决策。

10、优选的，所述步骤2中，所述率失真优化值包括sad、stad、mse、sse、satd中一种以上的任意组合，其中sad表示绝对差和，是对两帧图像像素之间的差值进行绝对值求和；stad表示截断绝对差和，是在sad的基础上加入截断值，将绝对差值小于阈值的项忽略；mse表示均方误差，是对两幅图像之间的每一个像素之间的差值的平方求平均；sse表示平方和误差，是对两幅图像之间的每一个像素之间的差值的平方求和；satd表示绝对变换差值和，是对预测图像和参考图像的变换差值进行求和。

11、优选的，所述步骤1中，率失真优化值的计算方式为：计算使用当前预测模式进行编码的satd，根据当前预测模式是否与mpm相等，对当前预测模式进行编码，得到将模式信息写入码流的比特数，根据satd、模式信息写入码流比特数和拉格朗日乘子计算率失真优化值；其中，mpm表示最可能模式，由编码器预设规则计算得出。

12、优选的，所述satd的计算方式为：对当前编码单元，使用给定的预测模式进行预测，生成残差信号后，对残差信号进行哈达曼变换，计算变换后系数的绝对值的和，其为satd。

13、优选的，所述写入码流比特数的计算方式为：依据当前预测模式与mpm的关系，使用上下文模型编码，记录编码消耗比特数。

14、优选的，所述率失真优化值的计算方式为：cost＝satd+sqrt(l ambda)*b it_cnt，其中l ambda为拉格朗日乘子，由当前编码单元所在宏块的qp决定，bit_cnt为将模式信息写入码流所需的比特数。

15、优选的，所述历史编码信息包括普通帧内预测模式的x个子模式或者帧内块复制模式的h个运动矢量或者帧内串复制模式的l个运动矢量中的至少一种。若所述历史编码信息中包含普通帧内预测模式的x个子模式，则在进行帧内预测前首先对历史信息中包含的x个子模式进行预测，并根据当前编码单元的宽和高导出提前终止的阈值；若所述历史信息中包含帧内块复制模式的h个运动矢量或者帧内串复制模式的l个运动矢量中的至少一种，则根据历史编码过程中进行帧内块复制模式及帧内串复制模式决策时，不同宽和高的编码单元所取得的最优模式的率失真优化值导出提前终止的阈值。

16、一种基于历史信息的多类型预测模式决策系统，基于所述的基于历史信息的多类型预测模式决策方法，包括：

17、保存历史编码信息模块，动态保存至少一种预测模式的历史编码信息；

18、快速预测模式决策模块，根据任一所述历史编码信息，依次获得当前编码单元的率失真优化值，当所述率失真优化值满足预设条件时，跳过全模式预测模式决策步骤，否则执行全模式预测模式决策步骤，获得最优预测模式信息；

19、预测模式信息编码模块，将当前编码单元的最优预测模式信息经过熵编码后写入码流。

20、本发明同现有技术相比具有以下优点及效果：

21、本发明通过保存一种或多种多类型预测模式历史编码信息，根据历史编码信息获得当前编码单元的率失真优化值，当率失真优化值满足预设条件时跳过全模式决策的编码方法，能够实现快速模式决策，节省编码时间，降低编码难度。