视频图像解码方法及装置与流程

文档序号:21362285发布日期:2020-07-04 04:36阅读:184来源:国知局
视频图像解码方法及装置与流程

本申请实施例涉及视频编解码领域,尤其涉及一种视频图像解码方法及装置。



背景技术:

随着信息技术的发展,高清晰度电视,网络会议,iptv,3d电视等视频业务迅速发展,视频信号以其直观性和高效性等优势成为人们日常生活中获取信息最主要的方式。由于视频信号包含的数据量大,需要占用大量的传输带宽和存储空间。为了有效的传输和存储视频信号,需要对视频信号进行压缩编码,视频压缩技术越来越成为视频应用领域不可或缺的关键技术。

视频压缩编码的基本原理是,利用视频序列在空域、时域和码字之间的相关性,进行编码,从而尽可能地去除视频序列之间的冗余。目前主要根据图像块的混合视频编码框架,通过预测(包括帧内预测和帧间预测)、变换、量化、熵编码等步骤来实现视频压缩编码。

在一种编/解码方法中,可以将帧间预测与帧内预测进行结合使用,称为帧内帧间预测模式,在实际应用中,可以选择帧间预测、帧内预测、帧内帧间预测模式中的一种进行编/解码,现有预测方法中,在帧间预测引入子块融合模式,帧内帧间预测引入了trianglepu方式。但是子块融合模式与帧内帧间预测模式不能兼容使用。



技术实现要素:

本申请实施例提供一种视频图像解码方法及装置,能够实现多种预测模式的兼容,从而提高解码效率。

第一方面,本申请实施例提供了一种视频图像解码方法,包括:

从码流中解析第一标识;并且从所述码流中解析第二标识;当所述第二标识指示所述当前待处理图像块采用帧内帧间预测模式时,从所述码流中解析第三标识,所述第三标识用于指示所述当前待处理图像块所采用的帧内预测模式;当所述第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式时,根据所述子块预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块;根据所述第三标识指示的帧内预测模式,对所述当前待处理图像块执行帧内预测,得到所述当前待处理图像块的帧内预测块;对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块。

本申请实施例中,第一标识用于指示对当前待处理图像块进行帧间预测是否采用子块预测模式,第二标识用于指示当前待处理图像块是否采用帧内帧间预测模式。

示例性的,假如该子块预测模式为子块融合模式,在标准文本或代码中第一标识可以通过语法元素merge_subblock_flag[x0][y0]来表示,比如merge_subblock_flag[x0][y0]==1时,指示对当前待处理图像块进行帧间预测采用子块融合模式,merge_subblock_flag[x0][y0]==0时,指示对当前待处理图像块进行帧间预测不采用子块融合模式。

示例性的,在标准文本或代码中第二标识可以通过语法元素mh_intra_flag[x0][y0]来表示,比如mh_intra_flag[x0][y0]==1时,指示当前待处理图像块允许采用帧内帧间预测模式,mh_intra_flag[x0][y0]==0时,指示当前待处理图像块不采用帧内帧间预测模式。

在一种示例下,上述解析第二标识的条件还可以包括:

if(sps_mh_intra_enabled_flag&&cu_skip_flag[x0][y0]==0&&(cbwidth*cbheight)>=64&&cbwidth<128&&cbheight<128),即允许采用帧内帧间预测模式,且不采用skip模式,并且当前待处理图像块的宽度与高度的乘积大于或者等于64个像素,且当前待处理图像块的宽度小于128个像素,当前待处理图像块的高度小于128个像素。

应理解的是,上述解析第一标识与解析第二标识是独立的过程,本申请实施例中,不限制解析第一标识与解析第二标识的顺序。

上述第三标识用于指示当前待处理图像块所采用的帧内预测模式,该第三标识可以是帧内预测模式中的一个或多个标识的组合,换言之,解析第三标识可以包括解析第三一标识,当第三一标识为真时进一步解析第三二标识,通过解析第三一标识和第三二标识可以确定当前待处理图像块所采用的帧内预测模式,第三一标识用于指示是否从帧内候选列表中选择了一种帧内模式,例如第三一标识为mh_intra_luma_mpm_flag[x0][y0],当mh_intra_luma_mpm_flag[x0][y0]==1时,表示从帧内候选列表中选择了一种帧内预测模式,进而解析得到第三二标识,该第三二标识为帧内模式索引用于指示帧内候选列表中的帧内目标预测模式,例如第三二标识为mh_intra_luma_mpm_idx[x0][y0]。

在另一种示例中,上述解析第三标识的条件还可以包括:

if(cbwidth<=2*cbheight||cbheight<=2*cbwidth),即当前待处理图像块的宽度小于或者等于其高度的2倍或者当前待处理图像块的高度小于或者等于其宽度的2倍。

在一种可能的实施方式下,本申请实施例提供了一种视频图像解码方法还包括:当所述第一标识指示对所述当前待处理图像块进行帧间预测不采用子块预测模式时,从所述码流中解析第四标识;当所述第四标识指示对所述当前待处理图像块进行帧间预测采用三角预测单元方式时,根据所述三角预测单元方式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

应理解的是,在这种情况下,用于加权求和的帧间预测块是采用三角预测单元方式得到的,不再采用子块预测模式得到。

上述第四标识用于指示对当前待处理图像块进行帧间预测是否采用三角预测单元(trianglepu)方式,换句话说,第三标识用于指示当前待处理图像块进行帧间预测是否允许trianglepu方式。示例性的,在标准文本或代码中,第四标识可以通过语法元素skip_triangle_flag[x0][y0]或者triangle_flag[x0][y0]或者merge_triangle_flag[x0][y0]来表示。以merge_triangle_flag[x0][y0]为例,比如merge_triangle_flag[x0][y0]==1时,指示对当前待处理图像块进行帧间预测采用trianglepu方式,merge_triangle_flag[x0][y0]==0时,指示对当前待处理图像块进行帧间预测不采用trianglepu方式。

在另一种示例下,上述解析第四标识条件可以包括:

merge_subblock_flag[x0][y0]==0&&sps_triangle_enabled_flag&&slice_type==b&&cbwidth*cbheight>=16,即对当前待处理图像块进行帧间预测不采用子块预测模式,并且允许采用三角预测单元方式进行帧间预测,其中,slice_type==b&&cbwidth*cbheight>=16为是否允许采用三角预测单元方式进行帧间预测的条件。

应理解,在从码流中解析第四标识时,需要先解析第一标识,当第一标识指示对当前待处理图像块进行帧间预测不采用子块预测模式时,才执行从码流中解析第四标识。

本申请实施例中,上述对帧间预测块与帧内预测块进行加权求和包括:将帧间预测块的像素值和帧内预测块的同位像素值依次加权求和。

在一种可能的实施方式下,当所述第四标识指示对所述当前待处理图像块进行帧间预测不采用所述三角预测单元方式,且所述当前待处理图像块满足第一条件时,从所述码流中解析第五标识,所述第一条件至少包括:所述第一标识指示对所述当前待处理图像块进行帧间预测不采用子块预测模式;根据所述第五标识指示的第一帧间预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

应理解,在这种情况下,用于加权求和的帧间预测块是采用第一帧间预测模式得到的,不再采用三角预测单元方式得到。

示例性的,该第一条件还可以包括:候选列表的长度大于1,例如maxnummergecand>1。

应理解,该第五标识用于指示第一帧间预测模式,该第一帧间预测模式可以为merge模式或amvp模式,或其他不同于上述子块预测模式和trianglepu方式的预测模式。

若上述第一帧间预测模式为merge模式,则第五标识可以为候选列表(包括控制点的候选运动信息多元组)中目标运动信息的索引,例如第五标识可以为merge_ixd。

本申请实施例中,第一标识为假时,例如merge_subblock_flag[x0][y0]==0,解析第四标识,当第四标识为假时,例如merge_triangle_flag[x0][y0]==0,解析第五标识,例如merge_ixd,可见,解析第五标识的条件为第一标识为假且解析的第四标识为假。

应理解的是,在语法结构中设计有三角预测单元方式,并且满足允许采用三角预测单元方式,在从码流中解析第五标识时,需要先解析第四标识(当然解析第四标识时,需要先解析第一标识,且该第一标识指示对当前待处理图像块进行帧间预测不采用子块预测模式),当第四标识指示对当前待处理图像块进行帧间预测不采用三角预测单元方式时,才执行从码流中解析第五标识。

在一种可能的实施方式下,当所述当前待处理图像块满足第一条件时,从所述码流中解析第五标识,所述第一条件至少包括:所述第一标识指示对所述当前待处理图像块进行帧间预测不采用子块预测模式;根据所述第五标识指示的第一帧间预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

应理解,从码流中解析第五标识的第一条件还可以包括:候选列表长度大于1,例如maxnummergecand>1。

现有技术中,在不解析是否采用trianglepu方式的第四标识的情况下,例如语法元素的设计中不考虑trianglepu方式(即未设计trianglepu方式),或不满足允许采用trianglepu方式进行帧间预测的条件(例如merge_subblock_flag[x0][y0]==0&&sps_triangle_enabled_flag&&slice_type==b&&cbwidth*cbheight>=16),仍需解析第五标识,如此造成解码冗余。在本申请实施例中,当第一标识为假(例如merge_subblock_flag[x0][y0]==0),且候选列表长度大于1(例如maxnummergecand>1)时,解析第五标识,否则不解析第五标识,如此能够避免解码冗余。

在一种可能的实施方式下,所述子块预测模式包括子块融合模式、仿射合并预测模式、仿射先进运动矢量预测模式、高级时域运动矢量预测模式中的任一种。

在实际应用中,可以从上述子块预测模式中选择任一种子块预测模式对当前待处理图像块执行帧间预测,本申请实施例不作限制。

在一种可能的实施方式下,所述子块预测模式为所述子块融合模式,并且当所述第一标识指示对所述当前待处理图像块进行帧间预测采用子块预测模式,所述方法还包括:从所述码流中解析第六标识,所述第六标识用于指示所述子块融合模式对应的候选列表中的目标候选运动信息。

示例性的,在上述第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式,还需解析第六标识,该第六标识可以为目标候选运动信息在子块融合模式对应的候选列表中的索引。示例性的,在标准文本或代码中,该第六标识可以通过语法元素merge_subblock_idx[x0][y0]来表示,例如,当merge_subblock_flag[x0][y0]==1时,需解析merge_subblock_idx[x0][y0]。

在另一种示例中,上述从码流中解析第六标识的条件可以包括:第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式,并且子块融合模式对应的候选列表的长度大于1,例如maxnumsubblockmergecand>1,即在第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式的情况下,判断候选列表的长度是否大于1,在候选列表的长度大于1时,解析第六标识。

需要说明的是,本申请实施例中,若第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式,且上述候选列表的长度等于1,则无需解析第六标识(也可以理解为第六标识不存在),此时,直接将候选列表中的1个候选运动信息作为目标候选运动信息。

所述根据所述子块预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块,包括:在所述子块融合模式下,根据所述目标候选运动信息,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

在一种可能的实施方式下,所述根据所述三角预测单元方式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块,包括:构建所述当前待处理图像块的第一三角预测单元对应的第一单向候选运动信息列表和所述当前待处理图像块的第二三角预测单元对应的第二单向候选运动信息列表;根据所述第一单向候选运动信息列表,确定所述第一三角预测单元的目标运动信息,并且根据所述第一三角预测单元的目标运动信息,确定所述第一三角预测单元的预测值;根据所述第二单向候选运动信息列表,确定所述第二三角预测单元的目标运动信息,并且根据所述第二三角预测单元的目标运动信息,确定所述第二三角预测单元的预测值;并且根据所述第一三角预测单元的预测值和所述第二三角预测单元的预测值,对所述当前待处理图像块的斜边区域进行自适应加权,得到所述当前待处理图像块的帧间预测块。

示例性的,针对斜边区域的大小有两组加权系数可用,例如:

第一组加权系数为:{7/8,6/8,4/8,2/8,1/8}及{7/8,4/8,1/8},分别用于亮度点和色度点。

第二组加权系数:{7/8,6/8,5/8,4/8,3/8,2/8,1/8}及{6/8,4/8,2/8}分别用于亮度点和色度点。

实际应用中,可以采用上述两种加权系数中的一组进行编/解码,当两个三角预测单元的参考图像不同或它们的运动矢量之间的差异大于16个像素,则选择第二组加权系数,否则使用第一组加权系数。

在一种可能的实施方式下,所述对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块,包括:当所述当前待处理图像块满足下述条件中的一个或多个:所述帧内预测模式为dc预测模式或planar预测模式、所述当前待处理图像块的高度小于m个像素、所述当前待处理图像块的宽度小于n个像素时,基于帧内加权系数与所述帧内预测块的所有像素值的乘积与帧间加权系数与所述帧间预测块的所有像素值的乘积之和,确定所述当前待处理图像块的预测块,其中,所述帧内加权系数与所述帧间加权系数相同,m、n均为正整数,m与n相同或者不同。

示例性的,m可以为4,n也可以为4,在标准文本中,m、n也可以为其他的正整数,本申请实施例不作限定。

需要说明的是,本申请实施例中,不排除对帧间预测块与帧内预测块进行加权完成之后还进行其他的处理过程。

在一种可能的实施方式下,所述对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块,包括:当所述当前待处理图像块满足下述条件中的一个或多个:所述当前待处理图像块的高度大于或者等于m个像素、所述当前待处理图像块的宽度大于或者等于n个像素时;若所述帧内预测模式为水平预测模式,则基于第i个加权系数对中的帧内加权系数与所述帧内预测块的第i个分区对应的所有像素值的乘积与所述第i个加权系数对中的帧间加权系数与所述帧间预测块的第i个分区对应的所有像素值的乘积之和,确定所述待处理图像块的第i分区的预测值,从而得到所述当前待处理图像块的预测块,其中,所述第i个分区的高度与所述当前待处理图像块的高度相同,i=1,2,……,n,n为正整数;若所述帧内预测模式为垂直预测模式,则基于第j个加权系数对中的帧内加权系数与所述帧内预测块的第j个分区对应的所有像素值的乘积与所述第j个加权系数对中的帧间加权系数与所述帧间预测块的第j个分区对应的所有像素值的乘积之和,确定所述待处理图像块的第j分区的预测值,从而得到所述当前待处理图像块的预测块,其中,所述第j个分区的宽度与所述当前待处理图像块的宽度相同,j=1,2,……,m,m为正整数。

上述第i个加权系数对对应于第i分区,第j个加权系数对对应于第j分区。

应理解,上述第i个分区的高度与当前待处理图像块的高度相同即说明上述n个分区为n个垂直划分而成的分区,也就是说,当帧内预测模式为水平预测模式时,将帧内预测块和帧间预测块分别按照垂直方式划分为n个分区。上述第j个分区的宽度与当前待处理图像块的宽度相同即说明上述m个分区为m个水平划分而成的分区,也就是说,当帧内预测模式为垂直预测模式时,将帧内预测块和帧间预测块分别按照水平方式划分为m个分区。

示例性的,上述n可以为4,即帧内预测块和帧间预测块分别包括4个分区,当然,在标准文本中,n的取值也可能为其他值,本申请实施例不作限定。上述m可以为4,即帧内预测块和帧间预测块分别包括4个分区,当然,在标准文本中,m的取值也可能为其他值,本申请实施例不作限。

可选的,上述n个分区的大小可以相同,例如帧内预测块和帧间预测块分别包括4个大小相同的分区,当然,在标准文本中,上述n个分区的大小也可能不相同,本申请实施例不作限定。上述m个分区的大小可以相同,例如帧内预测块和帧间预测块分别包括4个大小相同的分区,当然,在标准文本中,上述m个分区的大小也可能不相同,本申请实施例不作限定。

第二方面,本申请实施例提供一种视频图像解码方法,该方法包括:解析码流,以得到标识信息,所述标识信息包括第一标识、第二标识和第三标识,所述第一标识用于指示对当前待处理图像块进行帧间预测是否采用子块预测模式;所述第二标识用于指示所述当前待处理图像块采用帧内帧间预测模式,所述第三标识用于指示所述当前待处理图像块所采用的帧内预测模式;当所述第一标识指示对所述当前待处理图像块进行帧间预测采用所述子块预测模式时,根据所述子块预测模式对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块;并且根据所述第三标识指示的帧内预测模式对所述当前待处理图像块执行帧内预测,得到所述当前待处理图像块的帧内预测块;以及对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块。

应理解的是,第二标识指示当前待处理图像块采用帧内帧间预测模式,即可以理解为第二标识只有一种数值,例如mh_intra_flag[x0][y0]==1。

在一种可能的实施方式下,当所述第一标识指示对所述当前待处理图像块进行帧间预测不采用子块预测模式时,所述标识信息还包括第四标识,所述第四标识用于指示对所述当前待处理图像块进行帧间预测是否采用三角预测单元方式;当所述第四标识指示对所述当前待处理图像块进行帧间预测采用三角预测单元方式时,根据所述三角预测单元方式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

在一种可能的实施方式下,当所述第四标识指示对所述当前待处理图像块进行帧间预测不采用三角预测单元方式,且所述当前待处理图像块满足第一条件时,所述标识信息还包括第五标识,所述第五标识用于指示对所述当前待处理图像块进行帧间预测采用的第一帧间预测模式,所述第一条件至少包括:所述第一标识指示对所述当前待处理图像块进行帧间预测不采用子块预测模式;本申请实施例提供的视频图像解码方法还包括:根据所述第五标识指示的第一帧间预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

在一种可能的实施方式下,当所述当前待处理图像块满足第一条件时,所述标识信息还包括第五标识,所述第五标识用于指示对所述当前待处理图像块进行帧间预测采用的第一帧间预测模式,所述第一条件至少包括:所述第一标识指示对所述当前待处理图像块进行帧间预测不采用子块预测模式;本申请实施例提供的视频图像解码方法还包括:根据所述第五标识指示的第一帧间预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

在一种可能的实施方式下,所述子块预测模式包括子块融合模式、仿射合并预测模式、仿射先进运动矢量预测模式、高级时域运动矢量预测模式中的任一种。

在一种可能的实施方式下,所述子块预测模式为子块融合模式,并且当所述第一标识指示对所述当前待处理图像块进行帧间预测采用子块融合模式时,所述标识信息还包括第六标识,所述第六标识用于指示所述子块融合模式对应的候选列表中的目标候选运动信息。

在一种可能的实施方式下,所述根据所述三角预测单元方式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块,包括:构建所述当前待处理图像块的第一三角预测单元对应的第一单向候选运动信息列表和所述当前待处理图像块的第二三角预测单元对应的第二单向候选运动信息列表;根据所述第一单向候选运动信息列表,确定所述第一三角预测单元的目标运动信息,并且根据所述第一三角预测单元的目标运动信息,确定所述第一三角预测单元的预测值;根据所述第二单向候选运动信息列表,确定所述第二三角预测单元的目标运动信息,并且根据所述第二三角预测单元的目标运动信息,确定所述第二三角预测单元的预测值;并且根据所述第一三角预测单元的预测值和所述第二三角预测单元的预测值,对所述当前待处理图像块的斜边区域进行自适应加权,得到所述当前待处理图像块的帧间预测块。

在一种可能的实施方式下,所述对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块,包括:当所述当前待处理图像块满足下述条件中的一个或多个:所述帧内预测模式为dc预测模式或planar预测模式、所述当前待处理图像块的高度小于m个像素、所述当前待处理图像块的宽度小于n个像素时,将帧内加权系数与所述帧内预测块的所有像素值的乘积与帧间加权系数与所述帧间预测快的所有像素值之和,确定为所述当前待处理图像块的预测块,其中,所述帧内加权系数与所述帧间加权系数相同,m、n均为正整数,m与n相同或者不同。

在一种可能的实施方式下,所述对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块,包括:

当所述当前待处理图像块满足下述条件中的一个或多个:所述当前待处理图像块的高度大于或者等于m个像素、所述当前待处理图像块的宽度大于或者等于n个像素时;若所述帧内预测模式为水平预测模式,则将第i个加权系数对中的帧内加权系数与所述帧内预测块的第i个分区对应的所有像素值的乘积与所述第i个加权系数对中的帧间加权系数与所述帧间预测块的第i个分区对应的所有像素值的乘积之和,确定为所述待处理图像块的第i分区的预测值,从而得到所述当前待处理图像块的预测块,其中,所述第i个分区的高度与所述当前待处理图像块的高度相同,i=1,2,……,n,n为正整数;若所述帧内预测模式为垂直预测模式,则将第j个加权系数对中的帧内加权系数与所述帧内预测块的第j个分区对应的所有像素值的乘积与所述第j个加权系数对中的帧间加权系数与所述帧间预测块的第j个分区对应的所有像素值的乘积之和,确定为所述待处理图像块的第j分区的预测值,从而得到所述当前待处理图像块的预测块,其中,所述第j个分区的宽度与所述当前待处理图像块的宽度相同,j=1,2,……,m,m为正整数。

上述第i个加权系数对对应于第i分区,第j个加权系数对对应于第j分区。

第三方面,本申请实施例提供一种视频图像解码方法,该方法包括:解析码流,以得到标识信息,所述标识信息包括第一标识、第二标识和第三标识,所述第一标识用于指示所述当前待处理图像块所采用的子块预测模式,所述第二标识用于指示当前待处理图像块采用帧内帧间预测模式;所述第三标识用于指示所述当前待处理图像块所采用的帧内预测模式;根据所述第一标识指示的子块帧间预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块;根据所述第三标识指示的帧内预测模式,对所述当前待处理图像块执行帧内预测,得到所述当前待处理图像块的帧内预测块;对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块。

应理解的是,第一标识指示所述当前待处理图像块所采用的子块预测模式,即可以理解为第一标识只有一种数值,具体指示一种子块预测模式,例如子块融合模式。

在一种可能的实施方式下,所述子块预测模式包括子块融合模式、仿射合并预测模式、仿射先进运动矢量预测模式、高级时域运动矢量预测模式中的任一种。

第四方面,本申请实施例提供一种视频图像解码装置,包括用于实施第一方面的任意一种方法的若干个功能单元,举例来说,该视频图像解码装置包括熵解码单元、帧间预测单元和帧间预测单元。其中,所述熵解码单元用于从码流中解析第一标识;所述熵解码单元还用于从所述码流中解析第二标识;所述熵解码单元还用于当所述第二标识指示所述当前待处理图像块采用帧内帧间预测模式时,从所述码流中解析第三标识,所述第三标识用于指示所述当前待处理图像块所采用的帧内预测模式;所述帧间预测单元用于当所述第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式时,根据所述子块预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块;所述帧内预测单元用于根据所述第三标识指示的帧内预测模式,对所述当前待处理图像块执行帧内预测,得到所述当前待处理图像块的帧内预测块;所述帧间预测单元还用于对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块。

在一种可能的实施方式下,所述熵解码单元还用于当所述第一标识指示对所述当前待处理图像块进行帧间预测不采用子块预测模式时,从所述码流中解析第四标识;所述帧间预测单元还用于当所述第四标识指示对所述当前待处理图像块进行帧间预测采用三角预测单元方式时,根据所述三角预测单元方式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

在一种可能的实施方式下,所述熵解码单元还用于当所述第四标识指示对所述当前待处理图像块进行帧间预测不采用所述三角预测单元方式,且所述当前待处理图像块满足第一条件时,从所述码流中解析第五标识,所述第一条件至少包括:所述第一标识指示对所述当前待处理图像块进行帧间预测不采用子块预测模式;所述帧间预测单元还用于根据所述第五标识指示的第一帧间预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

在一种可能的实施方式下,所述熵解码单元还用于当所述当前待处理图像块满足第一条件时,从所述码流中解析第五标识,所述第一条件至少包括:所述第一标识指示对所述当前待处理图像块进行帧间预测不采用子块预测模式;所述帧间预测单元还用于根据所述第五标识指示的第一帧间预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

在一种可能的实施方式下,所述子块预测模式包括子块融合模式、仿射合并预测模式、仿射先进运动矢量预测模式、高级时域运动矢量预测模式中的任一种。

在一种可能的实施方式下,所述子块预测模式为所述子块融合模式,并且当所述第一标识指示对所述当前待处理图像块进行帧间预测采用子块预测模式时;所述熵解码单元还用于从所述码流中解析第六标识,所述第六标识用于指示所述子块融合模式对应的候选列表中的目标候选运动信息;所述帧间预测单元具体用于在所述子块融合模式下,根据所述目标候选运动信息,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

在一种可能的实施方式下,在所述根据所述三角预测单元方式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块的方面,所述帧间预测单元具体用于:构建所述当前待处理图像块的第一三角预测单元对应的第一单向候选运动信息列表和所述当前待处理图像块的第二三角预测单元对应的第二单向候选运动信息列表;根据所述第一单向候选运动信息列表,确定所述第一三角预测单元的目标运动信息,并且根据所述第一三角预测单元的目标运动信息,确定所述第一三角预测单元的预测值;根据所述第二单向候选运动信息列表,确定所述第二三角预测单元的目标运动信息,并且根据所述第二三角预测单元的目标运动信息,确定所述第二三角预测单元的预测值;根据所述第一三角预测单元的预测值和所述第二三角预测单元的预测值,对所述当前待处理图像块的斜边区域进行自适应加权,得到所述当前待处理图像块的帧间预测块。

在一种可能的实施方式下,在所述对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块的方面,所述帧间预测单元具体用于当所述当前待处理图像块满足下述条件中的一个或多个:所述帧内预测模式为dc预测模式或planar预测模式、所述当前待处理图像块的高度小于m个像素、所述当前待处理图像块的宽度小于n个像素时,基于帧内加权系数与所述帧内预测块的所有像素值的乘积与帧间加权系数与所述帧间预测块的所有像素值的乘积之和,确定所述当前待处理图像块的预测块,其中,所述帧内加权系数与所述帧间加权系数相同,m、n均为正整数,m与n相同或者不同。

在一种可能的实施方式下,在所述对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块的方面,所述帧间预测单元具体用于:当所述当前待处理图像块满足下述条件中的一个或多个:所述当前待处理图像块的高度大于或者等于m个像素、所述当前待处理图像块的宽度大于或者等于n个像素时;若所述帧内预测模式为水平预测模式,则基于第i个加权系数对中的帧内加权系数与所述帧内预测块的第i个分区对应的所有像素值的乘积与所述第i个加权系数对中的帧间加权系数与所述帧间预测块的第i个分区对应的所有像素值的乘积之和,确定所述待处理图像块的第i分区的预测值,从而得到所述当前待处理图像块的预测块,其中,所述第i个分区的高度与所述当前待处理图像块的高度相同,i=1,2,……,n,n为正整数;若所述帧内预测模式为垂直预测模式,则基于第j个加权系数对中的帧内加权系数与所述帧内预测块的第j个分区对应的所有像素值的乘积与所述第j个加权系数对中的帧间加权系数与所述帧间预测块的第j个分区对应的所有像素值的乘积之和,确定所述待处理图像块的第j分区的预测值,从而得到所述当前待处理图像块的预测块,其中,所述第j个分区的宽度与所述当前待处理图像块的宽度相同,j=1,2,……,m,m为正整数。

上述第i个加权系数对对应于第i分区,第j个加权系数对对应于第j分区。

第五方面,本申请实施例提供一种视频图像解码装置,包括用于实施第二方面的任意一种方法的若干个功能单元。举例来说,该视频图像解码装置可以包括:包括熵解码单元、帧间预测单元和帧内预测单元;所述熵解码单元用于解析码流,以得到标识信息,所述标识信息包括第一标识、第二标识和第三标识,所述第一标识用于指示对当前待处理图像块进行帧间预测是否采用子块预测模式;所述第二标识用于指示所述当前待处理图像块采用帧内帧间预测模式,所述第三标识用于指示所述当前待处理图像块所采用的帧内预测模式;所述帧间预测单元用于当所述第一标识指示对所述当前待处理图像块进行帧间预测采用所述子块预测模式时,根据所述子块预测模式对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块;所述帧内预测单元用于根据所述第三标识指示的帧内预测模式对所述当前待处理图像块执行帧内预测,得到所述当前待处理图像块的帧内预测块;所述帧间预测单元还用于对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块。

在一种可能的实施方式下,当所述第一标识指示对所述当前待处理图像块进行帧间预测不采用子块预测模式时,所述标识信息还包括第四标识,所述第四标识用于指示对所述当前待处理图像块进行帧间预测是否采用三角预测单元方式;所述帧间预测单元还用于当所述第四标识指示对所述当前待处理图像块进行帧间预测采用三角预测单元方式时,根据所述三角预测单元方式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

在一种可能的实施方式下,当所述第四标识指示对所述当前待处理图像块进行帧间预测不采用三角预测单元方式,且所述当前待处理图像块满足第一条件时,所述标识信息还包括第五标识,所述第五标识用于指示对所述当前待处理图像块进行帧间预测采用的第一帧间预测模式,所述第一条件至少包括:所述第一标识指示对所述当前待处理图像块进行帧间预测不采用子块预测模式;所述帧间预测单元还用于根据所述第五标识指示的第一帧间预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

在一种可能的实施方式下,当所述当前待处理图像块满足第一条件时,所述标识信息还包括第五标识,所述第五标识用于指示对所述当前待处理图像块进行帧间预测采用的第一帧间预测模式,所述第一条件至少包括:所述第一标识指示对所述当前待处理图像块进行帧间预测不采用子块预测模式;所述帧间预测单元还用于根据所述第五标识指示的第一帧间预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

在一种可能的实施方式下,所述子块预测模式包括子块融合模式、仿射合并预测模式、仿射先进运动矢量预测模式、高级时域运动矢量预测模式中的任一种。

在一种可能的实施方式下,所述子块预测模式为子块融合模式,并且当所述第一标识指示对所述当前待处理图像块进行帧间预测采用子块融合模式时,所述标识信息还包括第六标识,所述第六标识用于指示所述子块融合模式对应的候选列表中的目标候选运动信息。

在一种可能的实施方式下,在所述根据所述三角预测单元方式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块的方面,所述帧间预测单元具体用于:构建所述当前待处理图像块的第一三角预测单元对应的第一单向候选运动信息列表和所述当前待处理图像块的第二三角预测单元对应的第二单向候选运动信息列表;根据所述第一单向候选运动信息列表,确定所述第一三角预测单元的目标运动信息,并且根据所述第一三角预测单元的目标运动信息,确定所述第一三角预测单元的预测值;根据所述第二单向候选运动信息列表,确定所述第二三角预测单元的目标运动信息,并且根据所述第二三角预测单元的目标运动信息,确定所述第二三角预测单元的预测值;并且根据所述第一三角预测单元的预测值和所述第二三角预测单元的预测值,对所述当前待处理图像块的斜边区域进行自适应加权,得到所述当前待处理图像块的帧间预测块。

在一种可能的实施方式下,在所述对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块的方面,所述帧间预测单元具体用于当所述当前待处理图像块满足下述条件中的一个或多个:所述帧内预测模式为dc预测模式或planar预测模式、所述当前待处理图像块的高度小于m个像素、所述当前待处理图像块的宽度小于n个像素时,将帧内加权系数与所述帧内预测块的所有像素值的乘积与帧间加权系数与所述帧间预测快的所有像素值之和,确定为所述当前待处理图像块的预测块,其中,所述帧内加权系数与所述帧间加权系数相同,m、n均为正整数,m与n相同或者不同。

在一种可能的实施方式下,在所述对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块的方面,所述帧间预测单元具体用于:当所述当前待处理图像块满足下述条件中的一个或多个:所述当前待处理图像块的高度大于或者等于m个像素、所述当前待处理图像块的宽度大于或者等于n个像素时;若所述帧内预测模式为水平预测模式,则将第i个加权系数对中的帧内加权系数与所述帧内预测块的第i个分区对应的所有像素值的乘积与所述第i个加权系数对中的帧间加权系数与所述帧间预测块的第i个分区对应的所有像素值的乘积之和,确定为所述待处理图像块的第i分区的预测值,从而得到所述当前待处理图像块的预测块,其中,所述第i个分区的高度与所述当前待处理图像块的高度相同,i=1,2,……,n,n为正整数;若所述帧内预测模式为垂直预测模式,则将第j个加权系数对中的帧内加权系数与所述帧内预测块的第j个分区对应的所有像素值的乘积与所述第j个加权系数对中的帧间加权系数与所述帧间预测块的第j个分区对应的所有像素值的乘积之和,确定为所述待处理图像块的第j分区的预测值,从而得到所述当前待处理图像块的预测块,其中,所述第j个分区的宽度与所述当前待处理图像块的宽度相同,j=1,2,……,m,m为正整数。

上述第i个加权系数对对应于第i分区,第j个加权系数对对应于第j分区。

第六方面,本申请实施例提供一种视频图像解码装置,包括用于实施第一方面的任意一种方法的若干个功能单元,举例来说,该视频图像解码装置包括熵解码单元、帧间预测单元和帧间预测单元。其中,熵解码单元用于解析码流,以得到标识信息,所述标识信息包括第一标识、第二标识和第三标识,所述第一标识用于指示所述当前待处理图像块所采用的子块预测模式,所述第二标识用于指示当前待处理图像块采用帧内帧间预测模式;所述第三标识用于指示所述当前待处理图像块所采用的帧内预测模式;所述帧间预测单元用于根据所述第一标识指示的子块帧间预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块;所述帧内预测单元用于根据所述第三标识指示的帧内预测模式,对所述当前待处理图像块执行帧内预测,得到所述当前待处理图像块的帧内预测块;所述帧间预测单元还用于对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块。

在一种可能的实施方式下,所述子块预测模式包括子块融合模式、仿射合并预测模式、仿射先进运动矢量预测模式、高级时域运动矢量预测模式中的任一种。

第七方面,本申请实施例提供一种用于解码视频数据的设备,所述设备包括:

存储器,用于存储码流形式的视频数据;

视频解码器,用于从码流中解码出第一标识;并且从所述码流中解析第二标识;当所述第二标识指示所述当前待处理图像块采用帧内帧间预测模式时,从所述码流中解析第三标识,所述第三标识用于指示所述当前待处理图像块所采用的帧内预测模式;当所述第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式时,根据所述子块预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块;根据所述第三标识指示的帧内预测模式,对所述当前待处理图像块执行帧内预测,得到所述当前待处理图像块的帧内预测块;对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块。

第八方面,本申请实施例提供一种用于解码视频数据的设备,所述设备包括:

存储器,用于存储码流形式的视频数据;

视频解码器,用于从码流中解析得到标识信息,所述标识信息包括第一标识、第二标识和第三标识,所述第一标识用于指示对当前待处理图像块进行帧间预测是否采用子块预测模式;所述第二标识用于指示所述当前待处理图像块采用帧内帧间预测模式,所述第三标识用于指示所述当前待处理图像块所采用的帧内预测模式;当所述第一标识指示对所述当前待处理图像块进行帧间预测采用所述子块预测模式时,根据所述子块预测模式对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块;根据所述第三标识指示的帧内预测模式对所述当前待处理图像块执行帧内预测,得到所述当前待处理图像块的帧内预测块;并且对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块。

第九方面,本申请实施例提供一种用于解码视频数据的设备,所述设备包括:

存储器,用于存储码流形式的视频数据;

视频解码器,用于从码流中解析得到标识信息,所述标识信息包括第一标识、第二标识和第三标识,所述第一标识用于指示所述当前待处理图像块所采用的子块预测模式,所述第二标识用于指示当前待处理图像块采用帧内帧间预测模式;所述第三标识用于指示所述当前待处理图像块所采用的帧内预测模式;根据所述第一标识指示的子块帧间预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块;根据所述第三标识指示的帧内预测模式,对所述当前待处理图像块执行帧内预测,得到所述当前待处理图像块的帧内预测块;对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块。

第十方面,本申请实施例提供一种解码设备,包括:相互耦合的非易失性存储器和处理器,所述处理器调用存储在所述存储器中的程序代码以执行第一方面或者第二方面的任意一种方法的部分或全部步骤。

第十一方面,本申请实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储了程序代码,其中,所述程序代码包括用于执行第一方面或者第二方面的任意一种方法的部分或全部步骤的指令。

第十二方面,本申请实施例提供一种计算机程序产品,当所述计算机程序产品在计算机上运行时,使得所述计算机执行第一方面或者第二方面的任意一种方法的部分或全部步骤。

应当理解的是,本申请的第二至十二方面技术方案及对应的可行实施方式所取得的有益效果可以参见上述对第一方面和第二方面,及其对应的可行实施方式的技术效果,此处不再赘述。

可以看到,本申请实施例提供的视频数据解码方法及装置,视频解码装置可以解析指示子块预测模式的标识(上述第一标识)和帧间预测模式的标识(上述第二标识),在第一标识指示对当前待处理图像块采用该子块融合模式,采用该子块预测模式对当前待处理图像块进行帧间预测,得到帧间预测块;并且在第二标识指示当前待处理图像块采用帧内帧间预测模式时,解析帧内预测模式的标识(上述第三标识),并根据第三标识指示的帧内预测模式,对当前待处理图像块进行帧内预测,得到帧内预测块;并对帧内预测块与帧间预测块进行加权求和,进而得到当前待处理图像块的帧间预测块,本申请实施例中可以将子块预测模式应用于帧内帧间预测方法中,能够实现多种预测模式的兼容,从而提高解码效率。

附图说明

为了更清楚地说明本申请实施例或背景技术中的技术方案,下面将对本申请实施例或背景技术中所需要使用的附图进行说明。

图1a是用于实现本申请实施例的视频编码及解码系统10实例的框图;

图1b是用于实现本申请实施例的视频译码系统40实例的框图;

图2是用于实现本申请实施例的编码器20实例结构的框图;

图3是用于实现本申请实施例的解码器30实例结构的框图;

图4是用于实现本申请实施例的视频译码设备400实例的框图;

图5是用于实现本申请实施例的另一种编码装置或解码装置实例的框图;

图6是用于实现本申请实施例的当前待处理图像块的空域和时域候选块的示意图;

图7是用于实现本申请实施例的当前待处理图像块的控制点的示意图;

图8是用于实现本申请实施例的当前待处理图像块的相邻图像块的示意图;

图9是用于实现本申请实施例的控制点的相邻图像块的示意图一;

图10是用于实现本申请实施例的控制点的相邻图像块的示意图二;

图11是用于实现本申请实施例的三角预测单元划分方式示意图;

图12是用于实现本申请实施例的三角预测单元方式下斜边区域的加权计算示意图;

图13是用于实现本申请实施例的视频图像解码方法流程示意图一;

图14是用于实现本申请实施例的三角预测单元方式下的帧间预测块的构成示意图;

图15是用于实现本申请实施例的子块预测模式下帧间预测块的分区示意图;

图16是用于实现本申请实施例的三角预测单元方式下帧间预测块的分区示意图;

图17是用于实现本申请实施例的视频图像解码方法流程示意图二;

图18是用于实现本申请实施例的视频图像解码方法流程示意图三;

图19是用于实现本申请实施例的视频图像解码方法流程示意图四;

图20是用于实现本申请实施例的视频图像解码方法流程示意图五;

图21是用于实现本申请实施例的视频图像解码装置的结构框图一;

图22是用于实现本申请实施例的视频图像解码装置的结构框图二。

具体实施方式

下面结合本申请实施例中的附图对本申请实施例进行描述。以下描述中,参考形成本公开一部分并以说明之方式示出本申请实施例的具体方面或可使用本申请实施例的具体方面的附图。应理解,本申请实施例可在其它方面中使用,并可包括附图中未描绘的结构或逻辑变化。因此,以下详细描述不应以限制性的意义来理解,且本发明的范围由所附权利要求书界定。例如,应理解,结合所描述方法的揭示内容可以同样适用于用于执行所述方法的对应设备或系统,且反之亦然。例如,如果描述一个或多个具体方法步骤,则对应的设备可以包含如功能单元等一个或多个单元,来执行所描述的一个或多个方法步骤(例如,一个单元执行一个或多个步骤,或多个单元,其中每个都执行多个步骤中的一个或多个),即使附图中未明确描述或说明这种一个或多个单元。另一方面,例如,如果基于如功能单元等一个或多个单元描述具体装置,则对应的方法可以包含一个步骤来执行一个或多个单元的功能性(例如,一个步骤执行一个或多个单元的功能性,或多个步骤,其中每个执行多个单元中一个或多个单元的功能性),即使附图中未明确描述或说明这种一个或多个步骤。进一步,应理解的是,除非另外明确提出,本文中所描述的各示例性实施例和/或方面的特征可以相互组合。

本申请实施例所涉及的技术方案不仅可能应用于现有的视频编码标准中(如h.264、hevc等标准),还可能应用于未来的视频编码标准中(如h.266标准)。本发明的实施方式部分使用的术语仅用于对本发明的具体实施例进行解释,而非旨在限定本发明。下面先对本申请实施例可能涉及的一些概念及相关现有技术进行简单介绍。

视频编码通常是指处理形成视频或视频序列的图片序列。在视频编码领域,术语“图片(picture)”、“帧(frame)”或“图像(image)”可以用作同义词。本文中使用的视频编码表示视频编码或视频解码。视频编码在源侧执行,通常包括处理(例如,通过压缩)原始视频图片以减少表示该视频图片所需的数据量,从而更高效地存储和/或传输。视频解码在目的地侧执行,通常包括相对于编码器作逆处理,以重构视频图片。实施例涉及的视频图片“编码”应理解为涉及视频序列的“编码”或“解码”。编码部分和解码部分的组合也称为编解码(编码和解码)。

视频序列包括一系列图像(picture),图像被进一步划分为切片(slice),切片再被划分为块(block),也可以称为图像块。视频编码以块为单位进行编码处理,在一些新的视频编码标准中,块的概念被进一步扩展。比如,在h.264标准中有宏块(macroblock,mb),宏块可进一步划分成多个可用于预测编码的预测块(partition)。在高性能视频编码(highefficiencyvideocoding,hevc)标准中,采用编码单元(codingunit,cu),预测单元(predictionunit,pu)和变换单元(transformunit,tu)等基本概念,从功能上划分了多种块单元,并采用全新的基于树结构进行描述。比如cu可以按照四叉树进行划分为更小的cu,而更小的cu还可以继续划分,从而形成一种四叉树结构,cu是对编码图像进行划分和编码的基本单元。对于pu和tu也有类似的树结构,pu可以对应预测块,是预测编码的基本单元。对cu按照划分模式进一步划分成多个pu。tu可以对应变换块,是对预测残差进行变换的基本单元。然而,无论cu,pu还是tu,本质上都属于块(或称图像块)的概念。

例如在hevc中,通过使用表示为编码树的四叉树结构将ctu拆分为多个cu。在cu层级处作出是否使用图片间(时间)或图片内(空间)预测对图片区域进行编码的决策。每个cu可以根据pu拆分类型进一步拆分为一个、两个或四个pu。一个pu内应用相同的预测过程,并在pu基础上将相关信息传输到解码器。在通过基于pu拆分类型应用预测过程获取残差块之后,可以根据类似于用于cu的编码树的其它四叉树结构将cu分割成变换单元(transformunit,tu)。在视频压缩技术最新的发展中,使用四叉树和二叉树(quad-treeandbinarytree,qtbt)分割帧来分割编码块。在qtbt块结构中,cu可以为正方形或矩形形状。

上述在编码视频流和解码视频流的过程中,均需要获取图像块的预测块,并且对于同一图像块,编码视频流时获取该图像块的预测块的方法与解码视频流时获取该图像块的预测块的方法相同。通常确定预测块的方法可以包括帧内预测和帧间预测。下面以当前待编码或者待解码的图像块(统一称为当前待处理图像块,该当前待处理图像块可以为一个cu)为例说明帧内预测和帧间预测的概念。

帧内预测:指的是对于当前待处理图像块,可以在当前待处理图像块所在的视频帧(称为第一视频帧)内的已重建的像素去预测当前待处理图像块,通常根据与该当前待处理图像块相邻(即空域相邻)的图像块(该与当前待处理图像块相邻的编码单元已完成编码)的重建信息,确定当前待处理图像块的预测信息,即预测的当前待处理图像块的像素值。

帧间预测:指的是对于当前待处理图像块编码时,可以根据与该当前待处理图像块所在的视频帧(可以称为第一视频帧)相邻的视频帧(可以称为第二视频帧)确定当前待处理图像块的预测信息(即将第二视频帧作为第一视频帧的参考帧,然后再在该第二视频帧中确定与当前待处理图像块最相似的图像块(可以称为参考块),并将该参考块作为当前待处理图像块的预测信息)。具体的,帧间预测包括前向预测、后向预测和双向预测等预测模式。其中,前向预测指的是从前向参考帧集合中选择一个参考帧(可以称为前向参考帧)来获取当前待处理图像块的参考块,并将该参考块的像素值作为当前待处理图像块的像素值;后向预测指的是从后向参考帧集合中选择一个参考帧((可以称为后向参考帧))来获取当前待处理图像块的参考块,并将该参考块的像素值作为当前待处理图像块的像素值;双向预测指的是从前向参考帧集合和后向参考帧集合中个选择一个参考帧来获取当前待处理图像块的参考块,得到两个参考块,然后再根据这两个参考块对应的像素值确定当前待处理图像块的像素值。

本申请实施例中,视频编解码中的预测方法还可以包括帧内帧间预测,帧内帧间预测指的是帧内预测与帧间预测相结合的预测方法。

上述帧间预测方法的具体过程为:根据当前待处理图像块的运动信息确定该当前待处理图像块的预测值(包括当前待处理图像块的所有像素值),当前待处理图像块的运动信息包括预测方向指示信息、一个或者多个指向参考块的运动矢量以及参考块所在的视频帧(此处,参考块所在的视频帧即为参考帧)的指示信息,其中,预测方向指示信息用于指示帧间预测的预测方向,例如预测方向包括前向预测、后向预测或双向预测;运动矢量用于指示参考块相对于当前待处理图像块的位移;参考块所在的视频帧的指示信息用于指示参考块在视频流中的位置,即参考块位于哪个视频帧,参考块所在的视频帧的指示信息可以为参考帧的索引。运动矢量是帧间预测过程中的一个重要参数,其表示已重建的图像块相对于该当前待处理图像块的空间位移。

本文中,为了便于描述和理解,可将当前编码图像中待编码的图像块称为当前待处理图像块,例如在编码中,指当前正在编码的图像块;在解码中,指当前正在解码的图像块。将参考图像中用于对当前待处理图像块进行预测的已解码的图像块称为当前待处理图像块的参考块,即参考块是为当前待处理图像块块提供参考信号的图像块,其中,参考信号表示图像块内的像素值。可将参考图像中为当前待处理图像块提供预测信号的块称为预测块,其中,预测信号表示预测块内的像素值或者采样值或者采样信号。例如,在遍历多个参考块以后,找到了最佳参考块,此最佳参考块将为当前待处理图像块提供预测,此图像块块称为当前待处理图像块的预测块。

无损视频编码情况下,可以重构原始视频图片,即经重构视频图片具有与原始视频图片相同的质量(假设存储或传输期间没有传输损耗或其它数据丢失)。在有损视频编码情况下,通过例如量化执行进一步压缩,来减少表示视频图片所需的数据量,而解码器侧无法完全重构视频图片,即经重构视频图片的质量相比原始视频图片的质量较低或较差。

h.261的几个视频编码标准属于“有损混合型视频编解码”(即,将样本域中的空间和时间预测与变换域中用于应用量化的2d变换编码结合)。视频序列的每个图片通常分割成不重叠的块集合,通常在块层级上进行编码。换句话说,编码器侧通常在块(视频块)层级处理亦即编码视频,例如,通过空间(图片内)预测和时间(图片间)预测来产生预测块,从当前块(当前处理或待处理的块)减去预测块以获取残差块,在变换域变换残差块并量化残差块,以减少待传输(压缩)的数据量,而解码器侧将相对于编码器的逆处理部分应用于经编码或经压缩块,以重构用于表示的当前块。另外,编码器复制解码器处理循环,使得编码器和解码器生成相同的预测(例如帧内预测和帧间预测)和/或重构,用于处理亦即编码后续块。

下面描述本申请实施例所应用的系统架构。参见图1a,图1a示例性地给出了本申请实施例所应用的视频编码及解码系统10的示意性框图。如图1a所示,视频编码及解码系统10可包括源设备12和目的地设备14,源设备12产生经编码视频数据,因此,源设备12可被称为视频编码装置。目的地设备14可对由源设备12所产生的经编码的视频数据进行解码,因此,目的地设备14可被称为视频解码装置。源设备12、目的地设备14或两个的各种实施方案可包含一或多个处理器以及耦合到所述一或多个处理器的存储器。所述存储器可包含但不限于ram、rom、eeprom、快闪存储器或可用于以可由计算机存取的指令或数据结构的形式存储所要的程序代码的任何其它媒体,如本文所描述。源设备12和目的地设备14可以包括各种装置,包含桌上型计算机、移动计算装置、笔记型(例如,膝上型)计算机、平板计算机、机顶盒、例如所谓的“智能”电话等电话手持机、电视机、相机、显示装置、数字媒体播放器、视频游戏控制台、车载计算机、无线通信设备或其类似者。

虽然图1a将源设备12和目的地设备14绘示为单独的设备,但设备实施例也可以同时包括源设备12和目的地设备14或同时包括两者的功能性,即源设备12或对应的功能性以及目的地设备14或对应的功能性。在此类实施例中,可以使用相同硬件和/或软件,或使用单独的硬件和/或软件,或其任何组合来实施源设备12或对应的功能性以及目的地设备14或对应的功能性。

源设备12和目的地设备14之间可通过链路13进行通信连接,目的地设备14可经由链路13从源设备12接收经编码视频数据。链路13可包括能够将经编码视频数据从源设备12移动到目的地设备14的一或多个媒体或装置。在一个实例中,链路13可包括使得源设备12能够实时将经编码视频数据直接发射到目的地设备14的一或多个通信媒体。在此实例中,源设备12可根据通信标准(例如无线通信协议)来调制经编码视频数据,且可将经调制的视频数据发射到目的地设备14。所述一或多个通信媒体可包含无线和/或有线通信媒体,例如射频(rf)频谱或一或多个物理传输线。所述一或多个通信媒体可形成基于分组的网络的一部分,基于分组的网络例如为局域网、广域网或全球网络(例如,因特网)。所述一或多个通信媒体可包含路由器、交换器、基站或促进从源设备12到目的地设备14的通信的其它设备。

源设备12包括编码器20,另外可选地,源设备12还可以包括图片源16、图片预处理器18、以及通信接口22。具体实现形态中,所述编码器20、图片源16、图片预处理器18、以及通信接口22可能是源设备12中的硬件部件,也可能是源设备12中的软件程序。分别描述如下:

图片源16,可以包括或可以为任何类别的图片捕获设备,用于例如捕获现实世界图片,和/或任何类别的图片或评论(对于屏幕内容编码,屏幕上的一些文字也认为是待编码的图片或图像的一部分)生成设备,例如,用于生成计算机动画图片的计算机图形处理器,或用于获取和/或提供现实世界图片、计算机动画图片(例如,屏幕内容、虚拟现实(virtualreality,vr)图片)的任何类别设备,和/或其任何组合(例如,实景(augmentedreality,ar)图片)。图片源16可以为用于捕获图片的相机或者用于存储图片的存储器,图片源16还可以包括存储先前捕获或产生的图片和/或获取或接收图片的任何类别的(内部或外部)接口。当图片源16为相机时,图片源16可例如为本地的或集成在源设备中的集成相机;当图片源16为存储器时,图片源16可为本地的或例如集成在源设备中的集成存储器。当所述图片源16包括接口时,接口可例如为从外部视频源接收图片的外部接口,外部视频源例如为外部图片捕获设备,比如相机、外部存储器或外部图片生成设备,外部图片生成设备例如为外部计算机图形处理器、计算机或服务器。接口可以为根据任何专有或标准化接口协议的任何类别的接口,例如有线或无线接口、光接口。

其中,图片可以视为像素点(pictureelement)的二维阵列或矩阵。阵列中的像素点也可以称为采样点。阵列或图片在水平和垂直方向(或轴线)上的采样点数目定义图片的尺寸和/或分辨率。为了表示颜色,通常采用三个颜色分量,即图片可以表示为或包含三个采样阵列。例如在rbg格式或颜色空间中,图片包括对应的红色、绿色及蓝色采样阵列。但是,在视频编码中,每个像素通常以亮度/色度格式或颜色空间表示,例如对于yuv格式的图片,包括y指示的亮度分量(有时也可以用l指示)以及u和v指示的两个色度分量。亮度(luma)分量y表示亮度或灰度水平强度(例如,在灰度等级图片中两者相同),而两个色度(chroma)分量u和v表示色度或颜色信息分量。相应地,yuv格式的图片包括亮度采样值(y)的亮度采样阵列,和色度值(u和v)的两个色度采样阵列。rgb格式的图片可以转换或变换为yuv格式,反之亦然,该过程也称为色彩变换或转换。如果图片是黑白的,该图片可以只包括亮度采样阵列。本申请实施例中,由图片源16传输至图片处理器的图片也可称为原始图片数据17。

图片预处理器18,用于接收原始图片数据17并对原始图片数据17执行预处理,以获取经预处理的图片19或经预处理的图片数据19。例如,图片预处理器18执行的预处理可以包括整修、色彩格式转换(例如,从rgb格式转换为yuv格式)、调色或去噪。

编码器20(或称视频编码器20),用于接收经预处理的图片数据19,采用相关预测模式(如本文各个实施例中的预测模式)对经预处理的图片数据19进行处理,从而提供经编码图片数据21(下文将进一步基于图2或图4或图5描述编码器20的结构细节)。在一些实施例中,编码器20可以用于执行后文所描述的各个实施例,以实现本发明所描述的色度块预测方法在编码侧的应用。

通信接口22,可用于接收经编码图片数据21,并可通过链路13将经编码图片数据21传输至目的地设备14或任何其它设备(如存储器),以用于存储或直接重构,所述其它设备可为任何用于解码或存储的设备。通信接口22可例如用于将经编码图片数据21封装成合适的格式,例如数据包,以在链路13上传输。

目的地设备14包括解码器30,另外可选地,目的地设备14还可以包括通信接口28、图片后处理器32和显示设备34。分别描述如下:

通信接口28,可用于从源设备12或任何其它源接收经编码图片数据21,所述任何其它源例如为存储设备,存储设备例如为经编码图片数据存储设备。通信接口28可以用于藉由源设备12和目的地设备14之间的链路13或藉由任何类别的网络传输或接收经编码图片数据21,链路13例如为直接有线或无线连接,任何类别的网络例如为有线或无线网络或其任何组合,或任何类别的私网和公网,或其任何组合。通信接口28可以例如用于解封装通信接口22所传输的数据包以获取经编码图片数据21。

通信接口28和通信接口22都可以配置为单向通信接口或者双向通信接口,以及可以用于例如发送和接收消息来建立连接、确认和交换任何其它与通信链路和/或例如经编码图片数据传输的数据传输有关的信息。

解码器30(或称为解码器30),用于接收经编码图片数据21并提供经解码图片数据31或经解码图片31(下文将进一步基于图3或图4或图5描述解码器30的结构细节)。在一些实施例中,解码器30可以用于执行后文所描述的各个实施例,以实现本发明所描述的色度块预测方法在解码侧的应用。

图片后处理器32,用于对经解码图片数据31(也称为经重构图片数据)执行后处理,以获得经后处理图片数据33。图片后处理器32执行的后处理可以包括:色彩格式转换(例如,从yuv格式转换为rgb格式)、调色、整修或重采样,或任何其它处理,还可用于将将经后处理图片数据33传输至显示设备34。

显示设备34,用于接收经后处理图片数据33以向例如用户或观看者显示图片。显示设备34可以为或可以包括任何类别的用于呈现经重构图片的显示器,例如,集成的或外部的显示器或监视器。例如,显示器可以包括液晶显示器(liquidcrystaldisplay,lcd)、有机发光二极管(organiclightemittingdiode,oled)显示器、等离子显示器、投影仪、微led显示器、硅基液晶(liquidcrystalonsilicon,lcos)、数字光处理器(digitallightprocessor,dlp)或任何类别的其它显示器。

虽然,图1a将源设备12和目的地设备14绘示为单独的设备,但设备实施例也可以同时包括源设备12和目的地设备14或同时包括两者的功能性,即源设备12或对应的功能性以及目的地设备14或对应的功能性。在此类实施例中,可以使用相同硬件和/或软件,或使用单独的硬件和/或软件,或其任何组合来实施源设备12或对应的功能性以及目的地设备14或对应的功能性。

本领域技术人员基于描述明显可知,不同单元的功能性或图1a所示的源设备12和/或目的地设备14的功能性的存在和(准确)划分可能根据实际设备和应用有所不同。源设备12和目的地设备14可以包括各种设备中的任一个,包含任何类别的手持或静止设备,例如,笔记本或膝上型计算机、移动电话、智能手机、平板或平板计算机、摄像机、台式计算机、机顶盒、电视机、相机、车载设备、显示设备、数字媒体播放器、视频游戏控制台、视频流式传输设备(例如内容服务服务器或内容分发服务器)、广播接收器设备、广播发射器设备等,并可以不使用或使用任何类别的操作系统。

编码器20和解码器30都可以实施为各种合适电路中的任一个,例如,一个或多个微处理器、数字信号处理器(digitalsignalprocessor,dsp)、专用集成电路(application-specificintegratedcircuit,asic)、现场可编程门阵列(field-programmablegatearray,fpga)、离散逻辑、硬件或其任何组合。如果部分地以软件实施所述技术,则设备可将软件的指令存储于合适的非暂时性计算机可读存储介质中,且可使用一或多个处理器以硬件执行指令从而执行本公开的技术。前述内容(包含硬件、软件、硬件与软件的组合等)中的任一者可视为一或多个处理器。

在一些情况下,图1a中所示视频编码及解码系统10仅为示例,本申请的技术可以适用于不必包含编码和解码设备之间的任何数据通信的视频编码设置(例如,视频编码或视频解码)。在其它实例中,数据可从本地存储器检索、在网络上流式传输等。视频编码设备可以对数据进行编码并且将数据存储到存储器,和/或视频解码设备可以从存储器检索数据并且对数据进行解码。在一些实例中,由并不彼此通信而是仅编码数据到存储器和/或从存储器检索数据且解码数据的设备执行编码和解码。

参见图1b,图1b是根据一示例性实施例的包含图2的编码器20和/或图3的解码器30的视频译码系统40的实例的说明图。视频译码系统40可以实现本申请实施例的各种技术的组合。在所说明的实施方式中,视频译码系统40可以包含成像设备41、编码器20、解码器30(和/或藉由处理单元46的逻辑电路47实施的视频编/解码器)、天线42、一个或多个处理器43、一个或多个存储器44和/或显示设备45。

如图1b所示,成像设备41、天线42、处理单元46、逻辑电路47、编码器20、解码器30、处理器43、存储器44和/或显示设备45能够互相通信。如所论述,虽然用编码器20和解码器30绘示视频译码系统40,但在不同实例中,视频译码系统40可以只包含编码器20或只包含解码器30。

在一些实例中,天线42可以用于传输或接收视频数据的经编码比特流。另外,在一些实例中,显示设备45可以用于呈现视频数据。在一些实例中,逻辑电路47可以通过处理单元46实施。处理单元46可以包含专用集成电路(application-specificintegratedcircuit,asic)逻辑、图形处理器、通用处理器等。视频译码系统40也可以包含可选的处理器43,该可选处理器43类似地可以包含专用集成电路(application-specificintegratedcircuit,asic)逻辑、图形处理器、通用处理器等。在一些实例中,逻辑电路47可以通过硬件实施,如视频编码专用硬件等,处理器43可以通过通用软件、操作系统等实施。另外,存储器44可以是任何类型的存储器,例如易失性存储器(例如,静态随机存取存储器(staticrandomaccessmemory,sram)、动态随机存储器(dynamicrandomaccessmemory,dram)等)或非易失性存储器(例如,闪存等)等。在非限制性实例中,存储器44可以由超速缓存内存实施。在一些实例中,逻辑电路47可以访问存储器44(例如用于实施图像缓冲器)。在其它实例中,逻辑电路47和/或处理单元46可以包含存储器(例如,缓存等)用于实施图像缓冲器等。

在一些实例中,通过逻辑电路实施的编码器20可以包含(例如,通过处理单元46或存储器44实施的)图像缓冲器和(例如,通过处理单元46实施的)图形处理单元。图形处理单元可以通信耦合至图像缓冲器。图形处理单元可以包含通过逻辑电路47实施的编码器20,以实施参照图2和/或本文中所描述的任何其它编码器系统或子系统所论述的各种模块。逻辑电路可以用于执行本文所论述的各种操作。

在一些实例中,解码器30可以以类似方式通过逻辑电路47实施,以实施参照图3的解码器30和/或本文中所描述的任何其它解码器系统或子系统所论述的各种模块。在一些实例中,逻辑电路实施的解码器30可以包含(通过处理单元2820或存储器44实施的)图像缓冲器和(例如,通过处理单元46实施的)图形处理单元。图形处理单元可以通信耦合至图像缓冲器。图形处理单元可以包含通过逻辑电路47实施的解码器30,以实施参照图3和/或本文中所描述的任何其它解码器系统或子系统所论述的各种模块。

在一些实例中,天线42可以用于接收视频数据的经编码比特流。如所论述,经编码比特流可以包含本文所论述的与编码视频帧相关的数据、指示符、索引值、模式选择数据等,例如与编码分割相关的数据(例如,变换系数或经量化变换系数,(如所论述的)可选指示符,和/或定义编码分割的数据)。视频译码系统40还可包含耦合至天线42并用于解码经编码比特流的解码器30。显示设备45用于呈现视频帧。

应理解,本申请实施例中对于参考编码器20所描述的实例,解码器30可以用于执行相反过程。关于信令语法元素,解码器30可以用于接收并解析这种语法元素,相应地解码相关视频数据。在一些例子中,编码器20可以将语法元素熵编码成经编码视频比特流。在此类实例中,解码器30可以解析这种语法元素,并相应地解码相关视频数据。

需要说明的是,本申请实施例描述的视频图像解码方法主要用于帧内预测和帧间预测过程,此过程在编码器20和解码器30均存在,本申请实施例中的编码器20和解码器30可以是例如h.263、h.264、hevv、mpeg-2、mpeg-4、vp8、vp9等视频标准协议或者下一代视频标准协议(如h.266等)对应的编/解码器。

参见图2,图2示出用于实现本申请实施例的编码器20的实例的示意性/概念性框图。在图2的实例中,编码器20包括残差计算单元204、变换处理单元206、量化单元208、逆量化单元210、逆变换处理单元212、重构单元214、缓冲器216、环路滤波器单元220、经解码图片缓冲器(decodedpicturebuffer,dpb)230、预测处理单元260和熵编码单元270。预测处理单元260可以包含帧间预测单元244、帧内预测单元254和模式选择单元262。帧间预测单元244可以包含运动估计单元和运动补偿单元(未图示)。图2所示的编码器20也可以称为混合型视频编码器或根据混合型视频编解码器的视频编码器。

例如,残差计算单元204、变换处理单元206、量化单元208、预测处理单元260和熵编码单元270形成编码器20的前向信号路径,而例如逆量化单元210、逆变换处理单元212、重构单元214、缓冲器216、环路滤波器220、经解码图片缓冲器(decodedpicturebuffer,dpb)230、预测处理单元260形成编码器的后向信号路径,其中编码器的后向信号路径对应于解码器的信号路径(参见图3中的解码器30)。

编码器20通过例如输入202,接收图片201或图片201的图像块203,例如,形成视频或视频序列的图片序列中的图片。图像块203也可以称为当前图片块或待编码图片块,图片201可以称为当前图片或待编码图片(尤其是在视频编码中将当前图片与其它图片区分开时,其它图片例如同一视频序列亦即也包括当前图片的视频序列中的先前经编码和/或经解码图片)。

编码器20的实施例可以包括分割单元(图2中未绘示),用于将图片201分割成多个例如图像块203的块,通常分割成多个不重叠的块。分割单元可以用于对视频序列中所有图片使用相同的块大小以及定义块大小的对应栅格,或用于在图片或子集或图片群组之间更改块大小,并将每个图片分割成对应的块。

在一个实例中,编码器20的预测处理单元260可以用于执行上述分割技术的任何组合。

如图片201,图像块203也是或可以视为具有采样值的采样点的二维阵列或矩阵,虽然其尺寸比图片201小。换句话说,图像块203可以包括,例如,一个采样阵列(例如黑白图片201情况下的亮度阵列)或三个采样阵列(例如,彩色图片情况下的一个亮度阵列和两个色度阵列)或依据所应用的色彩格式的任何其它数目和/或类别的阵列。图像块203的水平和垂直方向(或轴线)上采样点的数目定义图像块203的尺寸。

如图2所示的编码器20用于逐块编码图片201,例如,对每个图像块203执行编码和预测。

残差计算单元204用于基于图片图像块203和预测块265(下文提供预测块265的其它细节)计算残差块205,例如,通过逐样本(逐像素)将图片图像块203的样本值减去预测块265的样本值,以在样本域中获取残差块205。

变换处理单元206用于在残差块205的样本值上应用例如离散余弦变换(discretecosinetransform,dct)或离散正弦变换(discretesinetransform,dst)的变换,以在变换域中获取变换系数207。变换系数207也可以称为变换残差系数,并在变换域中表示残差块205。

变换处理单元206可以用于应用dct/dst的整数近似值,例如为hevc/h.265指定的变换。与正交dct变换相比,这种整数近似值通常由某一因子按比例缩放。为了维持经正变换和逆变换处理的残差块的范数,应用额外比例缩放因子作为变换过程的一部分。比例缩放因子通常是基于某些约束条件选择的,例如,比例缩放因子是用于移位运算的2的幂、变换系数的位深度、准确性和实施成本之间的权衡等。例如,在解码器30侧通过例如逆变换处理单元212为逆变换(以及在编码器20侧通过例如逆变换处理单元212为对应逆变换)指定具体比例缩放因子,以及相应地,可以在编码器20侧通过变换处理单元206为正变换指定对应比例缩放因子。

量化单元208用于例如通过应用标量量化或向量量化来量化变换系数207,以获取经量化变换系数209。经量化变换系数209也可以称为经量化残差系数209。量化过程可以减少与部分或全部变换系数207有关的位深度。例如,可在量化期间将n位变换系数向下舍入到m位变换系数,其中n大于m。可通过调整量化参数(quantizationparameter,qp)修改量化程度。例如,对于标量量化,可以应用不同的标度来实现较细或较粗的量化。较小量化步长对应较细量化,而较大量化步长对应较粗量化。可以通过量化参数(quantizationparameter,qp)指示合适的量化步长。例如,量化参数可以为合适的量化步长的预定义集合的索引。例如,较小的量化参数可以对应精细量化(较小量化步长),较大量化参数可以对应粗糙量化(较大量化步长),反之亦然。量化可以包含除以量化步长以及例如通过逆量化210执行的对应的量化或逆量化,或者可以包含乘以量化步长。根据例如hevc的一些标准的实施例可以使用量化参数来确定量化步长。一般而言,可以基于量化参数使用包含除法的等式的定点近似来计算量化步长。可以引入额外比例缩放因子来进行量化和反量化,以恢复可能由于在用于量化步长和量化参数的等式的定点近似中使用的标度而修改的残差块的范数。在一个实例实施方式中,可以合并逆变换和反量化的标度。或者,可以使用自定义量化表并在例如比特流中将其从编码器通过信号发送到解码器。量化是有损操作,其中量化步长越大,损耗越大。

逆量化单元210用于在经量化系数上应用量化单元208的逆量化,以获取经反量化系数211,例如,基于或使用与量化单元208相同的量化步长,应用量化单元208应用的量化方案的逆量化方案。经反量化系数211也可以称为经反量化残差系数211,对应于变换系数207,虽然由于量化造成的损耗通常与变换系数不相同。

逆变换处理单元212用于应用变换处理单元206应用的变换的逆变换,例如,逆离散余弦变换(discretecosinetransform,dct)或逆离散正弦变换(discretesinetransform,dst),以在样本域中获取逆变换块213。逆变换块213也可以称为逆变换经反量化块213或逆变换残差块213。

重构单元214(例如,求和器214)用于将逆变换块213(即经重构残差块213)添加至预测块265,以在样本域中获取经重构块215,例如,将经重构残差块213的样本值与预测块265的样本值相加。

可选地,例如线缓冲器216的缓冲器单元216(或简称“缓冲器”216)用于缓冲或存储经重构块215和对应的样本值,用于例如帧内预测。在其它的实施例中,编码器可以用于使用存储在缓冲器单元216中的未经滤波的经重构块和/或对应的样本值来进行任何类别的估计和/或预测,例如帧内预测。

例如,编码器20的实施例可以经配置以使得缓冲器单元216不只用于存储用于帧内预测254的经重构块215,也用于环路滤波器单元220(在图2中未示出),和/或,例如使得缓冲器单元216和经解码图片缓冲器单元230形成一个缓冲器。其它实施例可以用于将经滤波块221和/或来自经解码图片缓冲器230的块或样本(图2中均未示出)用作帧内预测254的输入或基础。

环路滤波器单元220(或简称“环路滤波器”220)用于对经重构块215进行滤波以获取经滤波块221,从而顺利进行像素转变或提高视频质量。环路滤波器单元220旨在表示一个或多个环路滤波器,例如去块滤波器、样本自适应偏移(sample-adaptiveoffset,sao)滤波器或其它滤波器,例如双边滤波器、自适应环路滤波器(adaptiveloopfilter,alf),或锐化或平滑滤波器,或协同滤波器。尽管环路滤波器单元220在图2中示出为环内滤波器,但在其它配置中,环路滤波器单元220可实施为环后滤波器。经滤波块221也可以称为经滤波的经重构块221。经解码图片缓冲器230可以在环路滤波器单元220对经重构编码块执行滤波操作之后存储经重构编码块。

编码器20(对应地,环路滤波器单元220)的实施例可以用于输出环路滤波器参数(例如,样本自适应偏移信息),例如,直接输出或由熵编码单元270或任何其它熵编码单元熵编码后输出,例如使得解码器30可以接收并应用相同的环路滤波器参数用于解码。

经解码图片缓冲器(decodedpicturebuffer,dpb)230可以为存储参考图片数据供编码器20编码视频数据之用的参考图片存储器。dpb230可由多种存储器设备中的任一个形成,例如动态随机存储器(dynamicrandomaccessmemory,dram)(包含同步dram(synchronousdram,sdram)、磁阻式ram(magnetoresistiveram,mram)、电阻式ram(resistiveram,rram))或其它类型的存储器设备。可以由同一存储器设备或单独的存储器设备提供dpb230和缓冲器216。在某一实例中,经解码图片缓冲器(decodedpicturebuffer,dpb)230用于存储经滤波块221。经解码图片缓冲器230可以进一步用于存储同一当前图片或例如先前经重构图片的不同图片的其它先前的经滤波块,例如先前经重构和经滤波块221,以及可以提供完整的先前经重构亦即经解码图片(和对应参考块和样本)和/或部分经重构当前图片(和对应参考块和样本),例如用于帧间预测。在某一实例中,如果经重构块215无需环内滤波而得以重构,则经解码图片缓冲器(decodedpicturebuffer,dpb)230用于存储经重构块215。

预测处理单元260,也称为块预测处理单元260,用于接收或获取图像块203(当前图片201的当前待处理图像块203)和经重构图片数据,例如来自缓冲器216的同一(当前)图片的参考样本和/或来自经解码图片缓冲器230的一个或多个先前经解码图片的参考图片数据231,以及用于处理这类数据进行预测,即提供可以为经帧间预测块245或经帧内预测块255的预测块265。

模式选择单元262可以用于选择预测模式(例如帧内或帧间预测模式)和/或对应的用作预测块265的预测块245或255,以计算残差块205和重构经重构块215。

模式选择单元262的实施例可以用于选择预测模式(例如,从预测处理单元260所支持的那些预测模式中选择),所述预测模式提供最佳匹配或者说最小残差(最小残差意味着传输或存储中更好的压缩),或提供最小信令开销(最小信令开销意味着传输或存储中更好的压缩),或同时考虑或平衡以上两者。模式选择单元262可以用于基于码率失真优化(ratedistortionoptimization,rdo)确定预测模式,即选择提供最小码率失真优化的预测模式,或选择相关码率失真至少满足预测模式选择标准的预测模式。

下文将详细解释编码器20的实例(例如,通过预测处理单元260)执行的预测处理和(例如,通过模式选择单元262)执行的模式选择。

如上文所述,编码器20用于从(预先确定的)预测模式集合中确定或选择最好或最优的预测模式。预测模式集合可以包括例如帧内预测模式和/或帧间预测模式。

帧内预测模式集合可以包括35种不同的帧内预测模式,例如,如dc(或均值)模式和平面模式的非方向性模式,或如h.265中定义的方向性模式,或者可以包括67种不同的帧内预测模式,例如,如dc(或均值)模式和平面模式的非方向性模式,或如正在发展中的h.266中定义的方向性模式。

在可能的实现中,帧间预测模式集合取决于可用参考图片(即,例如前述存储在dbp230中的至少部分经解码图片)和其它帧间预测参数,例如取决于是否使用整个参考图片或只使用参考图片的一部分,例如围绕当前块的区域的搜索窗区域,来搜索最佳匹配参考块,和/或例如取决于是否应用如半像素和/或四分之一像素内插的像素内插,帧间预测模式集合例如可包括先进运动矢量(advancedmotionvectorprediction,amvp)模式和融合(merge)模式。具体实施中,帧间预测模式集合可包括本申请实施例改进的基于控制点的amvp模式,以及,改进的基于控制点的merge模式。在一个实例中,帧内预测单元254可以用于执行下文描述的帧间预测技术的任意组合。

除了以上预测模式,本申请实施例也可以应用跳过模式和/或直接模式。

预测处理单元260可以进一步用于将图像块203分割成较小的块分区或子块,例如,通过迭代使用四叉树(quad-tree,qt)分割、二进制树(binary-tree,bt)分割或三叉树(triple-tree,tt)分割,或其任何组合,以及用于例如为块分区或子块中的每一个执行预测,其中模式选择包括选择分割的图像块203的树结构和选择应用于块分区或子块中的每一个的预测模式。

帧间预测单元244可以包含运动估计(motionestimation,me)单元(图2中未示出)和运动补偿(motioncompensation,mc)单元(图2中未示出)。运动估计单元用于接收或获取图片图像块203(当前图片201的当前图片图像块203)和经解码图片231,或至少一个或多个先前经重构块,例如,一个或多个其它/不同先前经解码图片231的经重构块,来进行运动估计。例如,视频序列可以包括当前图片和先前经解码图片31,或换句话说,当前图片和先前经解码图片31可以是形成视频序列的图片序列的一部分,或者形成该图片序列。

例如,编码器20可以用于从多个其它图片中的同一或不同图片的多个参考块中选择参考块,并向运动估计单元(图2中未示出)提供参考图片和/或提供参考块的位置(x、y坐标)与当前块的位置之间的偏移(空间偏移)作为帧间预测参数。该偏移也称为运动向量(motionvector,mv)。

运动补偿单元用于获取帧间预测参数,并基于或使用帧间预测参数执行帧间预测来获取帧间预测块245。由运动补偿单元(图2中未示出)执行的运动补偿可以包含基于通过运动估计(可能执行对子像素精确度的内插)确定的运动/块向量取出或生成预测块。内插滤波可从已知像素样本产生额外像素样本,从而潜在地增加可用于编码图片块的候选预测块的数目。一旦接收到用于当前图片块的pu的运动向量,运动补偿单元246可以在一个参考图片列表中定位运动向量指向的预测块。运动补偿单元246还可以生成与块和视频条带相关联的语法元素,以供解码器30在解码视频条带的图片块时使用。

具体的,上述帧间预测单元244可向熵编码单元270传输语法元素,所述语法元素包括帧间预测参数(比如遍历多个帧间预测模式后选择用于当前块预测的帧间预测模式的指示信息)。可能应用场景中,如果帧间预测模式只有一种,那么也可以不在语法元素中携带帧间预测参数,此时解码端30可直接使用默认的预测模式进行解码。可以理解的,帧间预测单元244可以用于执行帧间预测技术的任意组合。

帧内预测单元254用于获取,例如接收同一图片的图片块203(当前图片块)和一个或多个先前经重构块,例如经重构相相邻块,以进行帧内估计。例如,编码器20可以用于从多个(预定)帧内预测模式中选择帧内预测模式。

编码器20的实施例可以用于基于优化标准选择帧内预测模式,例如基于最小残差(例如,提供最类似于当前图片块203的预测块255的帧内预测模式)或最小码率失真。

帧内预测单元254进一步用于基于如所选择的帧内预测模式的帧内预测参数确定帧内预测块255。在任何情况下,在选择用于块的帧内预测模式之后,帧内预测单元254还用于向熵编码单元270提供帧内预测参数,即提供指示所选择的用于块的帧内预测模式的信息。在一个实例中,帧内预测单元254可以用于执行帧内预测技术的任意组合。

具体的,上述帧内预测单元254可向熵编码单元270传输语法元素,所述语法元素包括帧内预测参数(比如遍历多个帧内预测模式后选择用于当前块预测的帧内预测模式的指示信息)。可能应用场景中,如果帧内预测模式只有一种,那么也可以不在语法元素中携带帧内预测参数,此时解码端30可直接使用默认的预测模式进行解码。

熵编码单元270用于将熵编码算法或方案(例如,可变长度编码(variablelengthcoding,vlc)方案、上下文自适应vlc(contextadaptivevlc,cavlc)方案、算术编码方案、上下文自适应二进制算术编码(contextadaptivebinaryarithmeticcoding,cabac)、基于语法的上下文自适应二进制算术编码(syntax-basedcontext-adaptivebinaryarithmeticcoding,sbac)、概率区间分割熵(probabilityintervalpartitioningentropy,pipe)编码或其它熵编码方法或技术)应用于经量化残差系数209、帧间预测参数、帧内预测参数和/或环路滤波器参数中的单个或所有上(或不应用),以获取可以通过输出272以例如经编码比特流21的形式输出的经编码图片数据21。可以将经编码比特流传输到视频解码器30,或将其存档稍后由视频解码器30传输或检索。熵编码单元270还可用于熵编码正被编码的当前视频条带的其它语法元素。

视频编码器20的其它结构变型可用于编码视频流。例如,基于非变换的编码器20可以在没有针对某些块或帧的变换处理单元206的情况下直接量化残差信号。在另一实施方式中,编码器20可具有组合成单个单元的量化单元208和逆量化单元210。

应当理解的是,视频编码器20的其它的结构变化可用于编码视频流。例如,对于某些图像块或者图像帧,视频编码器20可以直接地量化残差信号而不需要经变换处理单元206处理,相应地也不需要经逆变换处理单元212处理;或者,对于某些图像块或者图像帧,视频编码器20没有产生残差数据,相应地不需要经变换处理单元206、量化单元208、逆量化单元210和逆变换处理单元212处理;或者,视频编码器20可以将经重构图像块作为参考块直接地进行存储而不需要经滤波器220处理;或者,视频编码器20中量化单元208和逆量化单元210可以合并在一起。环路滤波器220是可选的,以及针对无损压缩编码的情况下,变换处理单元206、量化单元208、逆量化单元210和逆变换处理单元212是可选的。应当理解的是,根据不同的应用场景,帧间预测单元244和帧内预测单元254可以是被选择性的启用。

参见图3,图3示出用于实现本申请实施例的解码器30的实例的示意性/概念性框图。视频解码器30用于接收例如由编码器20编码的经编码图片数据(例如,经编码比特流)21,以获取经解码图片231。在解码过程期间,视频解码器30从视频编码器20接收视频数据,例如表示经编码视频条带的图片块的经编码视频比特流及相关联的语法元素。

在图3的实例中,解码器30包括熵解码单元304、逆量化单元310、逆变换处理单元312、重构单元314(例如求和器314)、缓冲器316、环路滤波器320、经解码图片缓冲器330以及预测处理单元360。预测处理单元360可以包含帧间预测单元344、帧内预测单元354和模式选择单元362。在一些实例中,视频解码器30可执行大体上与参照图2的视频编码器20描述的编码遍次互逆的解码遍次。

熵解码单元304用于对经编码图片数据21执行熵解码,以获取例如经量化系数309和/或经解码的编码参数(图3中未示出),例如,帧间预测、帧内预测参数、环路滤波器参数和/或其它语法元素中(经解码)的任意一个或全部。熵解码单元304进一步用于将帧间预测参数、帧内预测参数和/或其它语法元素转发至预测处理单元360。视频解码器30可接收视频条带层级和/或视频块层级的语法元素。

逆量化单元310功能上可与逆量化单元110相同,逆变换处理单元312功能上可与逆变换处理单元212相同,重构单元314功能上可与重构单元214相同,缓冲器316功能上可与缓冲器216相同,环路滤波器320功能上可与环路滤波器220相同,经解码图片缓冲器330功能上可与经解码图片缓冲器230相同。

预测处理单元360可以包括帧间预测单元344和帧内预测单元354,其中帧间预测单元344功能上可以类似于帧间预测单元244,帧内预测单元354功能上可以类似于帧内预测单元254。预测处理单元360通常用于执行块预测和/或从经编码数据21获取预测块365,以及从例如熵解码单元304(显式地或隐式地)接收或获取预测相关参数和/或关于所选择的预测模式的信息。

当视频条带经编码为经帧内编码(i)条带时,预测处理单元360的帧内预测单元354用于基于信号表示的帧内预测模式及来自当前帧或图片的先前经解码块的数据来产生用于当前视频条带的图片块的预测块365。当视频帧经编码为经帧间编码(即b或p)条带时,预测处理单元360的帧间预测单元344(例如,运动补偿单元)用于基于运动向量及从熵解码单元304接收的其它语法元素生成用于当前视频条带的视频块的预测块365。对于帧间预测,可从一个参考图片列表内的一个参考图片中产生预测块。视频解码器30可基于存储于dpb330中的参考图片,使用默认建构技术来建构参考帧列表:列表0和列表1。

预测处理单元360用于通过解析运动向量和其它语法元素,确定用于当前视频条带的视频块的预测信息,并使用预测信息产生用于正经解码的当前视频块的预测块。在本发明的一实例中,预测处理单元360使用接收到的一些语法元素确定用于编码视频条带的视频块的预测模式(例如,帧内或帧间预测)、帧间预测条带类型(例如,b条带、p条带或gpb条带)、用于条带的参考图片列表中的一个或多个的建构信息、用于条带的每个经帧间编码视频块的运动向量、条带的每个经帧间编码视频块的帧间预测状态以及其它信息,以解码当前视频条带的视频块。在本公开的另一实例中,视频解码器30从比特流接收的语法元素包含接收自适应参数集(adaptiveparameterset,aps)、序列参数集(sequenceparameterset,sps)、图片参数集(pictureparameterset,pps)或条带标头中的一个或多个中的语法元素。

逆量化单元310可用于逆量化(即,反量化)在比特流中提供且由熵解码单元304解码的经量化变换系数。逆量化过程可包含使用由视频编码器20针对视频条带中的每一视频块所计算的量化参数来确定应该应用的量化程度并同样确定应该应用的逆量化程度。

逆变换处理单元312用于将逆变换(例如,逆dct、逆整数变换或概念上类似的逆变换过程)应用于变换系数,以便在像素域中产生残差块。

重构单元314(例如,求和器314)用于将逆变换块313(即经重构残差块313)添加到预测块365,以在样本域中获取经重构块315,例如通过将经重构残差块313的样本值与预测块365的样本值相加。

环路滤波器单元320(在编码循环期间或在编码循环之后)用于对经重构块315进行滤波以获取经滤波块321,从而顺利进行像素转变或提高视频质量。在一个实例中,环路滤波器单元320可以用于执行下文描述的滤波技术的任意组合。环路滤波器单元320旨在表示一个或多个环路滤波器,例如去块滤波器、样本自适应偏移(sample-adaptiveoffset,sao)滤波器或其它滤波器,例如双边滤波器、自适应环路滤波器(adaptiveloopfilter,alf),或锐化或平滑滤波器,或协同滤波器。尽管环路滤波器单元320在图3中示出为环内滤波器,但在其它配置中,环路滤波器单元320可实施为环后滤波器。

随后将给定帧或图片中的经解码视频块321存储在存储用于后续运动补偿的参考图片的经解码图片缓冲器330中。

解码器30用于例如,藉由输出332输出经解码图片31,以向用户呈现或供用户查看。

视频解码器30的其它变型可用于对压缩的比特流进行解码。例如,解码器30可以在没有环路滤波器单元320的情况下生成输出视频流。例如,基于非变换的解码器30可以在没有针对某些块或帧的逆变换处理单元312的情况下直接逆量化残差信号。在另一实施方式中,视频解码器30可以具有组合成单个单元的逆量化单元310和逆变换处理单元312。

具体的,在本申请实施例中,解码器30用于实现后文实施例中描述的视频图像解码方法。

应当理解的是,视频解码器30的其它结构变化可用于解码经编码视频位流。例如,视频解码器30可以不经滤波器320处理而生成输出视频流;或者,对于某些图像块或者图像帧,视频解码器30的熵解码单元304没有解码出经量化的系数,相应地不需要经逆量化单元310和逆变换处理单元312处理。环路滤波器320是可选的;以及针对无损压缩的情况下,逆量化单元310和逆变换处理单元312是可选的。应当理解的是,根据不同的应用场景,帧间预测单元和帧内预测单元可以是被选择性的启用。

应当理解的是,本申请的编码器20和解码器30中,针对某个环节的处理结果可以经过进一步处理后,输出到下一个环节,例如,在插值滤波、运动矢量推导或环路滤波等环节之后,对相应环节的处理结果进一步进行clip或移位shift等操作。

例如,按照相邻仿射编码块的运动矢量推导得到的当前待处理图像块的控制点的运动矢量,或者推导得到的当前待处理图像块的子块的运动矢量,可以经过进一步处理,本申请对此不做限定。例如,对运动矢量的取值范围进行约束,使其在一定的位宽内。假设允许的运动矢量的位宽为bitdepth,则运动矢量的范围为-2^(bitdepth-1)~2^(bitdepth-1)-1,其中“^”符号表示幂次方。如bitdepth为16,则取值范围为-32768~32767。如bitdepth为18,则取值范围为-131072~131071。又例如,对运动矢量(例如一个8x8图像块内的四个4x4子块的运动矢量mv)的取值进行约束,使得所述四个4x4子块mv的整数部分之间的最大差值不超过n个像素,例如不超过一个像素。

可以通过以下两种方式进行约束,使其在一定的位宽内:

方式1,将运动矢量溢出的高位去除:

ux=(vx+2bitdepth)%2bitdepth

vx=(ux>=2bitdepth-1)?(ux-2bitdepth):ux

uy=(vy+2bitdepth)%2bitdepth

vy=(uy>=2bitdepth-1)?(uy-2bitdepth):uy

其中,vx为图像块或所述图像块的子块的运动矢量的水平分量,vy为图像块或所述图像块的子块的运动矢量的垂直分量,ux和uy为中间值;bitdepth表示位宽。

例如vx的值为-32769,通过以上公式得到的为32767。因为在计算机中,数值是以二进制的补码形式存储的,-32769的二进制补码为1,0111,1111,1111,1111(17位),计算机对于溢出的处理为丢弃高位,则vx的值为0111,1111,1111,1111,则为32767,与通过公式处理得到的结果一致。

方法2,将运动矢量进行clipping,如以下公式所示:

vx=clip3(-2bitdepth-1,2bitdepth-1-1,vx)

vy=clip3(-2bitdepth-1,2bitdepth-1-1,vy)

其中vx为图像块或所述图像块的子块的运动矢量的水平分量,vy为图像块或所述图像块的子块的运动矢量的垂直分量;其中,x、y和z分别对应mv钳位过程clip3的三个输入值,所述clip3的定义为,表示将z的值钳位到区间[x,y]之间:

参见图4,图4是本申请实施例提供的视频译码设备400(例如视频编码设备400或视频解码设备400)的结构示意图。视频译码设备400适于实施本文所描述的实施例。在一个实施例中,视频译码设备400可以是视频解码器(例如图1a的解码器30)或视频编码器(例如图1a的编码器20)。在另一个实施例中,视频译码设备400可以是上述图1a的解码器30或图1a的编码器20中的一个或多个组件。

视频译码设备400包括:用于接收数据的入口端口410和接收单元(rx)420,用于处理数据的处理器、逻辑单元或中央处理器(cpu)430,用于传输数据的发射器单元(tx)440和出口端口450,以及,用于存储数据的存储器460。视频译码设备400还可以包括与入口端口410、接收器单元420、发射器单元440和出口端口450耦合的光电转换组件和电光(eo)组件,用于光信号或电信号的出口或入口。

处理器430通过硬件和软件实现。处理器430可以实现为一个或多个cpu芯片、核(例如,多核处理器)、fpga、asic和dsp。处理器430与入口端口410、接收器单元420、发射器单元440、出口端口450和存储器460通信。处理器430包括译码模块470(例如编码模块470或解码模块470)。编码/解码模块470实现本文中所公开的实施例,以实现本申请实施例所提供的色度块预测方法。例如,编码/解码模块470实现、处理或提供各种编码操作。因此,通过编码/解码模块470为视频译码设备400的功能提供了实质性的改进,并影响了视频译码设备400到不同状态的转换。或者,以存储在存储器460中并由处理器430执行的指令来实现编码/解码模块470。

存储器460包括一个或多个磁盘、磁带机和固态硬盘,可以用作溢出数据存储设备,用于在选择性地执行这些程序时存储程序,并存储在程序执行过程中读取的指令和数据。存储器460可以是易失性和/或非易失性的,可以是只读存储器(rom)、随机存取存储器(ram)、随机存取存储器(ternarycontent-addressablememory,tcam)和/或静态随机存取存储器(sram)。

参见图5,图5是根据一示例性实施例的可用作图1a中的源设备12和目的地设备14中的任一个或两个的装置500的简化框图。装置500可以实现本申请的技术。换言之,图5为本申请实施例的编码设备或解码设备(简称为译码设备500)的一种实现方式的示意性框图。其中,译码设备500可以包括处理器510、存储器530和总线系统550。其中,处理器和存储器通过总线系统相连,该存储器用于存储指令,该处理器用于执行该存储器存储的指令。译码设备的存储器存储程序代码,且处理器可以调用存储器中存储的程序代码执行本申请描述的各种视频编码或解码方法,尤其是各种新的帧内帧间的方法。为避免重复,这里不再详细描述。

在本申请实施例中,该处理器510可以是中央处理单元(centralprocessingunit,简称为“cpu”),该处理器510还可以是其他通用处理器、数字信号处理器(dsp)、专用集成电路(asic)、现成可编程门阵列(fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

该存储器530可以包括只读存储器(rom)设备或者随机存取存储器(ram)设备。任何其他适宜类型的存储设备也可以用作存储器530。存储器530可以包括由处理器510使用总线550访问的代码和数据531。存储器530可以进一步包括操作系统533和应用程序535,该应用程序535包括允许处理器510执行本申请描述的视频编码或解码方法(尤其是本申请描述的视频图像解码方法)的至少一个程序。例如,应用程序535可以包括应用1至n,其进一步包括执行在本申请描述的视频编码或解码方法的视频编码或解码应用(简称视频译码应用)。

该总线系统550除包括数据总线之外,还可以包括电源总线、控制总线和状态信号总线等。但是为了清楚说明起见,在图中将各种总线都标为总线系统550。

可选的,译码设备500还可以包括一个或多个输出设备,诸如显示器570。在一个示例中,显示器570可以是触感显示器,其将显示器与可操作地感测触摸输入的触感单元合并。显示器570可以经由总线550连接到处理器510。

下面详细阐述本申请实施例的方案:

首先对本申请实施例涉及到的帧间预测采用的相关技术进行描述。

不限于现有标准中的几种帧间预测模式,例如在hevc(即h.265)标准中,对于预测单元(predictionunit,pu),可以称为当前待处理图像块,基于平动运动模型,存在两个帧间预测模式,分别称为融合(merge)模式(也可以称为合并模式,其中,跳过(skip)模式被视为融合模式的特殊情况)和先进的运动向量预测(advancedmotionvectorprediction,amvp)模式。

对于当前待处理图像块,还包括多种子块预测模式,其中,基于非平动运动模型,存在仿射合并模式(affinemergemode)和仿射先进运动矢量预测模式(affineamvpmode);子块预测模式还包括高级时域运动矢量预测(advancedtemporalmotionvectorprediction,atmvp)模式、planaer模式、子块融合模式(sub-blockbasedmergingmode)以及三角预测单元(trianglepredictionunit,trianglepu)方式。

平动运动模型中,认为当前待处理图像块中的所有像素点的运动一致,即所有像素点具有相同的运动信息。基于平动运动模型的帧间预测模式包括:

(1)amvp模式

对于amvp模式,编码端对当前待处理图像块进行预测的过程包括:

步骤1、编码端通过当前待处理图像块的空域或者时域相邻的已编码图像块的运动信息(简称为相邻图像块),构建候选运动矢量列表。

该候选运动矢量列表中包括当前待处理图像块的一个或多个候选运动矢量。

如图6所示,当前待处理图像块的空域候选运动矢量通过当前待处理图像块的空间相邻的5个图像块(a0,a1,b0,b1和b2)的运动矢量确定,若相邻图像块不可得,则不加入候选运动矢量列表,相邻图像块的位置及其遍历顺序也是预先定义好的。当前待处理图像块的时域候选运动矢量是根据该当前待处理图像块的时域相邻图像块的运动矢量得到(例如通过对时域相邻图像块的运动矢量进行缩放得到当前待处理图像块的时域候选运动矢量),其中,时域相邻图像块指的是当前待处理图像块的参考帧中对应位置的图像块,如图6所示,首先判断当前待处理图像块的参考帧中位置为t0的图像块是否可得,若不可得,则选择位置为c的图像块作为当前待处理图像块的时域相邻图像块。

本申请实施例中,图像块(或者子块)可得指的是:该图像块(或子块)存在或者已重建,即已编码或者已解码,并且其预测模式为帧间预测模式,否则认为该图像块(或子块)不可得,即图像块不存在或者图像块未编码或者相邻图像块采用的预测模式不是帧间预测模式。

步骤2、编码端从候选运动矢量列表中确定最优的运动矢量作为当前待处理图像块的运动矢量预测值(motionvectorpredictor,mvp)。

本申请实施例中,上述编码端从候选运动矢量列表中的多个候选运动矢量中确定最优的运动矢量时,可以采用率失真优化技术,确定最优的运动矢量。具体的,可以根据候选运动矢量列表中的所有候选运动矢量,采用下面的公式(1),计算每一个运动矢量对应的率失真代价,然后选择率失真代价最小的运动矢量(即最小的率失真代价对应的运动矢量)作为当前待处理图像块的运动矢量预测值:

j=sad+λr(1)

其中,j表示率失真代价,sad表示采用候选运动矢量列表中的运动矢量的预测值确定的当前待处理图像块的预测像素值与原始像素值之间的绝对误差和(sumofabsolutedifferences,sad),r表示视频流的码率,λ表示拉格朗日乘子(λ可以为预设的常量)。

步骤3、编码端在mvp为中心的邻域内进行运动搜索,获得当前待处理图像块的实际运动矢量。

步骤4、编码端根据当前待处理图像块的实际运动矢量,对当前待处理图像块进行运动补偿,得到当前待处理图像块的预测块。

步骤5、编码端将选择的运动矢量预测值在候选运动矢量列表中的位置的索引值和参考帧的索引值传递到解码端,进一步地,编码端将mvp与实际运动矢量之间的差值(motionvectordifference,mvd)传递也到解码端。

在解码端,按照与编码端相同的方法构建候选运动矢量列表,并且通过解析码流得到当前待处理图像块的运动失量预测值在候选运动矢量列表中的位置的索引值、mvd以及参考帧的索引值,根据运动失量预测值在候选运动矢量列表中的位置的索引值确定出mvp,进而根据mvp和mvd得到当前待处理图像块的实际运动矢量,并根据当前待处理图像块的实际运动矢量,确定当前待处理图像块的预测块。

(2)merge模式

对于merge模式,编码端对当前待处理图像块进行预测的过程包括:

步骤1、编码端通过当前待处理图像块的空域或者时域相邻的已编码图像块的运动信息,构建候选运动矢量列表。

需要说明的是,merge模式中编码端构建候选运动矢量列表的方法与amvp模式中编码端构建候选运动矢量列表的方法类似。

步骤2、编码端从候选运动矢量列表中确定最优的运动矢量作为当前待处理图像块的运动矢量。

步骤3、编码端根据当前待处理图像块的运动矢量,对当前待处理图像块进行运动补偿,得到当前待处理图像块的预测块。

步骤4、编码端将最优的运动矢量在候选运动矢量列表中位置的索引值(记为mergeindex)以及参考帧的索引值传递到解码端。

在解码端,解码端按照与编码端相同的方法构建候选运动矢量列表,并且通过解析码流得到最优的运动失量在候选运动矢量列表中的位置的索引值,并且将该索引值指示的最优的运动矢量作为当前待处理图像块的运动矢量。

与amvp模式类似,merge模式的相邻图像块的位置及其遍历顺序也是预先定义好的,且相邻图像块的位置及其遍历顺序在不同模式下可能不同。

可以看到,在amvp模式和merge模式中,都需要维护一个候选运动矢量列表。每次向候选运动矢量列表中加入新的运动信息之前都会先检查列表中是否已经存在相同的运动信息,如果存在则不会将该运动信息加入列表中。我们将这个检查过程称为候选运动矢量列表的修剪。列表修剪是为了防止列表中出现相同的运动信息,避免冗余的率失真代价计算。

本申请实施例中,子块预测模式(例如可以包括下文中描述的5种)中,对于当前待处理图像块,认为并不是所有的像素都有相同的运动特性,采用相同的运动信息可能会导致运动补偿预测的不准确,进而子块预测模式中,将当前待处理图像块继续划分为更小的图像块(以下均称为子块),并根据所有子块的运动信息进行运动补偿,得到当前待处理图像块的预测块,从而提高预测效率。

(1)affinemerge模式

上述实施例中提及到的merge模式和amvp模式均是基于平动运动模型的运动补偿技术,即假设图像块中的所有像素点的运动一致。但是,在现实世界中存在很多非平动运动的物体,如旋转的物体、在不同方向旋转的过山车、投放的烟花、电影中的一些特技动作,对于一个图像块而言,非平动运动也就是指图像块中所有像素点的运动并不完全一致,若采用当前编码标准中的基于平动运动模型的运动补偿技术,编码效率会受到很大的影响。因此,业界对非平动运动模型进行了研究。这种帧间预测模式是一种子块帧间预测模式,具体可以称为仿射预测模式(包括affinemerge模式和下文中的affineamvp模式)。

从解码端的角度,采用affinemerge模式对当前待处理图像块执行帧间预测的过程包括:

步骤1、构建当前待处理图像块的控制点的候选运动信息列表。

其中,该候选运动信息列表中包括一个或多个候选运动信息多元组,该候选运动信息多元组包括当前待处理图像块的n1个控制点的候选运动信息,n1为大于或者等于2的正整数。

本申请实施例中,当前待处理图像块为一个cu,当前待处理图像块的控制点可以包括当前待处理图像块的左上顶点、右上顶点、左下顶点以及右下顶点的控制点,例如图7中的控制点可以为p1、p2、p3以及p4。上述候选运动信息多元组中包括n个控制点的运动信息,n的取值可以为2,3,4,结合图7,n1的取值为2时,当前待处理图像块的2个控制点可以为下述任一种情况:p1和p2,p1和p3,p1和p4,p2和p3,p2和p4,p3和p4;n的取值为3时,当前待处理图像块的3个控制点可以为下述任一种情况:p1、p2以及p3,p1、p2以及p4,p1、p3以及p4,p2、p3以及p4;n的取值为4时,当前待处理图像块的为4个为p1、p2、p3以及p4。

本申请实施例中,上述构建当前待处理图像块的控制点的候选运动信息列表即是确定当前待处理图像块的一个或多个候选运动信息多元组,具体的,可以利用继承的控制点运动矢量预测方法(inheritedcontrolpointmotionvectors)和/或构造的控制点运动矢量预测方法(constructedcontrolpointmotionvectors),构建控制点的候选运动信息列表。

第一种:采用继承的控制点运动矢量预测方法,构建控制点的候选运动信息列表包括:根据当前待处理图像块的相邻已重建的仿射编码块的运动模型,确定当前块的候选的控制点运动矢量。

上述确定当前待处理图像块的控制点的候选运动信息的方法具体包括:按照预设顺序,依次对当前待处理图像块的一个或多个相邻图像块执行第一处理过程,直到控制点的候选运动信息列表中候选运动信息多元组的数量等于第一预设数值或者直到遍历完所有相邻图像块。

其中,上述第一处理过程为:根据第i个相邻图像块所在的仿射编码块的n1个控制点的运动信息,确定出当前待处理图像块的n1个控制点的候选运动信息,并将包括当前待处理图像块的n1个控制点的候选运动信息的候选运动信息多元组存储于控制点的候选运动信息列表中,n1为大于或者等于2的正整数。

具体的,可以遍历当前待处理图像块的一个或多个相邻图像块,以从该一个或多个相邻图像块所在的仿射编码块,并获得该仿射编码块的控制点的运动矢量,进而根据该仿射编码块的n1个控制点的运动信息,采用仿射编码块的运动模型,推导出当前待处理图像块的n1个控制点的候选运动信息。

可以理解的是,运动信息包括运动矢量,上述确定当前待处理图像块的n1个控制点的候选运动信息即确定当前待处理图像块n1个控制点的候选运动矢量。

如图8所示,当前待处理图像块的5个相邻图像块分别为a1、b1、c1、d1、e1,可以按照第一预设的顺序(例如a1→b1→c1→d1→e1的顺序)遍历当前待处理图像块的相邻图像块,找到相邻图像块所在的仿射编码块,获取该仿射编码块的n1个控制点的运动信息,并且根据仿射编码块的运动模型(例如4参数(对应2个控制点)的运动模型或6参数(对应3个控制点)的运动模型),确定当前待处理图像块的n1个控制点的运动信息。

示例性的,以当前待处理图像块的一个相邻图像块a1为例,如图8所示,当前待处理图像块的控制点分别记为m0、m1、m2、m3,其中,m0的坐标为(x0,y0),m1的坐标为(x1,y1),m2的坐标为(x2,y2),m3的坐标为(x4,y4),相邻图像块a1所在的仿射编码块记为仿射编码块1,该仿射编码块1的控制点分别记为n0、n1、n2、n3,其中,n0的坐标为(x4,y4),n0的运动矢量为(vx4,vy4),n1的坐标为(x5,y5),n1的运动矢量为(vx5,vy5),n2的坐标为(x6,y6),n2的运动矢量为(vx6,vy6),n3的坐标为(x7,y7),n3的运动矢量为(vx7,vy7)。

若当前待处理图像块的2个控制点为m1和m2,则可以根据仿射编码块1的控制点n1和n2的运动信息,采用4参数的运动模型,确定该这2个控制点的候选运动信息,具体的,可以采用下述公式(2)计算控制点m1的候选运动矢量,采用公式(3)计算控制点m2的候选运动矢量:

根据上述公式(2)可得控制点m1的候选运动矢量为(vx0,vy0)。

根据上述公式(3)可得控制点m2的候选运动矢量为(vx1,vy1)。

综上,当前待处理图像块的控制点m1和m2的候选运动矢量为(vx0,vy0)和(vx1,vy1),即得到一个候选运动信息二元组,并将该候选运动信息二元组存储于控制点的候选运动信息列表。同理,对于当前待处理图像块的其他相邻图像块,采用公式(2)和公式(3)也可以得到控制点m1和m2的其他候选运动信息,并将候选运动信息二元组存储于控制点的候选运动信息列表中。

若当前待处理图像块的3个控制点为m1、m2和m3,则可以根据上述仿射编码块1的控制点n1、n2和n3的运动信息,采用6参数的运动模型,确定该3个控制点的候选运动信息,具体的,可以采用下述公式(4)计算控制点m1的候选运动矢量,采用公式(5)计算控制点m2的候选运动矢量,采用公式(6)计算控制点m3的候选运动矢量:

根据上述公式(3)可得控制点m1的候选运动矢量为(vx0,vy0)。

根据上述公式(4)可得控制点m2的候选运动矢量为(vx1,vy1)。

根据上述公式(5)可得控制点m3的候选运动矢量为(vx2,vy2)。

综上,当前待处理图像块的控制点m1、m2以及m3的运动矢量为(vx0,vy0)、(vx1,vy1)和(vx2,vy2),即得到一个候选运动信息三元组,并将该候选运动信息三元组存储于控制点的候选运动信息列表。同理,对于当前待处理图像块的其他相邻图像块,采用公式(4)、公式(5)以及公式(6)也可以得到控制点m1、m2以及m3的其他候选运动信息,并将候选运动信息三元组存储于控制点的候选运动信息列表中。

可以理解的是,根据上述方法确定当前待处理图像块的n1个控制点的运动信息。其中,若相邻图像块a1、b1、c1、d1、e1中某个相邻图像块不可得,则跳过该相邻图像块,继续根据下一个相邻图像块所在的仿射编码块的控制点的运动信息确定当前待处理图像块的n个控制点的运动信息。

可选的,本申请实施例中,上述相邻图像块a1、b1、c1、d1、e1的位置,相邻图像块的遍历顺序(即上述预设顺序)以及相邻图像块所在的仿射编码块的运动模型均不作限定,实际应用中,也可以采用其他位置的相邻图像块、其他遍历顺序以及其他运动模型。

第二种:采用构造的控制点运动矢量预测方法,构建控制点的候选运动信息列表包括:

将当前待处理图像块的控制点周边邻近的已编码块(以下简称为相邻已编码块)的运动信息进行组合,作为当前待处理图像块的控制点的运动矢量。

需要说明的是,采用构造的控制点运动矢量预测方法时,不需要考虑控制点周边邻近的已编码块是否为仿射编码块。

构造的控制点的运动矢量预测方法存在以下两种实现方式。

在第一种实现方式中,将控制点的相邻已编码块的运动信息,确定为当前待处理图像块的控制点的候选运动信息,在得到n1个控制点的候选运动信息之后,将该n1个控制点的候选运动信息进行组合,可以得到当前待处理图像块的n1个控制点的候选运动信息的n1元组队列。

以当前待处理图像块的2个控制点为例,例如左上顶点的控制点和右上顶点的控制点,如图9所示,当前待处理图像块的左上顶点的控制点记为m0,控制点m0的相邻图像块分别为a2、b2、c2,并且a2、b2、c2为控制点m0的空域上的相邻图像块,右上顶点的控制点记为m1,控制点m1的相邻图像块分别为d2、e2,并且d2和e2控制点m1的空域上的相邻图像块,该当前待处理图像块的2个控制点的候选运动信息包括控制点m0的候选运动信息和控制点m1的候选运动信息。将控制点m0的运动矢量记为v0(具体为(vx0,vy0)),控制点m1的运动矢量记为v1(具体为(vx1,vy1)),将相邻图像块a2、b2、c2的运动矢量作为控制点m0的候选运动矢量,将相邻图像块d、e的运动矢量作为控制点m1的候选运动矢量,然后将控制点m0的候选运动矢量与控制点m1的候选运动矢量进行组合,可以得到当前待处理图像块的2个控制点的候选运动矢量的二元组队列:

{(v0a2,v1d2),(v0a2,v1e2),(v0b2,v1d2),(v0b2,v1e2),(v0c2,v1d2),(v0c2,v1e2)}

可以理解,根据上述控制点的运动信息组合的方式,得到多组控制点的运动信息。对于当前待处理图像块的目标控制点包括3个控制点或4个控制点的情况,可以采用类似的控制点组合的方式确定控制点的运动信息。

在第二种实现方式中,对于当前待处理图像块的每一个控制点,按照预设顺序确定控制点的相邻图像块是否可得,并且将相邻图像块中第一个可得的相邻图像块的运动信息,确定为当前待处理图像块的对应的控制点的运动信息,然后再将控制点的运动信息进行组合,得到当前待处理图像块的n个控制点的运动信息的所有组合。

采用cpk(k=1,2,3,4)表示当前待处理图像块的第k个控制点,cp1、cp2、cp3和cp4,示例性的,如图10所示,当前待处理图像块的控制点cp1相邻图像块为c3、f3、g3,这三个相邻图像块用于确定控制点cp1的运动信息,控制点cp2的相邻图像块为d3、e3,这两个相邻图像块用于确定控制点cp2的运动信息,控制点cp3的相邻图像块为a3、b3,这两个相邻图像块用于确定控制点cp3的运动信息,控制点cp4的相邻图像块为t1,用于确定控制点cp4的运动信息,其中,a3、b3、c3、d3、e3、f3和g3均为空间上的相邻图像块,t1为时域上的相邻图像块。

对于控制点cp1,可以按照f3→c3→g3的顺序依次获取各个相邻图像块的运动信息,将检测到的第一个可得的相邻图像块的运动信息作为控制点m0的运动信息。具体的,确定控制点cp1的运动信息的过程如下:

(1)若相邻图像块f3可得,则将相邻图像块f3的运动信息作为控制点cp1的运动信息vcp1,无需再判断相邻图像块c3和相邻图像块g3是否可得;

(2)若相邻图像块f3不可得,则按照上述顺序确定相邻图像块c3是否可得;

(3)若相邻图像块c3可得,则将相邻图像块c3的运动信息作为控制点cp1的运动信息vcp1,无需再判断相邻图像块g3是否可得;

(4)若相邻图像块c3不可得,则继续确定相邻图像块g3是否可得;

(5)若相邻图像块g3可得,则将相邻图像块g3的运动信息作为控制点cp1的运动信息vcp1;

(6)若相邻图像块g3不可得,则确定控制点cp1的运动信息不存在。

对于控制点cp2,可以按照d3→e3的顺序依次获取各个相邻图像块的运动信息,将检测到的第一个可得的相邻图像块的运动信息作为控制点cp2的运动信息vcp2。

对于控制点cp3,可以按照a3→b3的顺序依次获取各个相邻图像块的运动信息,将检测到的第一个可得的相邻图像块的运动信息作为控制点cp3的运动信息vcp3。

上述确定控制点cp2和控制点cp3的运动信息的过程与确定控制点cp1的运动信息的过程类似,具体可以参见上述确定控制点cp3的运动信息的描述,此处不再赘述。

对于控制点cp4,若相邻图像块t1可得,将相邻图像块t1的运动信息作为控制点cp4的运动信息vcp4。

上述获得当前待处理图像块的所有控制点的运动信息之后,将当前待处理图像块的控制点进行组合,得到n个控制点的运动信息的多元组。

若构造2个控制点的运动信息,则将上述控制点cp1、cp2、cp3、cp4中的两个控制点的运动信息进行组合,得到的控制点的运动信息的二元组包括:(vcp1,vcp2),(vcp1,vcp3),(vcp1,vcp4),(vcp2,vcp3),(vcp2,vcp4),(vcp3,vcp4)。

若构造3个控制点的运动信息,则将上述控制点cp1、cp2、cp3、cp4中的三个控制点的运动信息进行组合,得到的控制点的运动信息的三元组包括:(vcp1,vcp2,vcp3),(vcp1,vcp2,vcp4),(vcp2,vcp3,vcp4),(vcp1,vcp3,vcp4)。

若构造4个控制点的运动信息,则将上述控制点cp1、cp2、cp3、cp4中的三个控制点的运动信息进行组合,得到的控制点运动信息的四元组为:(vcp1,vcp2,vcp3,vcp4)。

综上所述,通过上述方法构造的控制点的候选运动矢量列表,以用于确定当前待处理图像块的子块的运动信息。

综上所述,可以理解的是,编码端构建控制点的候选运动信息列表的方法与解码端相同。

步骤2、从当前待处理图像块的候选运动信息列表中确定当前待处理图像块的n1个控制点的目标运动信息。

mergeaffine模式下,编码端构造完成当前待处理图像块的控制点的候选运动信息列表之后,利用候选运动信息列表中的每个候选运动信息多元组,采用上述仿射运动模型(参考下文中的相关描述)获得当前待处理图像块中每个子块的运动矢量,进而得到每个子块的运动矢量所指向的参考帧中位置的像素值,作为其预测值,进行仿射变换运动补偿。编码端计算当前待处理图像块中每个像素点的原始值和预测值之间差值的平均值,并选择最小的平均值所对应的候选运动信息多元组作为最优的候选运动信息组合,也就是说,编码端从该候选运动信息列表中确定一个最优的候选运动信息多元组,将该最优的候选运动信息多元组作为当前待处理图像块的n1个控制点的目标运动信息,进而编码端将上述最优的候选运动信息多元组在候选运动信息列表中的索引号(记为affinemergeindex)传递至解码端。

对应地,解码端解析码流得到最优的候选运动信息多元组在候选运动信息列表中的索引,从而解码端将n1个控制点的候选运动信息列表中该索引对应的最优的候选运动信息多元组作为n2个控制点的目标候选运动信息。

步骤3、根据当前待处理图像块的n1个控制点的目标运动信息,采用仿射运动模型,确定当前待处理图像块的一个或多个子块各自的运动信息。

本申请实施例中,常用的非平动运动模型包括4参数仿射运动模型或6参数仿射运动模型。

其中,4参数的仿射运动模型为:

其中,vx和vy组成的(vx,vy)为子块的运动矢量,(x,y)为子块的坐标(具体为相对于当前待处理图像块的左上顶点像素的坐标),a1、a2、a3、a4为该仿射运动模型的4个参数,该参数与当前待处理图像块的2个控制点的运动信息有关,结合图8,若2个控制点分别为控制点m0和m1,根据控制点m1和控制点m2的运动信息,得到子块的运动信息为:

其中,(vx0,vy0)为控制点m1的运动矢量,(vx1,vy1)为控制点m2的运动矢量,w为当前待处理图像块的宽。

6参数的仿射运动模型为:

同理a1、a2、a3、a4、a5、a6为该仿射变换模型的参数,该参数与目标控制点的运动信息有关,若上述目标控制点包括的三个控制点分别为上述控制点m0、m1以及m3,根据控制点m1、控制点m2以及控制点m3的运动信息,得到第一子块中目标像素点的运动信息为:

其中,(vx0,vy0)为控制点m1的运动矢量,(vx1,vy1)为控制点m2的运动矢量,(vx2,vy2)为控制点m3的运动矢量。

步骤4、根据当前待处理图像块的一个或多个子块各自的运动信息,确定该一个或多个子块各自的预测块,进而得到当前待处理图像块的帧间预测块。

本申请实施例中,由于子块的运动信息可以表征当前待处理图像块的子块可以由已重建的图像块的子块经过偏移得到,因此,可以根据当前待处理图像块中每一个子块各自的运动信息快速地确定每一个子块的预测信息(即预测块)。具体的,根据当前待处理图像块的子块的运动信息中的运动矢量和当前待处理图像块的子块的位置信息,在当前待处理图像块的参考帧中,确定当前待处理图像块的子块的运动信息中的运动矢量指向的参考块,并将该参考块作为当前待处理图像块的子块的预测块,对当前待处理图像块的所有子块按照上述预测方法得到所有子块的预测块,即得到了当前待处理图像块的帧间预测块。

(2)affineamvp模式

从解码端的角度,采用affineamvp模式对当前待处理图像块执行帧间预测的过程:

步骤1、构建当前待处理图像块的控制点的候选运动信息列表。

本申请实施例中,affineamvp模式下构建控制点的候选运动信息列表的方法与上述affinemerge模式下构造控制点的候选运动信息列表的方法类似,具体参见上述实施例的相关描述,此处不再赘述。

步骤2、根据当前待处理图像块的候选运动信息列表,确定当前待处理图像块的n1个控制点的目标运动信息。

affineamvp模式下,编码端构造完成当前待处理图像块的控制点的候选运动信息列表之后,利用候选运动信息列表中的每个候选运动信息多元组,采用上述仿射运动模型(参考下文中的相关描述)获得当前待处理图像块中每个子块的运动矢量,进而得到每个子块的运动矢量所指向的参考帧中位置的像素值,作为其预测值,进行仿射变换运动补偿。编码端计算当前待处理图像块中每个像素点的原始值和预测值之间差值的平均值,并选择最小的平均值所对应的候选运动信息多元组作为最优的候选运动信息组合,将该最优的候选运动信息多元组作为当前待处理图像块的n1个控制点的运动信息的预测值,并且编码端以控制点的运动信息的预测值中的运动矢量(简称为控制点的运动矢量预测值)作为搜索起始点在一定搜索范围内进行运动搜索,获得这n1个控制点的运动矢量(controlpointmotionvectors,cpmv),并得到控制点的运动矢量与控制点的运动矢量预测值之间的差值(controlpointmotionvectorsdifferences,cpmvd),进而编码端将上述最优的候选运动信息多元组在候选运动信息列表中的索引以及cpmvd传输至解码端。

对应地,解码端解析码流得到最优的候选运动信息多元组在候选运动信息列表中的索引以及cpmvd,从而解码端将n1个控制点的候选运动信息列表中该索引对应的最优的候选运动信息多元组作为n1个控制点的候选运动信息预测值,并将n1个控制点的候选运动信息预测值与cpmvd之和,作为n1个控制点的目标运动信息。

步骤3、根据当前待处理图像块的n1个控制点的目标运动信息,采用仿射运动模型,确定当前待处理图像块的一个或多个子块各自的运动信息。

步骤4、根据当前待处理图像块的一个或多个子块各自的运动信息,确定该一个或多个子块各自的预测块,进而得到当前待处理图像块的帧间预测块。

步骤3与步骤4可参见上述affinemerge模式中的步骤3和步骤4的描述,此处不再赘述。

(3)atmvp模式

采用atmvp模式对当前待处理图像块执行帧间预测的过程包括:

步骤1、确定当前待处理图像块的运动信息。

步骤2、根据当前待处理图像块的运动信息以及待处理子块在该待处理图像块中的,在参考图像中确定该待处理子块的对应子块;

步骤3、根据对应子块的运动信息,确定当前待处理子块的运动信息。

即将对应子块的运动信息,确定当前待处理子块的运动信息。

步骤4、根据待处理子块的运动信息对待处理子块进行运动补偿预测,得到待处理子块的预测块,基于当前待处理图像块的所有子块的预测块得到当前待处理图像块的帧间预测块。

(4)planar模式

通过获取当前每一个子块的上边空域相邻位置、左边空域相邻位置、右边和下边位置的运动信息,求其平均值,并转化为当前每一个子块的运动信息。

对于坐标为(x,y)子块,子块运动矢量p(x,y)使用水平方向插值运动矢量和水平方向插值运动矢量计算得到:

p(x,y)=(h×ph(x,y)+w×pv(x,y)+h×w)/(2×h×w)

水平方向插值运动矢量和水平方向插值运动矢量通过使用当前子块左侧、右侧、上方和下侧的运动矢量计算得到:

ph(x,y)=(w-1-x)×l(-1,y)+(x+1)×r(w,y)

pv(x,y)=(h-1-y)×a(x,-1)+(y+1)×b(x,h)

其中l(-1,y)和r(w,y)代表当前子块左侧和右侧位置的运动矢量,a(x,-1)和b(x,h)表示当前子块上方和下侧位置的运动矢量。

左侧运动矢量l和上方运动矢量a从当前待处理图像块的空域临近块得到。根据子块坐标(x,y)得到预设位置(-1,y)和(x,-1)处的图像块的运动矢量l(-1,y)和a(x,-1)。

右侧运动矢量r(w,y)和下方运动矢量b(x,h)通过以下方法提取:

1、提取当前待处理图像块右下位置的时域运动信息br;

2、使用提取到的右上空域临近位置的运动矢量ar和右下位置的时域运动信息br加权计算得到右侧运动矢量r(w,y),如下式:

r(w,y)=((h-y-1)ar+(y+1)br)/h

3、使用提取到的左下空域临近位置的运动矢量bl和右下位置的时域运动信息br加权计算得到下方运动矢量b(x,h),如下式:

b(x,h)=((w-x-1)bl+(x+1)br)/w

计算中使用的所有运动矢量都被缩放到指向特定参考帧队列中第一个参考帧。

(5)子块融合模式

子块融合模式指的是上述几种运动信息混合使用,例如,采用上述继承的控制点运动矢量预测方法、构造的控制点运动矢量预测方法、atmvp模式中运动矢量预测方法或planar模式中运动矢量预测方法中的两种或两种以上的方法,构建子块融合候选列表(sub-blockbasedmergingcandidatelist)。

步骤1、构造当前待处理图像块的候选列表。

示例性的,以子块融合模式包括高级时域运动矢量预测方法、继承的控制点运动矢量预测方法以及构造的控制点运动矢量预测方法为例,介绍子块融合候选列表(可以简称为候选列表)的构建过程。将上述atmvp模式中运动矢量预测方法获得的运动信息(该运动信息为子块的运动信息)、上述继承的控制点运动矢量预测方法获得运动信息(该运动信息包括多个候选运动信息多元组)以及上述构造的控制点运动矢量预测方法(该运动信息包括多个候选运动信息多元组)按照预设顺序(例如先atmvp,后继承,再构造的顺序)存储至候选列表中。

可选的,将子块融合候选列表根据特定的规则进行剪枝和排序,并可将其截断或填充至特定的个数。

步骤2、从候选列表中确定目标候选运动信息。

在编码端,利用融合候选列表中的每个候选运动信息,得到当前待处理图像块的像素的预测值,并计算当前待处理图像块中每个像素点的原始值和预测值之间差值的平均值,选择差值的平均值最小对应的候选运动信息,将表示该候选运动信息在候选运动信息列表中位置的索引号编码入码流发送给解码端。

在解码端,解析索引号,根据索引号从上述候选列表中确定控制点的运动信息或子块的运动信息(若为atmvp或planar模式)作为目标候选运动信息。

步骤3、根据目标候选运动信息,得到当前待处理图像块的一个或多个子块各自的预测块,进而得到当前待处理图像块的帧间预测块。

具体的,若目标候选运动信息为控制点的运动信息,则根据上述affinemerge模式中的仿射运动模型,确定一个或多个子块的运动信息,基于一个或多个子块的运动信息,得到一个或多个子块的预测块,进而得到当前待处理图像块的帧间预测块。若目标候选运动信息为子块的运动信息,则基于子块的运动信息,得到子块的预测块,进而得到当前待处理图像块的帧间预测块。

(6)trianglepu方式

trianglepu方式指的是将当前待处理图像块划分为两个三角预测单元,编解码构建每个三角预测单元各自对应的单向候选运动信息列表,进而基于单向候选运动信息列表中每个三角预测单元的候选运动信息,对每个三角预测单元进行运动补偿得到每个三角预测单元的预测值,并且对斜边区域包括的像素通过自适应加权得到当前待处理图像块的预测块。

另外,需要说明的是,三角预测单元方法一般只应用于skip模式或merge模式。将当前待处理图像块划分为两个三角预测单元的方法可以包括左上右下的划分方式和右上左下的划分方式,图11中的(a)为左上右下的划分方式(即从左上向右下划分),图11中的(b)为右上左下的划分方式(即从右上向左下划分)。

本申请实施例中,采用trianglepu方式对当前待处理图像块执行帧间预测的过程包括:

步骤1、构建当前待处理图像块的第一三角预测单元对应的第一单向候选运动信息列表和当前待处理图像块的第二三角预测单元对应的第二单向候选运动信息列表。

本申请实施例中,三角预测单元方式中的单向候选运动信息列表一般可以包括5个候选运动信息,这些候选运动信息可以通过如图6的7个周边的相邻块(5个空域相邻块,2个时域相邻块)得到,其中,编号为1、2、3、4、5的相邻块为空域相邻块,编号为6、7的相邻块为时域相邻块。通过搜索7个相邻块的运动信息,并按预设顺序放入单向候选运动信息列表,比如预设顺序可以是l0的双向预测运动矢量,l1的双向预测运动矢量以及l0和l1的运动矢量均值,得到第一三角预测单元对应的第一单向候选运动信息列表和第二三角预测单元对应的第二单向候选运动信息列表。

需要说明的是,如果单向候选运动信息列表中的候选运动信息的数量不足5个,补充零运动矢量0加入单向候选运动信息列表中。

示例性的,通过前向预测的运动信息用于预测一个三角预测单元的像素的预测值,通过后向预测的运动信息用于预测另一个三角预测单元的像素的预测值。编码端通过遍历选择最佳的运动信息。比如,可以通过如下{m,i,j}方式实现:

{0,1,0},{1,0,1},{1,0,2},{0,0,1},{0,2,0}

{1,0,3},{1,0,4},{1,1,0},{0,3,0},{0,4,0}

{0,0,2},{0,1,2},{1,1,2},{0,0,4},{0,0,3}

{0,1,3},{0,1,4},{1,1,4},{1,1,3},{1,2,1}

{1,2,0},{0,2,1},{0,4,3},{1,3,0},{1,3,2}

{1,3,4},{1,4,0},{1,3,1},{1,2,3},{1,4,1}

{0,4,1},{0,2,3},{1,4,2},{0,3,2},{1,4,3}

{0,3,1},{0,2,4},{1,2,4},{0,4,2},{0,3,4}

其中,{m,i,j}中,第一位的m表示左上到右下划分方式或者左下到右上的划分方式。第二位的i表示第一三角预测单元用的是第i个候选运动信息的前向运动信息,第三位的j表示第二三角预测单元用的是第j个候选预测运动矢量中的后向运动信息。

步骤2、根据第一单向候选运动信息列表,确定第一三角预测单元的目标运动信息,并且根据第一三角预测单元的目标运动信息,确定第一三角预测单元的预测值。

步骤3、根据第二单向候选运动信息列表,确定第二三角预测单元的目标运动信息,并且根据第二三角预测单元的目标运动信息,确定第二三角预测单元的预测值。

需要说明的是,本申请实施例可以不限制步骤2与步骤3的执行顺序。

步骤4、根据第一三角预测单元的预测值和第二三角预测单元的预测值,对当前待处理图像块的斜边区域进行自适应加权,得到当前待处理图像块的帧间预测块。

基于斜边区域包括的像素的预测值进行自适应加权过程可以参见图12,将上述第一三角预测单元记为p1,将第二三角预测单元记为p2,在完成了对p1和p2的预测后,对斜边区域包括的像素进行自适应加权以获得最终当前待处理图像块的预测值。例如,图12中的左侧图像中,2位置的像素的预测值可以为2/8×p_1+6/8×p_2,其中,2/8对应于p1(右上区域)中2位置的像素的预测值的加权系数,6/8对应于p2(左下区域)中2位置的像素的预测值的加权系数,p_1表示p1中2位置的像素的预测值,p_2表示p2中2位置的像素的预测值。

可选的,本申请实施例中,针对斜边区域的大小有两组加权系数可用,例如:

第一组加权系数为:{7/8,6/8,4/8,2/8,1/8}及{7/8,4/8,1/8},分别用于亮度点和色度点。

第二组加权系数:{7/8,6/8,5/8,4/8,3/8,2/8,1/8}及{6/8,4/8,2/8}分别用于亮度点和色度点。

实际应用中,可以采用上述两种加权系数中的一组进行编/解码,当两个三角预测单元的参考图像不同或它们的运动矢量之间的差异大于16个像素,则选择第二组加权系数,否则使用第一组加权系数。

本申请实施例中,可以采用帧内帧间(intra-inter)预测模式对当前待处理图像块进行预测,现有的帧内帧间预测模式中的帧间预测模式可以为merge模式,当然,帧间预测模式也可以上述实施例中提及到的任一种帧间预测模式,本申请实施例不进行限定。以下简单介绍帧内预测模式。

在帧内帧间预测过程中,引入一个标识位(例如mh_intra_luma_mpm_flag[x0][y0]),且当此标识位为1时表明从帧内候选列表(也可以称为候选帧内预测模式列表)中选择了其中一种帧内预测模式,并且根据帧内模式索引从帧内候选列表中选择出一种帧内预测模式,基于选择出的帧内预测模式对当前待处理图像块进行帧内预测得到当前待处理块的帧内预测块。

本申请实施例中,对于亮度分量,帧内候选列表中的候选预测模式来源于4种帧内预测模式,分别是直流模式(dc模式),平面(planar)模式,水平模式,垂直模式。基于当前待处理图像块的大小,帧内候选列表长度可设置为3或者4。当当前待处理图像块的宽度大于高度的两倍时,帧内候选列表中排除水平模式,此时该帧内候选列表的长度为3,帧内候选列表包括dc模式、planar模式以及垂直模式。当当前待处理图像块的高度大于宽度的两倍,帧内候选列表中排除垂直模式,此时该帧内候选列表的长度为3,帧内候选列表包括dc模式、planar模式以及水平模式。

目前在帧间预测引入子块融合模式,帧内帧间预测引入了trianglepu方式。在解码时,解析码流得到子块融合模式的标识,如果确定当前待处理图像块采用子块融合模式的帧间预测的情况下,采用子块融合模式对当前待处理图像块进行帧间预测,无需再使用帧内帧间预测模式,只有确定当前待处理图像块不采用子块融合模式的帧间预测时,使用帧内帧间预测模式对当前待处理图像块进行帧内帧间预测。

本申请实施例提供了一种视频图像解码及装置,可以将子块融合模式应用于帧内帧间预测方法中,能够实现多种预测模式的兼容,从而提高解码效率。其中,方法和装置是基于同一发明构思的,由于方法及装置解决问题的原理相似,因此装置与方法的实施可以相互参见,重复之处不再赘述。

下面基于上述对于帧间预测模式中的多种预测模式的介绍,并结合附图从解码的角度对本申请提供的视频图像解码方法进行详细说明。具体可以由解码器30执行,或者由解码器中的熵解码单元和预测处理单元来实现,或者由处理器来执行。

如图13所示,本申请实施例提供的视频图像解码方法可以包括:

s101、从码流中解析第一标识。

该第一标识用于指示对当前待处理图像块进行帧间预测是否采用子块预测模式,换句话说,第一标识用于指示对当前待处理图像块进行帧间预测是否允许采用子块预测模式,示例性的,假如该子块预测模式为子块融合模式,在标准文本或代码中第一标识可以通过语法元素merge_subblock_flag[x0][y0]来表示,比如merge_subblock_flag[x0][y0]==1时,指示对当前待处理图像块进行帧间预测采用子块融合模式,例如允许采用子块融合模式,merge_subblock_flag[x0][y0]==0时,指示对当前待处理图像块进行帧间预测不采用子块融合模式,例如不允许采用子块融合模式。

本申请实施例中,子块预测模式可以包括子块融合模式(sub-blockbasedmergingmode)、仿射合并预测模式(affinemergemode)、仿射先进运动矢量预测模式(affineamvpmode)、高级时域运动矢量预测模式(atmvpmode)中的任一种,在实际应用中,可以从上述模式中选择任一种子块预测模式对当前待处理图像块执行帧间预测。

s102、从码流中解析第二标识。

该第二标识用于指示当前待处理图像块是否采用帧内帧间预测模式,换句话说,第二标识用于指示当前待处理图像块是否允许采用帧内帧间预测模式,示例性的,在标准文本或代码中第二标识可以通过语法元素mh_intra_flag[x0][y0]来表示,比如mh_intra_flag[x0][y0]==1时,指示当前待处理图像块允许采用帧内帧间预测模式,例如允许采用帧内帧间预测模式,mh_intra_flag[x0][y0]==0时,指示当前待处理图像块不采用帧内帧间预测模式,例如不允许采用帧内帧间预测模式。

在一种示例下,上述解析第二标识的条件还可以包括:

if(sps_mh_intra_enabled_flag&&cu_skip_flag[x0][y0]==0&&(cbwidth*cbheight)>=64&&cbwidth<128&&cbheight<128),即允许采用帧内帧间预测模式,且不采用skip模式,并且当前待处理图像块的宽度与高度的乘积大于或者等于64个像素,且当前待处理图像块的宽度小于128个像素,当前待处理图像块的高度小于128个像素。

需要说明的是,上述解析第一标识与解析第二标识是独立的过程,本申请实施例中,不限制解析第一标识与解析第二标识的顺序,即可以先执行上述s101,后执行s102,或者先执行s102,后执行s101,或者同时执行s101和s102。

s103、当第二标识指示当前待处理图像块采用帧内帧间预测模式时,从码流中解析第三标识。

该第三标识用于指示当前待处理图像块所采用的帧内预测模式,应理解,该第三标识可以是帧内预测模式中的一个或多个标识的组合,换言之,解析第三标识可以包括解析第三一标识,当第三一标识为真时进一步解析第三二标识,通过解析第三一标识和第三二标识可以确定当前待处理图像块所采用的帧内预测模式,第三一标识用于指示是否从帧内候选列表中选择了一种帧内模式,例如第三一标识为mh_intra_luma_mpm_flag[x0][y0],当mh_intra_luma_mpm_flag[x0][y0]==1时,表示从帧内候选列表中选择了一种帧内预测模式,进而解析得到第三二标识,该第三二标识为帧内模式索引用于指示帧内候选列表中的帧内目标预测模式,例如第三二标识为mh_intra_luma_mpm_idx[x0][y0]。

关于帧内候选列表的描述可以参考上述对于帧内预测模式的介绍,此处不再赘述。

在另一种示例中,上述解析第三标识的条件还可以包括:

if(cbwidth<=2*cbheight||cbheight<=2*cbwidth),即当前待处理图像块的宽度小于或者等于其高度的2倍或者当前待处理图像块的高度小于或者等于其宽度的2倍。

s104、当第一标识用于指示对当前待处理图像块进行帧间预测采用子块预测模式时,根据子块预测模式,对当前待处理图像块执行帧间预测,得到当前待处理图像块的帧间预测块。

本申请实施例中,可以采用上述实施例描述的5种子块预测模式中的任一种对当前待处理图像块执行帧间预测,具体预测过程此处不再详述。

s105、根据第三标识指示的帧内预测模式,对当前待处理图像块执行帧内预测,得到当前待处理图像块的帧内预测块。

可选的,本申请实施例中,帧内候选列表的长度为3时,第三标识指示的帧内预测模式可以为dc模式、planar模式或垂直模式中的一种,或者为dc模式、planar模式或水平模式中的一种;帧内候选列表的长度为4时,第三标识指示的帧内预测模式可以为dc模式、planar模式、垂直模式或水平模式中的一种。

采用第三标识指示的帧内预测模式,对当前待处理图像块执行帧内预测的过程可以参考相关现有技术,本申请实施例不作详细描述。

需要说明的是,本申请实施例可以不限制s104与s105的执行顺序,即可以先执行s104,后执行s105,或者可以先执行s105,后执行s104,或者可以同时执行s104和s105。

s106、对帧间预测块与帧内预测块进行加权求和,得到当前待处理图像块的预测块。

本申请实施例中,对帧间预测块与帧内预测块进行加权求和包括:将帧间预测块的像素值和帧内预测块的同位像素值依次加权求和,即

predb(i,j)=ω0preda(i,j)+ω1predc(i,j)

在公式(1)中,predb(i,j)表示当前待处理图像块的预测块中坐标(i,j)位置的像素的预测值,preda(i,j)表示帧内预测块中坐标(i,j)位置的像素的预测值,predc(i,j)表示帧间预测块中坐标(i,j)位置的像素的预测值,ω0、ω1(0<ω0<1,0<ω1<1,且ω0+ω1=1)分别为加权系数,不同的编码器可能有不同的加权系数的取值。

本申请实施例中,对帧间预测块与帧内预测块进行加权求和可以包括下述两种情况:

第一种情况:当当前待处理图像块满足下述条件中的一个或多个:帧内预测模式为dc预测模式或planar预测模式、当前待处理图像块的高度小于m个像素、当前待处理图像块的宽度小于n个像素时,根据s1061对帧间预测块与帧内预测块进行加权求和。

s1061、基于帧内加权系数与帧内预测块的所有像素值的乘积与帧间加权系数与帧间预测块的所有像素值的乘积之和,确定当前待处理图像块的预测块,其中,帧内加权系数与帧间加权系数相同,m、n均为正整数,m与n相同或者不同。

本申请实施例中,当当前待待处理图像块满足上述s1061中所述条件中的一个或多个时,采用帧间预测模式(例如可以包括子块预测模式和trianglepu方式),帧间预测块内每个预测像素值的加权系数相同,该加权系数即为上述的帧间加权系数;采用第三标识指示的帧内预测模式得到的帧内预测块内每个预测像素值的加权系数相同,该加权系数即为上述的帧内加权系数,并且该帧内加权系数与帧间加权系数相等。

示例性的,m可以为4,n也可以为4,在标准文本中,m、n也可以为其他的正整数,本申请实施例不作限定。

需要说明的是,本申请实施例中,不排除对帧间预测块与帧内预测块进行加权完成之后还进行其他的处理过程。

若采用子块融合模式得到当前待处理图像块的帧间预测块,可知当前待处理图像块被划分为多个子块,即该帧间预测块包括多个子块的预测块,该帧间预测块中的每个子块的加权系数相同(均为帧间加权系数)。

若采用三角预测单元(trianglepu)方式得到当前待处理图像块的帧间预测块,并且假如采用左上右下的划分方式将当前待处理图像块划分为如图14中的(a)所示的两个三角预测单元pu1和pu2(以预测亮度点为例进行说明),在得到pu1的预测块和pu2的预测块之后,根据pu1的预测值和pu2的预测值对当前待处理图像块的斜边区域进行自适应加权,如图14中的(b)所示,可见得到的帧间预测块包括3个区域,分别记为p1、p2以及p3。应理解,p1是pu1中的一部分,p1的所有预测像素值与pu1中对应区域的像素值相等;p2是pu2中的一部分,p2的所有像素值与pu2中对应区域的像素值相等;p3为斜边区域,p3的像素值为pu1中对应区域的像素值与pu2中对应区域的像素值的加权结果(pu1中像素点与pu2中的同位像素点的加权系数可能不同,也可能相同,具体加权过程参见上述实施例中对于trianglepu方式的详细描述)。

第二种情况:当当前待处理图像块满足下述条件中的一个或多个:当前待处理图像块的高度大于或者等于m个像素、当前待处理图像块的宽度大于或者等于n个像素时,根据下述s1062a或s1062b对帧间预测块与帧内预测块进行加权求和。

s1062a、若帧内预测模式为水平预测模式,则基于第i个加权系数对中的帧内加权系数与帧内预测块的第i个分区对应的所有像素值的乘积与第i个加权系数对中的帧间加权系数与帧间预测块的第i个分区对应的所有像素值的乘积之和,确定待处理图像块的第i分区的预测值,从而得到当前待处理图像块的预测块,其中,第i个分区的高度与当前待处理图像块的高度相同,i=1,2,……,n,n为正整数。

本申请实施例中,上述帧内预测块包括n个分区,帧间预测块也包括n个分区,帧内预测块的第i个分区与帧间预测块的第i个分区的大小相同,位置对应(即同位),第i个加权系数对对应于第i分区,对帧内预测块n个分区中每个分区域与帧间预测块的n个分区中的同位分区完成加权求和,即得到了帧内预测块与帧间预测快的加权求和。以一个分区(记为分区1)为例,分区1对应的加权系数对为(w1,w2),其中,w1是帧内预测块中分区1对应的加权系数,w2是帧间预测块中分区1对应的加权系数,采用该加权系数对(w1,w2)分别对应帧内预测块中分区1与帧间预测块中分区1进行加权求和的过程与上述公式(11)描述的原理类似。

应理解,上述第i个分区的高度与当前待处理图像块的高度相同即说明上述n个分区为n个垂直划分而成的分区,也就是说,当帧内预测模式为水平预测模式时,将帧内预测块和帧间预测块分别按照垂直方式划分为n个分区。

示例性的,上述n可以为4,即帧内预测块和帧间预测块分别包括4个分区,当然,在标准文本中,n的取值也可能为其他值,本申请实施例不作限定。

可选的,上述n个分区的大小可以相同,例如帧内预测块和帧间预测块分别包括4个大小相同的分区,当然,在标准文本中,上述n个分区的大小也可能不相同,本申请实施例不作限定。

示例性的,当帧内预测块和帧间预测块分别包括4个大小相同的分区时,则对应有4个加权系数对,这4个加权系数对依次记为:(w_intra1,w_inter1),(w_intra2,w_inter2),(w_intra3,w_inter3)和(w_intra4,w_inter4),其中,(w_intra1,w_inter1)用于最靠近参考点区域,(w_intra4,w_inter4)用于最远离参考点区域。

一种示例中,这4个加权系数对为:

(w_intra1,w_inter1)=(6,2),(w_intra2,w_inter2)=(5,3)

(w_intra3,w_inter3)=(3,5),(w_intra4,w_inter4)=(2,6)

结合s1062a,若采用子块融合模式得到当前待处理图像块的帧间预测块,如图14所示,假设帧间预测块包括4个大小相同的分区(图15中示意出了第1个分区,记为分区1),并且,该分区1包括一个或多个子块,通过将子块融合模式得到的帧间预测块和第三标识指示的帧内预测模式得到的帧内预测块进行加权求和,得到分区1的预测像素值(可以称为分区1的合成预测值),同理得到分区2、分区3以及分区4的合成预测值,将四个分区的合成预测值进行合并,得到当前图像块的预测块。

结合s1062a,采用三角预测单元(trianglepu)方式得到当前待处理图像块的帧间预测块,并且假如采用左上右下的划分方式划分为如图16所示的两个三角预测单元pu1和pu2(以预测亮度点为例进行说明),假设帧间预测块包括4个大小相同的分区(图15中示意出了第2个分区,记为分区2),以分区2为例,可知分区2包括p1的部分区域,p2的部分区域以及p3的部分区域,应理解,p1是pu1中的一部分,p1的所有预测像素值与pu1中对应区域的像素值相等;p2是pu2中的一部分,p2的所有像素值与pu2中对应区域的像素值相等;p3为斜边区域,p3的像素值为pu1中对应区域的像素值与pu2中对应区域的像素值的加权结果(pu1中像素点与pu2中的同位像素点的加权系数可能不同,也可能相同,具体加权过程参见上述实施例中对于trianglepu方式的详细描述)。

s1062b、若帧内预测模式为垂直预测模式,则基于第j个加权系数对中的帧内加权系数与帧内预测块的第j个分区对应的所有像素值的乘积与第j个加权系数对中的帧间加权系数与帧间预测块的第j个分区对应的所有像素值的乘积之和,确定待处理图像块的第j分区的预测值,从而得到当前待处理图像块的预测块,其中,第j个分区的宽度与当前待处理图像块的宽度相同,j=1,2,……,m,m为正整数。

本申请实施例中,上述帧内预测块包括m个分区,帧间预测块也包括m个分区,帧内预测块的第j个分区与帧间预测块的第j个分区的大小相同,位置对应(即同位),第j个加权系数对对应于第j分区,对帧内预测块n个分区中每个分区域与帧间预测块的n个分区中的同位分区完成加权求和,即得到了帧内预测块与帧间预测快的加权求和。

应理解,上述第j个分区的宽度与当前待处理图像块的宽度相同即说明上述m个分区为m个水平划分而成的分区,也就是说,当帧内预测模式为垂直预测模式时,将帧内预测块和帧间预测块分别按照水平方式划分为m个分区。

示例性的,上述m可以为4,即帧内预测块和帧间预测块分别包括4个分区,当然,在标准文本中,m的取值也可能为其他值,本申请实施例不作限定。

可选的,上述m个分区的大小可以相同,例如帧内预测块和帧间预测块分别包括4个大小相同的分区,当然,在标准文本中,上述m个分区的大小也可能不相同,本申请实施例不作限定。

需要说明的是,本申请实施例中,上述s1062b与s1062a类似,区别在于s1062b与s1062a分区的方式不同,但帧间预测块与帧内预测块的加权思想是类似的,对于s1062b不再进行详细描述。

结合图13,如图17所示,本申请实施例提供的视频图像解码方法还包括:

s107、当第一标识指示对当前待处理图像块进行帧间预测不采用子块预测模式时,从码流中解析第四标识。

该第四标识用于指示对当前待处理图像块进行帧间预测是否采用三角预测单元(trianglepu)方式,换句话说,第三标识用于指示当前待处理图像块进行帧间预测是否允许trianglepu方式。示例性的,在标准文本或代码中,第四标识可以通过语法元素skip_triangle_flag[x0][y0]或者triangle_flag[x0][y0]或者merge_triangle_flag[x0][y0]来表示。以merge_triangle_flag[x0][y0]为例,比如merge_triangle_flag[x0][y0]==1时,指示对当前待处理图像块进行帧间预测采用trianglepu方式,merge_triangle_flag[x0][y0]==0时,指示对当前待处理图像块进行帧间预测不采用trianglepu方式。

在另一种示例下,上述解析第四标识条件可以包括:

merge_subblock_flag[x0][y0]==0&&sps_triangle_enabled_flag&&slice_type==b&&cbwidth*cbheight>=16,即对当前待处理图像块进行帧间预测不采用子块预测模式,并且允许采用三角预测单元方式进行帧间预测,其中,slice_type==b&&cbwidth*cbheight>=16为是否允许采用三角预测单元方式进行帧间预测的条件。

s108、当第四标识指示对当前待处理图像块进行帧间预测采用三角预测单元方式时,根据三角预测单元方式,对当前待处理图像块执行帧间预测,得到当前待处理图像块的帧间预测块。

需要说明的是,在从码流中解析第四标识时,需要先解析第一标识,当第一标识指示对当前待处理图像块进行帧间预测不采用子块预测模式时,才执行从码流中解析第四标识。即当第一标识指示对当前待处理图像块进行帧间预测不采用子块预测模式时,执行图13所示的视频图像解码流程,而当第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式时,不执行解析第四标识的操作,即不执行图14所示的视频图像解码流程,而执行图13所示的视频图像解码流程。

应理解的是,当第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式时,采用子块预测模式对当前待处理图像块执行帧间预测,得到帧间预测块;当第一标识指示对当前待处理图像块进行帧间预测不采用子块预测模式,解析得到第四标识,并且当第四标识指示对当前待处理图像块进行帧间预测采用三角预测单元方式,则采用三角预测单元方式对当前待处理图像块执行帧间预测,得到帧间预测块,相比于图13的视频图像解码流程,图17所示的视频图像解码流程中,用于加权求和的帧间预测块是采用三角预测单元方式得到的,不再采用子块预测模式得到,即图13中的s104被替换为图17中的s107与s108。

本申请实施例中,对当前待处理图像块采用trianglepu方式进行帧间预测的过程可以参见上述实施例中对于采用trianglepu方式进行帧间预测的描述,此处不再赘述。

结合图17,如图18所示,本申请实施例提供的视频图像解码方法还包括:

s109、当第四标识指示对当前待处理图像块进行帧间预测不采用三角预测单元方式,且当前待处理图像块满足第一条件时,从码流中解析第五标识。

其中,第一条件至少包括:第一标识指示对当前待处理图像块进行帧间预测不采用子块预测模式,例如merge_subblock_flag[x0][y0]==0。

示例性的,该第一条件还可以包括:候选列表的长度大于1,例如maxnummergecand>1。

应理解,该第五标识用于指示第一帧间预测模式,该第一帧间预测模式可以为merge模式或amvp模式,或其他不同于上述子块预测模式和trianglepu方式的预测模式。

若上述第一帧间预测模式为merge模式,则第五标识可以为候选列表(包括控制点的候选运动信息多元组)中目标运动信息的索引,例如第五标识可以为merge_ixd。

本申请实施例中,第一标识为假时,例如merge_subblock_flag[x0][y0]==0,解析第四标识,当第四标识为假时,例如merge_triangle_flag[x0][y0]==0,解析第五标识,例如merge_ixd,可见,解析第五标识的条件为第一标识为假且解析的第四标识为假。

s110、根据第五标识指示的第一帧间预测模式,对当前待处理图像块执行帧间预测,得到当前待处理图像块的帧间预测块。

示例性的,上述第一帧间预测模式为merge模式时,根据第五标识(示例性的,在标准文本或代码中第五标识可以通过语法元素例如merge_idx来表示)预测当前待处理图像块的方法可以参见上述实施例中对于merge模式的详细描述,此处不再赘述。

需要说明的是,在语法结构中设计有三角预测单元方式,并且满足允许采用三角预测单元方式,在从码流中解析第五标识时,需要先解析第四标识(当然解析第四标识时,需要先解析第一标识,且该第一标识指示对当前待处理图像块进行帧间预测不采用子块预测模式),当第四标识指示对当前待处理图像块进行帧间预测不采用三角预测单元方式时,才执行从码流中解析第五标识。即当第四标识指示对当前待处理图像块进行帧间预测不采用子块预测模式时,执行图13所示的视频图像解码流程,而当第一标识指示对当前待处理图像块进行帧间预测采用三角预测单元方式时,不执行解析第五标识的操作,即不执行图18所示的视频图像解码流程,而执行图17所示的视频图像解码流程。

应理解的是,当第四标识指示对当前待处理图像块进行帧间预测采用三角预测单元方式时,采用三角预测单元方式对当前待处理图像块执行帧间预测,得到帧间预测块;当第四标识指示对当前待处理图像块进行帧间预测不采用三角预测单元方式,解析得到第五标识,并并根据第五标识指示指示的第一帧间预测模式(例merge模式)对当前待处理图像块执行帧间预测,得到帧间预测块,相比于图17的视频图像解码流程,图18所示的视频图像解码流程中,用于加权求和的帧间预测块是采用第一帧间预测模式得到的,不再采用三角预测单元方式得到,即图18中的s108被替换为图17中的s109与s110。

可选的,本申请实施例提供的视频图像解码方法还可以包括:

s111、当当前待处理图像块满足第一条件时,从码流中解析第五标识。

上述第一条件至少包括:第一标识指示对当前待处理图像块进行帧间预测不采用子块预测模式。

应理解,从码流中解析第五标识的第一条件还可以包括:候选列表长度大于1,例如maxnummergecand>1。

现有技术中,在不解析是否采用trianglepu方式的第四标识的情况下,例如语法元素的设计中不考虑trianglepu方式(即未设计trianglepu方式),或不满足允许采用trianglepu方式进行帧间预测的条件(例如merge_subblock_flag[x0][y0]==0&&sps_triangle_enabled_flag&&slice_type==b&&cbwidth*cbheight>=16),仍需解析第五标识,如此造成解码冗余。在本申请实施例中,当第一标识为假(例如merge_subblock_flag[x0][y0]==0),且候选列表长度大于1(例如maxnummergecand>1)时,解析第五标识,否则不解析第五标识,如此能够避免解码冗余。

s112、根据第五标识指示的第一帧间预测模式,对当前待处理图像块执行帧间预测,得到当前待处理图像块的帧间预测块。

可选的,本申请实施例中,若子块预测模式为子块融合模式时,并且在上述第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式时,本申请实施例提供的视频图像解码方法还可以包括s104a:

s104a、从码流中解析第六标识,该第六标识用于指示子块融合模式对应的候选列表中的目标候选运动信息。

示例性的,在上述第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式,还需解析第六标识,该第六标识可以为目标候选运动信息在子块融合模式对应的候选列表中的索引。示例性的,在标准文本或代码中,该第六标识可以通过语法元素merge_subblock_idx[x0][y0]来表示,例如,当merge_subblock_flag[x0][y0]==1时,需解析merge_subblock_idx[x0][y0]。

在另一种示例中,上述从码流中解析第六标识的条件可以包括:第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式,并且子块融合模式对应的候选列表的长度大于1,例如maxnumsubblockmergecand>1,即在第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式的情况下,判断候选列表的长度是否大于1,在候选列表的长度大于1时,解析第六标识。

需要说明的是,本申请实施例中,若第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式,且上述候选列表的长度等于1,则无需解析第六标识(也可以理解为第六标识不存在),此时,直接将候选列表中的1个候选运动信息作为目标候选运动信息。

基于s104a,上述s104具体可以包括s1041-s1042:

s1041、在子块融合模式下,根据第六标识从子块融合模式对应的候选列表中确定目标候选运动信息。

s1042、根据目标候选运动信息,对当前待处理图像块执行帧间预测,得到当前待处理图像块的帧间预测块。

对于s1041-s1042的详细描述可以参考上述实施例中对于采用该子块融合模式进行帧间预测的过程的相关描述,此处不再赘述。

综上,应理解的是,当第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式时,不再执行解析第四标识的操作。换句话说,当第一标识指示对当前待处理图像块进行帧间预测采用子块预测模时,可以直接地确定或者推断对当前待处理图像块进行帧间预测不采用三角预测单元(trianglepu)方式。进而,在第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式时,并且该子块预测模式为子块融合模式是,根据子块融合模式下的第六标识对当前待处理图像块进行帧间预测。也就是说,在第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式时,不执行解析trianglepu方式的相关标识,直接根据子块预测模式对当前待处理图像块进行帧间预测。

并且,在上述第一标识指示对当前待处理图像块进行帧间预测不采用子块预测模式,解析得到的第四标识指示对当前待处理图像块执行帧间预测不采用trianglepu方式时,才解析第五标识,否则不解析第五标识,即不执行解析merge模式的相关标识,而是直接采用trianglepu方式对当前待处理图像块执行帧间预测;或者在不考虑trianglepu方式(例如未设计trianglepu方式或不满足采用trianglepu方式的条件)时,第一标识指示对当前待处理图像块进行帧间预测不采用子块预测模式时,才解析第五标识,否则不解析该第五标识,即不执行解析merge模式的相关标识,而是直接采用子块预测模式对当前待处理图像块执行帧间预测。

本申请实施例中,在解码端可以不限制上述第一标识、第二标识、第三标识、第四标识、第五标识以及第六标识的解析顺序,下述视频编码方法与上述实施例中图13、图17以及图18等相关内容所涉及的视频图像解码方法示基于同一发明构思的,方法的实施例可以相互参见,重复之处不再赘述。

如图19所示,本申请实施例提供的视频图像解码方法可以包括:

s201、解析码流,以得到标识信息,该标识信息包括第一标识、第二标识和第三标识。

其中,第一标识用于指示对当前待处理图像块进行帧间预测是否采用子块预测模式;第二标识用于指示当前待处理图像块采用帧内帧间预测模式,第三标识用于指示当前待处理图像块所采用的帧内预测模式。

对于第一标识和第三标识的描述可以参见上述s101中对于第一标识的相关描述,此处不再赘述。

第二标识指示当前待处理图像块采用帧内帧间预测模式,即可以理解为第二标识只有一种数值,例如mh_intra_flag[x0][y0]==1。

s202、当第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式时,根据子块预测模式对当前待处理图像块执行帧间预测,得到当前待处理图像块的帧间预测块。

s203、根据第三标识指示的帧内预测模式对当前待处理图像块执行帧内预测,得到当前待处理图像块的帧内预测块。

需要说明的是,本申请实施例可以不限制s202与s203的执行顺序,即可以先执行s202,后执行s203,或者可以先执行s203,后执行s202,或者可以同时执行s202和s203。

s204、对帧间预测块与帧内预测块进行加权求和,得到当前待处理图像块的预测块。

结合图19,如图20所示,本申请实施例提供的视频图像解码方法还可以包括:

s205、当第一标识指示对当前待处理图像块进行帧间预测不采用子块预测模式时,该标识信息还包括第四标识,当第四标识指示对当前待处理图像块进行帧间预测采用三角预测单元方式时,根据三角预测单元方式,对当前待处理图像块执行帧间预测,得到当前待处理图像块的帧间预测块。

其中,该第四标识用于指示对当前待处理图像块进行帧间预测是否采用三角预测单元方式。

应理解的是,当第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式时,执行图19所示的视频图像解码流程,当第一标识指示对当前待处理图像块进行帧间预测不采用子块预测模式时,执行图20所示的视频图像解码流程,相比于图19的视频图像解码流程,图20所示的视频图像解码流程中,用于加权求和的帧间预测块是采用三角预测单元方式得到的,不再采用子块预测模式,即图19中的s202被替换为图20中的s205。

需要说明的是,本申请实施例可以不限制s203与s205的执行顺序,即可以先执行s203,后执行s205,或者可以先执行s205,后执行s203,或者可以同时执行s203和s205。

如图20所示,本申请实施例提供的视频图像解码方法还可以包括:

s206、当第一标识指示对当前待处理图像块进行帧间预测不采用子块预测模式时,该标识信息还包括第四标识,当第四标识指示对当前待处理图像块进行帧间预测不采用三角预测单元方式,且当前待处理图像块满足第一条件时,该标识信息还包括第五标识,根据第五标识指示的第一帧间预测模式,对当前待处理图像块执行帧间预测,得到当前待处理图像块的帧间预测块。

其中,第五标识用于指示对当前待处理图像块进行帧间预测采用的第一帧间预测模式,所述第一条件至少包括:第一标识指示对当前待处理图像块进行帧间预测不采用子块预测模式。

应理解的是,当第四标识指示对当前待处理图像块进行帧间预测不采用三角预测单元方式时,用于加权求和的帧间预测块是采用第一帧间预测模式得到的,不再采用三角预测单元方式得到,即图20中的s205被替换为图20中的s206。

需要说明的是,本申请实施例可以不限制s203与s206的执行顺序,即可以先执行s203,后执行s206,或者可以先执行s206,后执行s203,或者可以同时执行s203和s206。

应理解的是,在不考虑三角预测单元方式(例如未设计三角预测单元方式或不满足采用trianglepu方式的条件)时,解析码流得到第一标识之后,可执行下述s207:

s207、当当前待处理图像块满足第一条件时,该标识信息还包括第五标识,根据第五标识指示的第一帧间预测模式,对当前待处理图像块执行帧间预测,得到当前待处理图像块的帧间预测块。

其中,第五标识用于指示对当前待处理图像块进行帧间预测采用的第一帧间预测模式,该第一条件至少包括:第一标识指示对当前待处理图像块进行帧间预测不采用子块预测模式。

一种实现方式中,当子块预测模式为子块融合模式,并且当第一标识指示对当前待处理图像块进行帧间预测采用子块融合模式时,解析码流得到的标识信息还包括第六标识,该第六标识用于指示子块融合模式对应的候选列表中的目标候选运动信息。

作为一种示例,本申请实施例示例一种解析当前待处理图像块采用的预测模式(包括解析第一标识、第二标识、第三标识、第四标识,第五标识或第六标识中的部分标识)的部分语法结构,参见表1所示。

表1

在表1中,merge_subblock_idx[x0][y0]用于指示选择的子块融合模式对应的候选列表的候选运动信息的索引。merge_triangle_idx[x0][y0]用于指示选择的trianglepu方式对应的候选列表中的候选运动信息的索引。merge_idx[x0][y0]用于指示针对merge模式对应的候选列表中候选运动信息的索引,maxnumsubblockmergecand表示子块融合模式对应的候选列表的最大程度,maxnummergecand表示merge模式对应的候选列表的最大长度。

示例性的,表1中,merge_subblock_flag[x0][y0]对应于第一标识;mh_intra_flag[x0][y0]对应于第二标识,第三标识可以包括表5中的mh_intra_luma_mpm_flag[x0][y0]和mh_intra_luma_mpm_idx[x0][y0],第四标识对应于merge_triangle_flag[x0][y0],第五标识对应于merge_idx[x0][y0],第六标识对应于merge_subblock_idx[x0][y0]。

本申请实施例提供的视频图像解码方法,可以解析指示子块预测模式的标识(上述第一标识)和帧间预测模式的标识(上述第二标识),在第一标识指示对当前待处理图像块采用该子块融合模式,采用该子块预测模式对当前待处理图像块进行帧间预测,得到帧间预测块;并且在第二标识指示当前待处理图像块采用帧内帧间预测模式时,解析帧内预测模式的标识(上述第三标识),并根据第三标识指示的帧内预测模式,对当前待处理图像块进行帧内预测,得到帧内预测块;并对帧内预测块与帧间预测块进行加权求和,进而得到当前待处理图像块的帧间预测块,本申请实施例中可以将子块预测模式应用于帧内帧间预测方法中,能够实现多种预测模式的兼容,从而提高解码效率。

基于与上述方法相同的发明构思,如图21所示,本申请实施例还提供了一种视频图像解码装置1000,该视频图像解码装置1000包括熵解码单元1001、帧间预测单元1002和帧内预测单元1003,其中:

所述熵解码单元1001用于从码流中解析第一标识;

所述熵解码单元1001还用于从所述码流中解析第二标识;

所述熵解码单元1001还用于当所述第二标识指示所述当前待处理图像块采用帧内帧间预测模式时,从所述码流中解析第三标识,所述第三标识用于指示所述当前待处理图像块所采用的帧内预测模式;

所述帧间预测单元1002用于当所述第一标识指示对当前待处理图像块进行帧间预测采用子块预测模式时,根据所述子块预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块;

所述帧内预测单元1003用于根据所述第三标识指示的帧内预测模式,对所述当前待处理图像块执行帧内预测,得到所述当前待处理图像块的帧内预测块;

所述帧间预测单元1002还用于对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块。

可选的,所述熵解码单元1001还用于当所述第一标识指示对所述当前待处理图像块进行帧间预测不采用子块预测模式时,从所述码流中解析第四标识;

所述帧间预测单元1002还用于当所述第四标识指示对所述当前待处理图像块进行帧间预测采用三角预测单元方式时,根据所述三角预测单元方式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

可选的,所述熵解码单元1001还用于当所述第四标识指示对所述当前待处理图像块进行帧间预测不采用所述三角预测单元方式,且所述当前待处理图像块满足第一条件时,从所述码流中解析第五标识,所述第一条件至少包括:所述第一标识指示对所述当前待处理图像块进行帧间预测不采用子块预测模式;

所述帧间预测单元1002还用于根据所述第五标识指示的第一帧间预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

可选的,所述熵解码单元1001还用于当所述当前待处理图像块满足第一条件时,从所述码流中解析第五标识,所述第一条件至少包括:所述第一标识指示对所述当前待处理图像块进行帧间预测不采用子块预测模式;

所述帧间预测单元1002还用于根据所述第五标识指示的第一帧间预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

可选的,所述子块预测模式包括子块融合模式、仿射合并预测模式、仿射先进运动矢量预测模式、高级时域运动矢量预测模式中的任一种。

可选的,所述子块预测模式为所述子块融合模式,并且当所述第一标识指示对所述当前待处理图像块进行帧间预测采用子块预测模式时;所述熵解码单元1001还用于从所述码流中解析第六标识,所述第六标识用于指示所述子块融合模式对应的候选列表中的目标候选运动信息;

所述帧间预测单元1002具体用于在所述子块融合模式下,根据所述目标候选运动信息,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

可选的,在所述根据所述三角预测单元方式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块的方面,所述帧间预测单元1002具体用于:构建所述当前待处理图像块的第一三角预测单元对应的第一单向候选运动信息列表和所述当前待处理图像块的第二三角预测单元对应的第二单向候选运动信息列表;根据所述第一单向候选运动信息列表,确定所述第一三角预测单元的目标运动信息,并且根据所述第一三角预测单元的目标运动信息,确定所述第一三角预测单元的预测值;根据所述第二单向候选运动信息列表,确定所述第二三角预测单元的目标运动信息,并且根据所述第二三角预测单元的目标运动信息,确定所述第二三角预测单元的预测值;根据所述第一三角预测单元的预测值和所述第二三角预测单元的预测值,对所述当前待处理图像块的斜边区域进行自适应加权,得到所述当前待处理图像块的帧间预测块。

可选的,在所述对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块的方面,所述帧间预测单元1002具体用于当所述当前待处理图像块满足下述条件中的一个或多个:所述帧内预测模式为dc预测模式或planar预测模式、所述当前待处理图像块的高度小于m个像素、所述当前待处理图像块的宽度小于n个像素时,基于帧内加权系数与所述帧内预测块的所有像素值的乘积与帧间加权系数与所述帧间预测块的所有像素值的乘积之和,确定所述当前待处理图像块的预测块,其中,所述帧内加权系数与所述帧间加权系数相同,m、n均为正整数,m与n相同或者不同。

可选的,在所述对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块的方面,所述帧间预测单元1002具体用于:当所述当前待处理图像块满足下述条件中的一个或多个:所述当前待处理图像块的高度大于或者等于m个像素、所述当前待处理图像块的宽度大于或者等于n个像素时;若所述帧内预测模式为水平预测模式,则基于第i个加权系数对中的帧内加权系数与所述帧内预测块的第i个分区对应的所有像素值的乘积与所述第i个加权系数对中的帧间加权系数与所述帧间预测块的第i个分区对应的所有像素值的乘积之和,确定所述待处理图像块的第i分区的预测值,从而得到所述当前待处理图像块的预测块,其中,所述第i个分区的高度与所述当前待处理图像块的高度相同,i=1,2,……,n,n为正整数;若所述帧内预测模式为垂直预测模式,则基于第j个加权系数对中的帧内加权系数与所述帧内预测块的第j个分区对应的所有像素值的乘积与所述第j个加权系数对中的帧间加权系数与所述帧间预测块的第j个分区对应的所有像素值的乘积之和,确定所述待处理图像块的第j分区的预测值,从而得到所述当前待处理图像块的预测块,其中,所述第j个分区的宽度与所述当前待处理图像块的宽度相同,j=1,2,……,m,m为正整数。

上述第i个加权系数对对应于第i分区,第j个加权系数对对应于第j分区。

示例性地,在解码端,图21中,熵解码单元1001的位置对应于图3中熵解码单元304的位置,换言之,熵解码单元1001的功能的具体实现可以参见图3中的熵解码单元304的具体细节。帧间预测单元1002的位置对应于图3中帧间预测单元344的位置,换言之,帧间预测单元1002的功能的具体实现可以参见图3中的帧间预测单元344的具体细节。帧内预测单元1003的位置对应于图3中的帧内预测单元354的位置,换言之,帧内预测单元1003的功能的具体实现可以参见图3中的帧内预测单元354的具体细节。在一种可选设计下,图3中帧间预测单元344可以用于对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块;在另一种可选设计下,图3中模式选择单元362可以用于对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块;在又一种可选涉及下,图3中帧内预测单元344可以用于对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块;本申请对此不做限定。

还需要说明的是,熵解码单元1001、帧间预测单元1002和帧内预测单元1003的具体实现过程可参考图13、图17、图18实施例的详细描述,为了说明书的简洁,这里不再赘述。

基于与上述方法相同的发明构思,如图22所示,本申请实施例还提供了一种视频图像解码装置2000,该视频图像解码装置2000包括熵解码单元2001、帧间预测单元2002和帧内预测单元2003,其中:

所述熵解码单元2001用于解析码流,以得到标识信息,所述标识信息包括第一标识、第二标识和第三标识,所述第一标识用于指示对当前待处理图像块进行帧间预测是否采用子块预测模式;所述第二标识用于指示所述当前待处理图像块采用帧内帧间预测模式,所述第三标识用于指示所述当前待处理图像块所采用的帧内预测模式;

所述帧间预测单元2002用于当所述第一标识指示对所述当前待处理图像块进行帧间预测采用所述子块预测模式时,根据所述子块预测模式对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块;

所述帧内预测单元2003用于根据所述第三标识指示的帧内预测模式对所述当前待处理图像块执行帧内预测,得到所述当前待处理图像块的帧内预测块;

所述帧间预测单元2002用于对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块。

可选的,当所述第一标识指示对所述当前待处理图像块进行帧间预测不采用子块预测模式时,所述标识信息还包括第四标识,所述第四标识用于指示对所述当前待处理图像块进行帧间预测是否采用三角预测单元方式;所述帧间预测单元2002还用于当所述第四标识指示对所述当前待处理图像块进行帧间预测采用三角预测单元方式时,根据所述三角预测单元方式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

可选的,当所述第四标识指示对所述当前待处理图像块进行帧间预测不采用三角预测单元方式,且所述当前待处理图像块满足第一条件时,所述标识信息还包括第五标识,所述第五标识用于指示对所述当前待处理图像块进行帧间预测采用的第一帧间预测模式,所述第一条件至少包括:所述第一标识指示对所述当前待处理图像块进行帧间预测不采用子块预测模式;所述帧间预测单元2002还用于根据所述第五标识指示的第一帧间预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

可选的,当所述当前待处理图像块满足第一条件时,所述标识信息还包括第五标识,所述第五标识用于指示对所述当前待处理图像块进行帧间预测采用的第一帧间预测模式,所述第一条件至少包括:所述第一标识指示对所述当前待处理图像块进行帧间预测不采用子块预测模式;所述帧间预测单元2002还用于根据所述第五标识指示的第一帧间预测模式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块。

可选的,所述子块预测模式为子块融合模式,并且当所述第一标识指示对所述当前待处理图像块进行帧间预测采用子块融合模式时,所述标识信息还包括第六标识,所述第六标识用于指示所述子块融合模式对应的候选列表中的目标候选运动信息。

在一种可能的实施方式下,在所述根据所述三角预测单元方式,对所述当前待处理图像块执行帧间预测,得到所述当前待处理图像块的帧间预测块的方面,所述帧间预测单元2002具体用于:构建所述当前待处理图像块的第一三角预测单元对应的第一单向候选运动信息列表和所述当前待处理图像块的第二三角预测单元对应的第二单向候选运动信息列表;根据所述第一单向候选运动信息列表,确定所述第一三角预测单元的目标运动信息,并且根据所述第一三角预测单元的目标运动信息,确定所述第一三角预测单元的预测值;根据所述第二单向候选运动信息列表,确定所述第二三角预测单元的目标运动信息,并且根据所述第二三角预测单元的目标运动信息,确定所述第二三角预测单元的预测值;并且根据所述第一三角预测单元的预测值和所述第二三角预测单元的预测值,对所述当前待处理图像块的斜边区域进行自适应加权,得到所述当前待处理图像块的帧间预测块。

可选的,在所述对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块的方面,所述帧间预测单元2002具体用于当所述当前待处理图像块满足下述条件中的一个或多个:所述帧内预测模式为dc预测模式或planar预测模式、所述当前待处理图像块的高度小于m个像素、所述当前待处理图像块的宽度小于n个像素时,将帧内加权系数与所述帧内预测块的所有像素值的乘积与帧间加权系数与所述帧间预测快的所有像素值之和,确定为所述当前待处理图像块的预测块,其中,所述帧内加权系数与所述帧间加权系数相同,m、n均为正整数,m与n相同或者不同。

可选的,在所述对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块的方面,所述帧间预测单元2002具体用于:

当所述当前待处理图像块满足下述条件中的一个或多个:所述当前待处理图像块的高度大于或者等于m个像素、所述当前待处理图像块的宽度大于或者等于n个像素时;

若所述帧内预测模式为水平预测模式,则将第i个加权系数对中的帧内加权系数与所述帧内预测块的第i个分区对应的所有像素值的乘积与所述第i个加权系数对中的帧间加权系数与所述帧间预测块的第i个分区对应的所有像素值的乘积之和,确定为所述待处理图像块的第i分区的预测值,从而得到所述当前待处理图像块的预测块,其中,所述第i个分区的高度与所述当前待处理图像块的高度相同,i=1,2,……,n,n为正整数;

若所述帧内预测模式为垂直预测模式,则将第j个加权系数对中的帧内加权系数与所述帧内预测块的第j个分区对应的所有像素值的乘积与所述第j个加权系数对中的帧间加权系数与所述帧间预测块的第j个分区对应的所有像素值的乘积之和,确定为所述待处理图像块的第j分区的预测值,从而得到所述当前待处理图像块的预测块,其中,所述第j个分区的宽度与所述当前待处理图像块的宽度相同,j=1,2,……,m,m为正整数。

上述第i个加权系数对对应于第i分区,第j个加权系数对对应于第j分区。

示例性地,在解码端,图22中,熵解码单元2001的位置对应于图3中熵解码单元304的位置,换言之,熵解码单元2001的功能的具体实现可以参见图3中的熵解码单元304的具体细节。帧间预测单元2002的位置对应于图3中帧间预测单元344的位置,换言之,帧间预测单元2002的功能的具体实现可以参见图3中的帧间预测单元344的具体细节。帧内预测单元2003的位置对应于图3中的帧内预测单元354的位置,换言之,帧内预测单元2003的功能的具体实现可以参见图3中的帧内预测单元354的具体细节。在一种可选设计下,图3中帧间预测单元344可以用于对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块;在另一种可选设计下,图3中模式选择单元362可以用于对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块;在又一种可选涉及下,图3中帧内预测单元344可以用于对所述帧间预测块与所述帧内预测块进行加权求和,得到所述当前待处理图像块的预测块;本申请对此不做限定。

还需要说明的是,熵解码单元2001、帧间预测单元2002和帧内预测单元2003的具体实现过程可参考图19和图20实施例的详细描述,为了说明书的简洁,这里不再赘述。

本领域技术人员能够领会,结合本文公开描述的各种说明性逻辑框、模块和算法步骤所描述的功能可以硬件、软件、固件或其任何组合来实施。如果以软件来实施,那么各种说明性逻辑框、模块、和步骤描述的功能可作为一或多个指令或代码在计算机可读媒体上存储或传输,且由基于硬件的处理单元执行。计算机可读媒体可包含计算机可读存储媒体,其对应于有形媒体,例如数据存储媒体,或包括任何促进将计算机程序从一处传送到另一处的媒体(例如,根据通信协议)的通信媒体。以此方式,计算机可读媒体大体上可对应于(1)非暂时性的有形计算机可读存储媒体,或(2)通信媒体,例如信号或载波。数据存储媒体可为可由一或多个计算机或一或多个处理器存取以检索用于实施本申请中描述的技术的指令、代码和/或数据结构的任何可用媒体。计算机程序产品可包含计算机可读媒体。

作为实例而非限制,此类计算机可读存储媒体可包括ram、rom、eeprom、cd-rom或其它光盘存储装置、磁盘存储装置或其它磁性存储装置、快闪存储器或可用来存储指令或数据结构的形式的所要程序代码并且可由计算机存取的任何其它媒体。并且,任何连接被恰当地称作计算机可读媒体。举例来说,如果使用同轴缆线、光纤缆线、双绞线、数字订户线(dsl)或例如红外线、无线电和微波等无线技术从网站、服务器或其它远程源传输指令,那么同轴缆线、光纤缆线、双绞线、dsl或例如红外线、无线电和微波等无线技术包含在媒体的定义中。但是,应理解,所述计算机可读存储媒体和数据存储媒体并不包括连接、载波、信号或其它暂时媒体,而是实际上针对于非暂时性有形存储媒体。如本文中所使用,磁盘和光盘包含压缩光盘(cd)、激光光盘、光学光盘、数字多功能光盘(dvd)和蓝光光盘,其中磁盘通常以磁性方式再现数据,而光盘利用激光以光学方式再现数据。以上各项的组合也应包含在计算机可读媒体的范围内。

可通过例如一或多个数字信号处理器(dsp)、通用微处理器、专用集成电路(asic)、现场可编程逻辑阵列(fpga)或其它等效集成或离散逻辑电路等一或多个处理器来执行指令。因此,如本文中所使用的术语“处理器”可指前述结构或适合于实施本文中所描述的技术的任一其它结构中的任一者。另外,在一些方面中,本文中所描述的各种说明性逻辑框、模块、和步骤所描述的功能可以提供于经配置以用于编码和解码的专用硬件和/或软件模块内,或者并入在组合编解码器中。而且,所述技术可完全实施于一或多个电路或逻辑元件中。

本申请的技术可在各种各样的装置或设备中实施,包含无线手持机、集成电路(ic)或一组ic(例如,芯片组)。本申请中描述各种组件、模块或单元是为了强调用于执行所揭示的技术的装置的功能方面,但未必需要由不同硬件单元实现。实际上,如上文所描述,各种单元可结合合适的软件和/或固件组合在编码解码器硬件单元中,或者通过互操作硬件单元(包含如上文所描述的一或多个处理器)来提供。

在上述实施例中,对各个实施例的描述各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。

以上所述,仅为本申请示例性的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应该以权利要求的保护范围为准。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1