一种基于内容自适应偏移模型的视频编码硬判决量化方法
【技术领域】
[0001] 本发明算法适用于H. 264视频编码器的量化器设计，同样适用于H. 265/HEVC视频 编码器的量化器设计，具体是一种基于内容自适应偏移模型的视频编码硬判决量化方法。
【背景技术】
[0002] 量化是MPEG和Η. 26x等有损视频压缩编码器中的核心模块，量化将较大动态范围 的变换系数映射到有限个量化区间，充分利用人眼视觉失真系统的感知冗余特性，在较小 感知失真情况下实现信号压缩。量化决定着视频压缩失真大小，对码率控制也有极大的影 响。视频编解码标准中规定了量化步长参数（Qp)，并规定了拟量化的细节，并未对变换系数 的量化实现细节做出具体规定。在早期的视频编解码器中，变换系数采用了均匀标量量化 (uniform scalar quantizer，USQ)。后来，在 MPEG-4 和早期 H.264/AVC 等相关编码标准中 采用了基于简单四舍五入的硬判决量化算法（Hard-decision quantization, HDQ)。之后 又有学者提出，采用固定偏移量的死区硬判决量化（deadzone HDQ)算法，软判决量化算法 (soft-decision quantization SDQ)，以及简化版SDQ算法，即率失真优化量化算法（Rate distortion optimization quantization RD0Q)〇
[0003] 以上提到的量化算法，各有优缺点，本发明充分利用了上述算法中的优点，同时又 弥补上述算法中的部分缺陷。
[0004] 最接近的已有技术1 :自适应固定偏移量的死区HDQ算法。
[0005] 该算法利用熵编码的统计特性，对帧内预测块及帧间预测块分别采用了不同的死 区量化偏移量。实验验证，帧内预测块和帧间预测块的偏移量分别取1/3和1/6较合适。相 比早期量化器中简单四舍五入HDQ算法，采用固定偏移量的死区HDQ算法可以较大提升率 失真性能。H. 264/AVC及HEVC标准的相关编码器均采用该算法。
[0006] 该已有技术的缺陷： 该算法仍然属于HDQ算法，认为块内相邻系数相互独立，即认为信号源为无记忆信号 源。但是，在基于上下文的熵编码算法中，无记忆信号源的假设是不成立的。所以在率失真 性能上，该算法并不是最优的。
[0007] 最接近的已有技术2 :软判决量化（SDQ)算法 SDQ算法采用HDQ算法进行预量化，将零到预量化值之间的所有整数作为候选量化值， 利用维特比全搜索方法，在率失真优化准则下选择出最佳量化值。这个优化选择是对变换 块内所有系数同时进行量化实现的。相对预量化结果，该算法对块中部分系数的量化结果 进行了微调，调整时考虑率失真编码代价以及系数间的相互影响，在性能上相比于HDQ有 很大提升。
[0008] 该已有技术的缺陷： 该算法充分考虑系数间的相关性，同时采用了维特比全搜索方法，虽在性能上表现优 异，但是，由维特比搜索带来的计算复杂度非常高，系数间的相关性以及串行性严重阻碍 SDQ算法在硬件上的有效实现。
[0009] 最接近的已有技术3 :RD0Q算法 RDOQ算法是在SDQ算法基础上，为降低SDQ算法复杂度而提出的简化算法。RDOQ算法 同样采用HDQ算法进行预量化，但该算法一般只选取3个可能的候选量化值；用局部路径搜 索代替全网格搜索，从而大大地降低计算复杂度。在性能上仍能获得大部分SDQ算法编码 增益。目前，H. 264/AVC标准的JM参考代码和HEVC标准的HM参考代码均采用了 RDOQ算 法。
[0010] 该已有技术的缺陷：该算法是对SDQ算法的简化，但主要针对基于软件实现的视 频编码器，且未能消除由维特比算法分支选择以及上下文算术编码导致的串行性。因此，数 据间极高的相关性仍然阻碍该算法在硬件上的实现。
【发明内容】
[0011] 本发明提出一种基于内容自适应的视频编码死区量化方法，采用内容自适应量化 偏移量模型，实现内容自适应量化算法。该模型可以根据视频内容的不同，实现量化偏移量 的自适应变化。同时，在率失真性能方面，相较于固定偏移量的死区HDQ算法有显著提高； 由于算法采用系数独立的硬判决量化，量化可在系数级进行并行处理，在硬件上易于实现。 本发明基于DCT系数独立统计分析，得到较准确的分布参数，利用分布参数及量化参数构 建系数自适应的量化偏移量模型。在视频编码量化时，采用基于该模型的自适应死区HDQ 量化，实现高效视频编码。
[0012] 本发明需解决的技术问题： (1) 基于自适应量化偏移量模型、低串行依赖的死区硬判决量化方法； (2) 基于正判概率最大化、误判概率最小化的自适应偏移量模型构建方法； (3) 如何确定最佳偏移量模型与DCT分布参数以及量化参数之间的函数关系； 为此本发明提出了如下技术方案： (1) 本发明提出一种基于自适应量化偏移量模型的低串行依赖死区硬判决量化方法， 根据简单四舍五入硬判决量化（预量化）的结果，确定2-3个可能较优的候选量化结果，基 于本发明提出的系数级自适应偏移量模型，在不产生系数间串行依赖前提下，对预量化结 果进行调整实现量化优化； (2) 提出离线统计分析，构建自适应偏移量模型：对比四舍五入硬判决预量化和SDQ量 化结果，如果两者不同，试探使硬判决量化和SDQ结果相同的可能偏移量区间，称为正向区 间；如果两者相同，试探使硬判决量化和SDQ结果保持相同的偏移量区间，称为反向区间； 基于正判概率最大化、误判概率最小化约束，取两种偏移量区间交集，并采用柱状图统计分 析方法，对所有系数的正反偏移量取值范围分组分析，确定各个系数最佳偏移量； (3) 将偏移量模型构建为DCT系数分布参数和量化参数的函数，采用（2)方法大量采集 不同序列和不同目标码率情况下的样本，采用最小二乘法拟合出最优量化偏移量模型。
[0013] 该技术方案的技术效果 (1) 构建自适应偏移量模型过程中，样本采集考虑了所有量化系数，兼顾两种量化系数 对比结果，确立两部分样本各自的最佳偏移量范围，求交集。因此，基于这些样本构建的模 型可提高正判概率，降低误判概率； (2) 在正判概率最大化、误判概率最小化约束下，确定最佳偏移量范围。采用柱状图统 计分析方法，在最佳偏移量范围中确定各个系数的最佳偏移量。在样本采集过程中，采集了 大量不同序列，不同目标码率下的样本，因此，凭借大量样本构建的模型，保证该模型的普 遍性，使得采用该模型的算法适用于不同的应用场合，满足不同的市场需求； 该方案提出新的硬判决量化算法，在量化判决上，考虑了 DCT系数的统计特性，采用本 发明提出的自适应偏移量模型，实现量化系数的调整。因此，在性能上，比采用固定偏移量 的死区硬判决算法将有较大提升；同时，本算法未产生系数间的串行性，且基本未增加计算 复杂度。因此，该算法是一种性能优异、低串行依赖、复杂度低的视频编码量化算法。
【附图说明】
[0014] 图1是自适应偏移量建模流程图； 图2是I和P/B帧心.Pt --Qp统计值图一； 图3是I和P/B帧5_ -Qp统计值图二； 图4是I/PB帧Sept -Qp模型值图一； 图5是I/PB帧-Qp模型值图二； 图6是预测编码过程图。
【具体实施方式】
[0015] 下面结合附图对本发明作进一步说明。
[0016] 基于分块图像压缩编码方案采用了预测差分编码方式，该编码方式可以减少数据 在时间和空间上的相关性。视频压缩以及编码的数据是原始图像和预测图像的差值。因此， 残差数据的分布规律将直接影响编码性能。所以，