专利名称：一种视频转码中帧内模式的快速选择方法
技术领域：
本发明属于视频编码方法，具体涉及视频转码方法，特别是一种视频转码中帧内模式的快速选择方法。
背景技术：
将已压缩的视频数据从一种形式转换为另一种视频数据形式的操作叫做视频转码。由于新一代视频编码标准如H.264、AVS均支持多种帧内模式(如AVS支持Vertical、Horizontal、DC、Down-left、Down-right等5种帧内模式)，而最优帧内模式的选择需要通过高复杂度的率失真优化来进行计算比较，因此在面向新一代视频编码标准的视频转码中，帧内模式的快速选择对于降低计算复杂度，实现实时的视频转码具有重要意义。
在目前已有的方法中，《H.Kalva，et al.Complexity Reduction ToolsforMPEG-2 to H.264 Video Transcoding.WSEAS Transactionson InformationScience and Applications，Vol.2，Issue 3，March 2005，pp.295-300》利用输入视频流的DCT系数来估计纹理方向，再根据方向进行帧内模式的选择。但是这种方法使得视频转码效率有比较明显的下降。而《Jafari，M.，Kasaei，S.An EfficientIntra Prediction Mode Decision Algorithm for H.263 To H.264 Transcoding，Proceedings of 2006 IEEE International Conference on Computer System andApplication，March 2006，pp.1082-1089》提出的方法，利用输入的H.263视频流的帧内模式(DC、水平、垂直)来选择输出的H.264视频流的帧内模式。但是这种方法只适用于输入视频流支持多种帧内模式的视频转码，对于输入视频流不支持多种帧内模式的视频转码，如MPEG-2到AVS的转码则不适用。
发明内容
本发明的目的是提供一种视频转码中帧内模式的快速选择方法。
本发明的技术方案是一种视频转码中帧内模式的快速选择方法，包括以下步骤(1)将当前块的DCT系数分为垂直、水平、对角三个能量区域，分别根据下列三式计算各区域的能量和F1，F2，F3F1=Σv=17F(0,v)]]>F2=Σu=17F(u,0)]]>F3=Σu=12F(u,1)+Σu=13F(u,2)+Σu=23F(u,3)]]>其中F(u，v)表示当前块中(u，v)坐标处的DCT系数绝对值；(2)根据下列两式计算能量区域之间的夹角α和βtgα＝(F2+1)/(F1+1)tgβ＝(F3+1)/(Fi-F3+-1)其中Fi为F1，F2中较大的一个；(3)如果β＞67.5°，则Down-left模式为候选帧内模式，并转入(7)；否则转入(4)；(4)如果α＜18°，则Horizontal模式为候选帧内模式，并转入(8)；如果α＞72°则Vertical模式为候选帧内模式，并转入(8)；否则转入(5)；(5)根据下列三式分别计算垂直、水平、对角方向的DC系数差值DC0，DC1，DC2DC0＝|F(0，0)-Fver(0，0)|DC1＝|F(0，0)-Fhor(0，0)|DC2＝|F(0，0)-(Fhor(0，0)+Fver(0，0))/2|其中Fver(0，0)和Fhor(0，0)分别表示垂直方向和水平方向预测块的DC系数；
(6)比较DC0，DC1，DC2的大小，如果DC0最小，则Vertical模式为候选帧内模式；如果DC1最小，则Horizontal模式为候选帧内模式；如果DC2最小，则DC模式为候选帧内模式；然后转入(7)；(7)如果18°＜α＜36°，则Vertical模式为候选帧内模式；如果54°＜α＜72°，则Horizontal模式为候选帧内模式；然后转入(8)；(8)从候选帧内模式和DC模式中利用率失真优化技术选择最优的帧内模式。
本发明与已有技术相对照，效果是积极且明显的本发明将当前块的DCT系数分为垂直、水平、对角三个能量区域，根据能量区域之间的夹角和DC系数的差值来选择帧内模式，显著降低了视频转码的计算复杂度，而转码效率则基本保持不变。
具体实施例方式
以下为本发明实施例的具体步骤，此实施例进行的是MPEG-2到AVS的视频转码，测试的视频序列为basketball，分辨率为720×576，输入为帧率25帧/秒、量化系数16的100帧MPEG-2视频流，输出为帧率25帧/秒、量化系数28的100帧AVS视频流，视频流的全部为I帧(1)假设当前块为第1帧的第254个宏块的第1个块，分别根据下列三式计算各区域的能量和F1，F2，F3，分别为131，0，17F1=Σv=17F(0,v)]]>F2=Σu=17F(u,0)]]>F3=Σu=12F(u,1)+Σu=13F(u,2)+Σu=23F(u,3)]]>(2)根据下列两式计算能量区域之间的夹角α和β，分别为0°和6.1°
tgα＝(F2+1)/(F1+1)tgβ＝(F3+1)/(Fi-F3+-1)(3)因为β＜67.5°，所以转入(4)；(4)如果α＜18°，则Horizontal模式为候选帧内模式，并转入(8)；(5)根据下列三式分别计算垂直、水平、对角方向的DC系数差值DC0，DC1，DC2DC0＝|F(0，0)-Fver(0，0)|DC1＝|F(0，0)-Fhor(0，0)|DC2＝|F(0，0)-(Fhor(0，0)+Fver(0，0))/2|如果Fver(0，0)和Fhor(0，0)分别表示垂直方向和水平方向预测块的DC系数；(6)比较DC0，DC1，DC2的大小，如果DC0最小，则Vertical模式为候选帧内模式；如果DC1最小，则Horizontal模式为候选帧内模式；如果DC2最小，则DC模式为候选帧内模式；然后转入(7)；(7)如果18°＜α＜36°，则Vertical模式为候选帧内模式；如果54°＜α＜72°，则Horizontal模式为候选帧内模式；然后转入(8)；(8)从候选帧内模式Horizontal模式和DC模式中利用率失真优化技术选择最优的帧内模式。
权利要求
1.一种视频转码中帧内模式的快速选择方法，其特征在于包括以下步骤(1)将当前块的DCT系数分为垂直、水平、对角三个能量区域，分别根据下列三式计算各区域的能量和F1，F2，F3F1=Σv=17F(0,v)]]>F2=Σu=17F(u,0)]]>F3=Σu=12F(u,1)+Σu=13F(u,2)+Σu=23F(u,3)]]>其中F(u，v)表示当前块中(u，v)坐标处的DCT系数绝对值；(2)根据下列两式计算能量区域之间的夹角α和βtgα＝(F2+1)/(F1+1)tgβ＝(F3+1)/(Ft-F3+-1)其中Ft为F1，F2中较大的一个；(3)如果β＞T1，则Down-left模式为候选帧内模式，并转入(7)；否则转入(4)；(4)如果α＜T2，则Horizontal模式为候选帧内模式，并转入(8)；如果α＞T3，则Vertical模式为候选帧内模式，并转入(8)；否则转入(5)；(5)根据下列三式分别计算垂直、水平、对角方向的DC系数差值DC0，DC1，DC2DC0＝|F(0，0)-Fver(0，0)|DC1＝|F(0，0)-Fhor(0，0)|DC2＝|F(0，0)-(Fhor(0，0)+Fver(0，0))/2|其中Fver(0，0)和Fhor(0，0)分别表示垂直方向和水平方向预测块的DC系数；(6)比较DC0，DC1，DC2的大小，如果DC0最小，则Vertical模式为候选帧内模式；如果DC1最小，则Horizontal模式为候选帧内模式；如果DC2最小，则DC模式为候选帧内模式；然后转入(7)；(7)如果T2＜α＜T4，则Vertical模式为候选帧内模式；如果T5＜α＜T3，则Horizontal模式为候选帧内模式；然后转入(8)；(8)从候选帧内模式和DC模式中利用率失真优化技术选择最优的帧内模式。
2.根据权利要求1所述的视频转码中帧内模式的快速选择方法，其特征在于步骤(3)中阈值T1的值为67.5°。
3.根据权利要求1所述的视频转码中帧内模式的快速选择方法，其特征在于步骤(4)和(7)中阈值T2的值为18°。
4.根据权利要求1所述的视频转码中帧内模式的快速选择方法，其特征在于步骤(4)和(7)中阈值T3的值为72°。
5.根据权利要求1所述的视频转码中帧内模式的快速选择方法，其特征在于步骤(7)中阈值T4的值为36°。
6.根据权利要求1所述的视频转码中帧内模式的快速选择方法，其特征在于步骤(7)中阈值T5的值为54°。
全文摘要
一种视频转码中帧内模式的快速选择方法，将当前块的DCT系数分为垂直、水平、对角三个能量区域，根据能量区域之间的夹角和DC系数的差值来选择帧内模式，显著降低了视频转码的计算复杂度，而转码效率则基本保持不变。
文档编号H04N7/50GK101031084SQ20071005173
公开日2007年9月5日 申请日期2007年3月26日 优先权日2007年3月26日
发明者胡瑞敏, 韩镇, 朱立, 张新晨, 刘琼 申请人:武汉大学