专利名称：立体视频的采集系统及方法
技术领域：
本发明涉及计算机视觉技术领域，特别涉及一种立体视频的采集系统及方法。
背景技术：
立体视频是描述三维世界的一种新型方式，不仅包含了传统2D视频的关于场景的表面信息，而且包含了与场景具体位置相关的三维(立体)信息。与传统的2D视频相比，立体视频是一种更有效、更真实的表达方式，并逐渐应用到娱乐广告、教育医疗等多个方面。近几十年来，显示器技术的成熟为立体产业的发展创造了条件，但立体片源的缺乏却成为立体产业进一步发展的瓶颈。作为立体片源获取的重要方式，立体视频采集技术已越来越受到人们的关注。立体采集系统主要分为双目和多目采集系统。前者一般由两个2D相机组成，同时拍摄左、右两路视频并经过分析和处理，通过两视点立体显示器显示，可通过佩戴特殊的眼镜观看。后者是由多个2D相机按一定方式(例如线性、平面或环形等)排列而成，根据多相机拍摄的多方位场景图像，能重建场景的3D图像，并通过多视点自由立体显示器进行显示，可“裸眼”观看。为了能正确的生成立体视频，两种系统均需要对采集图像进行处理，主要包括相机几何标定、几何校正及立体视图合成等。其中，通过几何标定，可获得各相机的内参矩阵， 外参矩阵，外参矩阵包括旋转矩阵和平移向量；通过几何校正，可将各视角的原始图像校正到同一虚拟平面上，且空间点在各虚拟图像上的投影点不存在垂直方向的像素偏移，从而更符合视觉感知；立体视图合成需根据显示器的显示方式将各视角平面视图的像素按规律重排，生成能在立体显示器上正确观看的立体视图。在对现有技术进行分析后，发现现有技术存在以下问题(1)为了更好的采集立体视频，通常需要对2D相机的高度、旋转角度和间距等姿态进行手动调整，从而有助于达到更好的立体感知效果，而现有的双目或多目采集系统或将2D相机集成于一个装置之内， 或仅能完成相机个别维度的调整，灵活性较差。( 国内外的多目系统，多需连接多台采集服务器，而服务器间的通信比较繁琐和耗时，并且拍摄的视频序列离线进行几何校正。
发明内容
本发明的目的旨在至少解决上述技术缺陷之一。为达到上述目的，本发明一方面提出一种立体视频的采集系统，包括采集设备， 所述采集设备包括多个2D相机和多个姿态调整装置，每个所述2D相机对应一个所述姿态调整装置，多个所述2D相机线性排布，用于拍摄平面视频图像；微控制器，所述微控制器通过每个所述2D相机的通用输入输出口与所述采集设备相连，用于向多个所述2D相机发送脉冲信号以控制多个所述2D相机以预定的帧频同步拍摄平面视频图像；采集服务器，所述采集服务器通过每个所述2D相机的数据口与所述采集设备相连，用于获取多个所述2D相机拍摄的平面视频图像，并对多个所述2D相机进行几何标定，及对多个所述2D相机拍摄的平面视频图像进行实时几何校正和立体图像合成；以及立体显示设备，与所述采集服务器相连，用于接收所述采集服务器合成的立体图像并进行立体显示。在本发明的一个实施例中，所述采集服务器包括相机几何标定模块，用于标定每个所述2D相机的参数矩阵，其中，所述参数矩阵包括旋转矩阵&、平移向量Tn和内参矩阵 Kn ；相机虚拟参数计算模块，用于根据每个所述2D相机标定的参数矩阵获得虚拟参数矩阵， 其中，所述虚拟参数包括虚拟基线方向f、虚拟光心位置《、虚拟旋转矩阵式、虚拟平移向量t和虚拟内参矩阵玄 ；像素对应表确定模块，用于分别根据所述参数矩阵Kn，Rn, Tn和所述虚拟参数矩阵确定每个所述2D相机拍摄的平面视频图像像素点和校正后平面视频图像像素点成一一映射关系的像素对应表；实时几何校正模块，用于根据所述像素对应表分别对每个所述2D相机拍摄的平面视频图像进行实时几何，获得校正后的η视角平面视频图像，其中η为所述2D相机的个数；以及立体图合成模块，用于根据所述校正后的η视角平面视频图像合成立体图像。在本发明的一个实施例中，所述像素对应表确定模块进一步用于根据所述参数矩阵κη，Rn, Tn和所述虚拟参数矩阵获得多组空间点W在各视角η上的第一投影坐标也和第二投影坐标^ ；根据多组所述第一投影坐标礼和第二投影坐标<获得透视变换矩阵Hn ；根据所述透视变换矩阵Hn获得每个所述2D相机拍摄的平面视频图像像素点和校正后平面视频图像像素点的成一一映射的像素对应表。在本发明的一个实施例中，所述实时几何校正模块进一步用于根据每个所述2D 相机拍摄的平面视频图像的当前位置像素点在所述像素对应表找到所对应的校正后的平面视频图像的像素点，并将所述校正后的平面视频图像的像素点的RGB颜色值赋给所述当前位置像素点，如果所述校正后的平面视频图像的像素点不为整数，则采用最近邻插值方法找到离所述当前位置最近的整数坐标点，并将所述整数坐标点的像素点RGB颜色值赋给所述当前位置像素点。在本发明的一个实施例中，所述像素对应表计算模块还包括相机姿态变化判断单元，用于判断每个所述2D相机的姿态是否发生变换，如果所述2D相机的姿态发生变换， 则重新计算所述像素对应表。在本发明的一个实施例中，所述帧频为25帧每秒(fps)，则所述脉冲信号的高或低电平以约40毫秒为周期。根据本发明实施例的立体视频的采集系统，具有以下的优点(1)根据采集设备的多个2D相机及其对应的多个姿态调整装置，可以实现各个2D相机的高度、旋转角度和间距等姿态的自由调整，增加采集系统的灵活性，有助于达到更好的立体感知效果；(2)通过微控制器可以有效地控制多个2D相机以恒定的帧率同步、稳定地采集视频图像；C3)用一台采集服务器连接所有的2D相机，数据处理方便，并采用优化后的几何校正及立体图合成方法，可以实时地进行立体显示，达到良好的立体感知效果，为所有以实时高清立体直播为基础的应用创造了条件。为达到上述目的，本发明另一方面还提出一种立体视频的采集方法，包括以下步骤S1 对预定的多个2D相机进行几何标定，获得每个所述2D相机的参数矩阵；S2 根据每个所述2D相机的参数矩阵获得虚拟参数矩阵；S3 分别根据所述参数矩阵和所述虚拟参数矩阵分别计算每个所述2D相机平面视频图像像素点与校正后的平面视频图像像素点成一一映射关系的像素对应表；S4 根据所述像素对应表分别对每个所述2D相机拍摄的平面视频图像进行实时几何，获得校正后的η视角平面视频图像，其中η为所述2D相机的个数； 以及S5 根据所述校正后的η视角图像合成立体图，并进行立体显示。在本发明的一个实施例中，所述步骤S3进一步包括S31 根据所述参数矩阵Kn， Rn, Tn和所述虚拟参数矩阵it t获得多组空间点W在各视角η上的第一投影坐标也和第二投影坐标疋；S32 根据多组所述第一投影坐标也和第二投影坐标<获得透视变换矩阵 Hn ；以及S33 根据所述透视变换矩阵Hn获得每个所述2D相机拍摄的平面视频图像像素点和校正后平面视频图像像素点的成一一映射的像素对应表。在本发明的一个实施例中，所述步骤S5进一步包括根据每个所述2D相机拍摄的平面视频图像的当前位置像素点在所述像素对应表找到所对应的校正后的平面视频图像的像素点，并将所述校正后的平面视频图像的像素点的RGB颜色值赋给所述当前位置像素点，如果所述校正后的平面视频图像的像素点不为整数，则采用最近邻插值方法找到离所述当前位置最近的整数坐标点，并将所述整数坐标点的像素点RGB颜色值赋给所述当前位置像素点。在本发明的一个实施例中，在所述步骤S5之前还包括判断每个所述2D相机的姿态是否发生变换，如果所述2D相机的姿态发生变换，则重新计算所述像素对应表。在本发明的一个实施例中，所述方法还包括向每个所述2D相机发送脉冲信号以控制每个所述2D相机以预定的帧频同步拍摄平面视频。在本发明的一个实施例中，所述帧频为25帧每秒(fps)，则所述脉冲信号的高或低电平以约40毫秒为周期。根据本发明实施例的立体视频的采集方法，可以有效地控制多个2D相机以恒定的帧率同步、稳定地采集视频图像，并且数据处理方便，并采用优化后的几何校正及立体图合成方法，可以实时的进行立体显示，达到良好的立体感知效果。本发明附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中图1为本发明一方面实施例的立体视频的采集系统的示意图；图2为本发明一个实施例的立体视频的采集系统的结构图；图3为本发明一个实施例的采集服务器的示意图；图4为本发明一个实施例的计算虚拟基线方向和虚拟光心位置的示意图；以及图5为本发明另一方面实施例的立体视频的采集方法的流程图。
具体实施例方式下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，仅用于解释本发明，而不能解释为对本发明的限制。其中，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性。图1为本发明一方面实施例的立体视频的采集系统的示意图，图2为本发明一个实施例的立体视频的采集系统的结构图。下面结合图1和图2说明本发明实施例的采集系统。如图1和图2所示，根据本发明实施例的立体视频的采集系统，包括采集设备100、 微控制器200、采集服务器300和立体显示设备400。采集设备100包括多个2D相机13和多个姿态调整装置20，每个2D相机13对应一个姿态调整装置20，多个2D相机13线性排布，用于拍摄平面视频图像。微控制器200通过每个2D相机13的通用输入输出口 GPIO (General Purpose Input Output)与采集设备 100相连，用于向多个2D相机13发送脉冲信号以控制多个2D相机13以预定的帧频同步拍摄平面视频图像，其中，帧频可为25帧每秒(fps)，脉冲信号的高或低电平以约40毫秒为周期。采集服务器300通过每个2D相机13的数据口与采集设备100相连，用于获取多个2D相机13拍摄的平面视频图像，并对多个2D相机13进行几何标定，以及对多个2D相机13拍摄的平面视频图像进行实时几何校正和立体图像合成。在本发明的一个实施例中，采集服务器300通过4张1394b双总线采集卡(PCI_e xl接口，一种总线结构，图中未示出)与每个2D相机13的数据口 15相连，其中，每张采集卡能达到160MB/S的带宽，可连接2台2D相机13。立体显示设备400与采集服务器300相连，用于接收采集服务器300合成的立体图像并进行立体显示。其中，2D相机13的数目由立体显示设备400的视角数决定。在本发明的一个实施例中，一个姿态调整装置20包括光具座1、滑动座3、微型旋转台5、升降杆座8和接杆11。其中，光具座1做支撑，下方有连接三角架的螺纹孔，可固定在三角架上，也可固定在桌面；上方固定刻度尺2，可放置滑动座3。滑动座3可在光具座1 上延X方向滑动及用滑动锁定钮4锁定，用以粗调2D相机13的水平位置，上端固定微型旋转台5。微型旋转台5用以控制其上装置以Y方向为轴旋转，从而调整2D相机的旋转角度， 包括粗调旋转台19、螺旋测微头6及旋转锁定钮7。升降杆座8固定在粗调旋转台19上， 上端圆柱孔内放置连接相机的接杆。接杆延Y方向滑动可粗调相机高度，并用粗调升降锁定钮12锁定；细调升降件10以Y方向为轴旋转可细调相机高度，并用细调升降锁定钮9锁定。图3为本发明实施例的采集服务器的示意图。如图3所示，在本发明的一个实施例中，采集服务器300包括相机几何标定模块310、相机虚拟参数计算模块320、像素对应表确定模块330、实时几何校正模块340和立体图合成模块350。相机几何标定模块310用于标定每个2D相机13的参数矩阵，其中，参数矩阵包括旋转矩阵1^、平移向量Tn和内参矩阵κη。具体地，相机几何标定模块可通过张正友几何标定法获得每个2D相机13的参数矩阵，亦可通过开源函数库OpenCV (Open Source Computer Vision Library，开源计算机视觉库)的相应函数获得每个2D相机13的参数矩阵。空间坐标W向平面齐次坐标#的投影方程w = K[R I T]W = KR[I | -C]W ,
其中，表示成比例关系，C为光心坐标，与平移向量T的关系为T =-RC。相机虚拟参数计算模块320用于根据每个2D相机13标定的参数矩阵获得虚拟参数矩阵，其中，虚拟参数包括虚拟基线方向f、虚拟光心位置《、虚拟旋转矩阵瓦、虚拟平移向量之和虚拟内参矩阵之。图4为本发明实施例的计算虚拟基线方向f和虚拟光心位置的示意图。如图4 所示，在本发明的一个实施例中，以4个光心为例计算虚拟基线方向i、虚拟光心位置。首先，计算获得所有相机的原光心Cn(n = 1，2，3，4)，然后将相邻位置的两个光心连接，求取连线中点，获得3个连线中点，再将3个连线中点的相邻两点连接，求连线中点，获得2个连线中点，连接这2个中点获得到虚拟基线方向f ,这里需保证f轼>0 ,即虚拟基线方向f与原基线方向X夹角为锐角，否则将f反向。应理解的是，本实施例以4个光心为例说明虚拟基线方向1的计算方法，多个光心的虚拟基线方向1计算方法与本实施例的计算方法类似。在本发明的一个实施例中，虚拟光心的位置《由(；及文决定。将原C1和Cn分别向 f上投影，垂足即为A和再将两点间的线段等距分为N-I段，则端点依次为02、( 、…、 C在本发明的一个实施例中，所有2D相机13的虚拟旋转矩阵瓦应保持一致，记为 R。现选取所有&的4方向的平均方向根据平均方向之和虚拟基线方向f计算虚拟f方向为叉积Zxf,再根据虚拟基线方向f和虚拟f方向计算虚拟光轴方向i为叉积Ixf。则夂=力=[之}^ if,并保持三个方向两两垂直。在本发明的一个实施例中，根据虚拟平移向量f 与虚拟旋转矩阵&、虚拟光心的位置《的关系可得到虚拟平移向量f = -RnCn。在本发明的一个实施例中，计算虚拟内参矩阵的过程如下，首先，内参矩阵K公式表示如下，
fu r K= 0 Zv V0 ,
0 0 1其中，fu，fv分别为图像坐标轴U，ν方向的尺度因子，Y反映两坐标轴的偏斜角，(Utl, Vtl)为图像主点坐标。使所有相机的虚拟内参矩阵之保持一致，记为犮。取兌的 / =/v=max{/ ,/vJ, f = 0,(‘化)为所有(uQn，VJ 平均值，从而获得，
λ 0 0Kn=K= 0 I V0
0 0 1像素对应表确定模块330用于分别根据参数矩阵Κη，Rn, Tn和虚拟参数矩阵 itt确定每个2D相机13拍摄的平面视频图像像素点和校正后平面视频图像像素
点成一一映射关系的像素对应表。具体地，首先根据参数矩阵Kn，Rn, Tn和虚拟参数矩阵之Λ, 获得多组空间点W在各视角η上的第一投影坐标也和第二投影坐标<，其中，
9
权利要求
1.一种立体视频的采集系统，其特征在于，包括采集设备，所述采集设备包括多个2D相机和多个姿态调整装置，每个所述2D相机对应一个所述姿态调整装置，多个所述2D相机线性排布，用于拍摄平面视频图像；微控制器，所述微控制器通过每个所述2D相机的通用输入输出口与所述采集设备相连，用于向多个所述2D相机发送脉冲信号以控制多个所述2D相机以预定的帧频同步拍摄平面视频图像；采集服务器，所述采集服务器通过每个所述2D相机的数据口与所述采集设备相连，用于获取多个所述2D相机拍摄的平面视频图像，并对多个所述2D相机进行几何标定，及对多个所述2D相机拍摄的平面视频图像进行实时几何校正和立体图像合成；以及立体显示设备，与所述采集服务器相连，用于接收所述采集服务器合成的立体图像并进行立体显示。
2.根据权利要求1所述的立体视频的采集系统，其特征在于，所述采集服务器进一步包括相机几何标定模块，用于标定每个所述2D相机的参数矩阵，其中，所述参数矩阵包括旋转矩阵I、平移向量Tn和内参矩阵Kn ；相机虚拟参数计算模块，用于根据每个所述2D相机标定的参数矩阵获得虚拟参数矩阵，其中，所述虚拟参数包括虚拟基线方向1、虚拟光心位置《、虚拟旋转矩阵反、虚拟平移向量之和虚拟内参矩阵I;像素对应表确定模块，用于分别根据所述参数矩阵Kn，Rn, Tn和所述虚拟参数矩阵确定每个所述2D相机拍摄的平面视频图像像素点和校正后平面视频图像像素点成一一映射关系的像素对应表；实时几何校正模块，用于根据所述像素对应表分别对每个所述2D相机拍摄的平面视频图像进行实时几何，获得校正后的η视角平面视频图像，其中η为所述2D相机的个数；以及立体图合成模块，用于根据所述校正后的η视角平面视频图像合成立体图像。
3.根据权利要求2所述的立体视频的采集系统，其特征在于，所述像素对应表确定模块，进一步用于根据所述参数矩阵Kn，Rn, Tn和所述虚拟参数矩阵f Λ, t获得多组空间点W在各视角 η上的第一投影坐标也和第二投影坐标< ；根据多组所述第一投影坐标# 和第二投影坐标A获得透视变换矩阵Hn ；以及根据所述透视变换矩阵Hn获得每个所述2D相机拍摄的平面视频图像像素点和校正后平面视频图像像素点的成一一映射的像素对应表。
4.根据权利要求2所述的立体视频的采集系统，其特征在于，所述实时几何校正模块， 进一步用于根据每个所述2D相机拍摄的平面视频图像的当前位置像素点在所述像素对应表找到所对应的校正后的平面视频图像的像素点，并将所述校正后的平面视频图像的像素点的 RGB颜色值赋给所述当前位置像素点，如果所述校正后的平面视频图像的像素点不为整数，则采用最近邻插值方法找到离所述当前位置最近的整数坐标点，并将所述整数坐标点的像素点RGB颜色值赋给所述当前位置像素点。
5.根据权利要求2所述的立体视频的采集系统，其特征在于，所述像素对应表计算模块还包括相机姿态变化判断单元，用于判断每个所述2D相机的姿态是否发生变换，如果所述2D 相机的姿态发生变换，则重新计算所述像素对应表。
6.根据权利要求1所述的立体视频的采集系统，其特征在于，所述帧频为25帧每秒 (fps)，则所述脉冲信号的高或低电平以约40毫秒为周期。
7.一种立体视频的采集方法，其特征在于，包括以下步骤51对预定的多个2D相机进行几何标定，获得每个所述2D相机的参数矩阵；52根据每个所述2D相机的参数矩阵获得虚拟参数矩阵；53分别根据所述参数矩阵和所述虚拟参数矩阵计算每个所述2D相机平面视频图像像素点与校正后的平面视频图像像素点成一一映射关系的像素对应表；54根据所述像素对应表分别对每个所述2D相机拍摄的平面视频图像进行实时几何， 获得校正后的η视角平面视频图像，其中η为所述2D相机的个数；以及55根据所述校正后的η视角图像合成立体图，并进行立体显示。
8.根据权利要求7所述的立体视频的采集方法，其特征在于，所述步骤S3进一步包括531根据所述参数矩阵Kn，Rn, Tn和所述虚拟参数矩阵f Λ, t获得多组空间点W在各视角η上的第一投影坐标也和第二投影坐标532根据多组所述第一投影坐标礼和第二投影坐标孟 获得透视变换矩阵Hn ；以及533根据所述透视变换矩阵Hn获得每个所述2D相机拍摄的平面视频图像像素点和校正后平面视频图像像素点的成一一映射的像素对应表。
9.根据权利要求7所述的立体视频的采集方法，其特征在于，所述步骤S5进一步包括根据每个所述2D相机拍摄的平面视频图像的当前位置像素点在所述像素对应表找到所对应的校正后的平面视频图像的像素点，并将所述校正后的平面视频图像的像素点的 RGB颜色值赋给所述当前位置像素点，如果所述校正后的平面视频图像的像素点不为整数，则采用最近邻插值方法找到离所述当前位置最近的整数坐标点，并将所述整数坐标点的像素点RGB颜色值赋给所述当前位置像素点。
10.根据权利要求8所述的立体视频的采集方法，其特征在于，在所述步骤S5之前还包括判断每个所述2D相机的姿态是否发生变换，如果所述2D相机的姿态发生变换，则重新计算所述像素对应表。
11.根据权利要求7所述的立体视频的采集方法，其特征在于，所述方法还包括 向每个所述2D相机发送脉冲信号以控制每个所述2D相机以预定的帧频同步拍摄平面视频。
12.根据权利要求11所述的立体视频的采集方法，其特征在于，所述帧频为25帧每秒(fps)，则所述脉冲信号的高或低电平以约40毫秒为周期。
全文摘要
本发明提出一种立体视频的采集系统及方法，该系统包括采集设备，包括多个2D相机和多个姿态调整装置，每个2D相机对应一个姿态调整装置，多个2D相机线性排布，用于拍摄平面视频图像；微控制器，通过每个2D相机的通用输入输出口与采集设备相连，用于向多个2D相机发送脉冲信号以控制多个2D相机以预定的帧频同步拍摄平面视频图像；采集服务器，通过每个2D相机的数据口与采集设备相连，用于获取多个2D相机拍摄的平面视频图像，并对多个2D相机进行几何标定，及对多个2D相机拍摄的平面视频图像进行实时几何校正和立体图像合成；立体显示设备，用于接收采集服务器合成的立体图像并进行立体显示。本发明的系统可实时采集数据、灵活性好、立体感知效果佳。
文档编号H04N13/02GK102572486SQ20121002543
公开日2012年7月11日 申请日期2012年2月6日 优先权日2012年2月6日
发明者戴琼海, 杨明进, 邵航 申请人:清华大学