全景图像拼接方法及装置与流程

本发明实施例涉及图像处理技术领域，具体而言，涉及一种全景图像拼接方法及装置。

背景技术

随着科学技术的发展，全景拼接技术逐渐应用于安防、会议和虚拟现实等领域，其特点在于能够三百六十度地呈现场景画面，增强用户的互动和体验效果。但是通过现有的全景拼接技术获得的全景图像大多质量较差。

技术实现要素：

有鉴于此，本发明提供了一种全景图像拼接方法及装置，能够改善双鱼眼相机的全景拼接效果。

为实现上述目的，本发明实施例提供了一种全景图像拼接方法，应用于一电子设备，所述电子设备与双鱼眼相机通信连接，所述方法包括：

获取所述双鱼眼相机拍摄的第一图像和第二图像，提取所述第一图像中的第一有效区域和所述第二图像中的第二有效区域；

对所述第一有效区域和所述第二有效区域进行畸变校正，获得完成畸变矫正的第一有效区域和完成畸变矫正的第二有效区域；其中，完成畸变矫正的第一有效区域中包括多个完成畸变矫正的第一像素，完成畸变矫正的第二有效区域中包括多个完成畸变矫正的第二像素；

针对每个完成畸变矫正的第一像素，以该完成畸变矫正的第一像素对应的完成畸变矫正的第二像素为标准，对该完成畸变矫正的第一像素进行旋转校正，获得完成旋转校正的第一有效区域；其中，完成旋转校正的第一有效区域中包括多个完成旋转校正的第一像素；

获得完成旋转校正的第一有效区域和完成畸变校正的第二有效区域之间的重叠区域，对该重叠区域进行拼接处理以获得全景图像。

可选地，所述第一有效区域中已完成畸变校正的第一像素为所述第一有效区域中未完成畸变校正的第一像素为(xa,ya)，所述第二有效区域中已完成畸变校正的第二像素为所述第二有效区域中未完成畸变校正的第二像素为(xb,yb)；对所述第一有效区域和所述第二有效区域进行畸变校正的步骤，包括：

根据畸变公式、(xa,ya)和(xb,yb)获得和其中，所述畸变公式为：

其中，为第一图像的中心坐标，为第二图像的中心坐标，αa为拍摄所述第一图像的镜头的径向畸变与切向畸变的平衡因子，和为拍摄第一图像的镜头的畸变参数，αb为拍摄所述第二图像的镜头的径向畸变与切向畸变的平衡因子，和为拍摄所述第二图像的镜头的畸变参数。

可选地，针对每个完成畸变矫正的第一像素，以该完成畸变矫正的第一像素对应的完成畸变矫正的第二像素为标准，对该完成畸变矫正的第一像素进行旋转校正的步骤，包括：

对该完成畸变矫正的第一像素进行扩维处理，获得该完成扩维处理的第一像素，采用旋转矩阵对该完成扩维处理的第一像素进行旋转校正和降维处理，获得完成旋转校正的第一像素。

可选地，所述完成扩维处理的第一像素为完成旋转校正且未完成降维处理的第一像素为所述完成旋转校正的第一像素为所述旋转矩阵为r3×3；采用旋转矩阵对该完成扩维处理的第一像素进行旋转校正和降维处理，获得完成旋转校正的第一像素的步骤，包括：

根据旋转校正公式获得对进行降维处理获得其中，所述旋转校正公式为：

其中，ε为误差项。

可选地，获得完成旋转校正的第一有效区域和完成畸变校正的第二有效区域之间的重叠区域，对该重叠区域进行拼接处理以获得全景图像的步骤，包括：

获得完成旋转校正的第一有效区域的第一平面图像，获得完成畸变校正的第二有效区域的第二平面图像，获得所述第一平面图像和所述第二平面图像的重叠区域；

获得所述第一平面图像在该重叠区域处的多个第一特征像素，获得所述第二平面图像在该重叠区域处的多个第二特征像素，其中，所述第一特征像素为完成旋转校正的第一像素，所述第二特征像素为完成畸变校正的第二像素；

针对每个第一特征像素，匹配与该第一特征像素对应的第二特征像素，根据匹配结果将所述第一平面图像和所述第二平面图像进行透视变换和拼接处理，以获得全景图像。

本发明实施例还提供了一种全景图像拼接装置，应用于一电子设备，所述电子设备与双鱼眼相机通信连接，所述装置包括：

获取模块，用于获取所述双鱼眼相机拍摄的第一图像和第二图像，提取所述第一图像中的第一有效区域和所述第二图像中的第二有效区域；

畸变校正模块，用于对所述第一有效区域和所述第二有效区域进行畸变校正，获得完成畸变矫正的第一有效区域和完成畸变矫正的第二有效区域；其中，完成畸变矫正的第一有效区域中包括多个完成畸变矫正的第一像素，完成畸变矫正的第二有效区域中包括多个完成畸变矫正的第二像素；

旋转校正模块，用于针对每个完成畸变矫正的第一像素，以该完成畸变矫正的第一像素对应的完成畸变矫正的第二像素为标准，对该完成畸变矫正的第一像素进行旋转校正，获得完成旋转校正的第一有效区域；其中，完成旋转校正的第一有效区域中包括多个完成旋转校正的第一像素；

全景图像拼接模块，用于获得完成旋转校正的第一有效区域和完成畸变校正的第二有效区域之间的重叠区域，对该重叠区域进行拼接处理以获得全景图像。

可选地，所述第一有效区域中已完成畸变校正的第一像素为所述第一有效区域中未完成畸变校正的第一像素为所述第二有效区域中已完成畸变校正的第二像素为所述第二有效区域中未完成畸变校正的第二像素为所述畸变校正模块通过以下方式对所述第一有效区域和所述第二有效区域进行畸变校正：

根据畸变公式、和获得和其中，所述畸变公式为：

其中，为第一图像的中心坐标，为第二图像的中心坐标，αa为拍摄所述第一图像的镜头的径向畸变与切向畸变的平衡因子，和为拍摄第一图像的镜头的畸变参数，αb为拍摄所述第二图像的镜头的径向畸变与切向畸变的平衡因子，和为拍摄所述第二图像的镜头的畸变参数。

可选地，所述旋转校正模块通过以下方式实现对该完成畸变矫正的第一像素进行旋转校正：

对该完成畸变矫正的第一像素进行扩维处理，获得该完成扩维处理的第一像素，采用旋转矩阵对该完成扩维处理的第一像素进行旋转校正和降维处理，获得完成旋转校正的第一像素。

可选地，所述完成扩维处理的第一像素为完成旋转校正且未完成降维处理的第一像素为所述完成旋转校正的第一像素为所述旋转矩阵为r3×3；采用旋转矩阵对该完成扩维处理的第一像素进行旋转校正和降维处理，获得完成旋转校正的第一像素，具体包括：

根据旋转校正公式获得对进行降维处理获得其中，所述旋转校正公式为：

其中，ε为误差项。

可选地，所述全景图像拼接模块通过以下方式获得完成旋转校正的第一有效区域和完成畸变校正的第二有效区域之间的重叠区域，对该重叠区域进行拼接处理以获得全景图像：

获得完成旋转校正的第一有效区域的第一平面图像，获得完成畸变校正的第二有效区域的第二平面图像，获得所述第一平面图像和所述第二平面图像的重叠区域；

获得所述第一平面图像在该重叠区域处的多个第一特征像素，获得所述第二平面图像在该重叠区域处的多个第二特征像素，其中，所述第一特征像素为完成旋转校正的第一像素，所述第二特征像素为完成畸变校正的第二像素；

针对每个第一特征像素，匹配与该第一特征像素对应的第二特征像素，根据匹配结果将所述第一平面图像和所述第二平面图像进行透视变换和拼接处理，以获得全景图像。

本发明实施例所提供的全景图像拼接方法及装置，通过对第一有效区域和第二有效区域进行畸变校正和旋转校正，能够去除由于镜头工艺和安装等产生的误差，并能够保证两个有效区域的重叠区域的位置相对一致，进而实现对重叠区域的准确拼接，能够改善双鱼眼相机的全景拼接效果。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1为本发明实施例所提供的一种电子设备10的方框示意图。

图2为本发明实施例所提供的一种全景图像拼接方法的流程图。

图3为本发明实施例所提供的一种镜头畸变参数标定的示意图。

图4为一实施方式中图2所示的步骤s23包括的子步骤的示意图。

图5为一实施方式中图2所示的步骤s24包括的子步骤的示意图。

图6为本发明实施例所提供的一种全景图像拼接装置20的模块框图。

图标：10-电子设备；11-存储器；12-处理器；13-网络模块；20-全景图像拼接装置；21-获取模块；22-畸变校正模块；23-旋转校正模块；24-全景图像拼接模块。

具体实施方式

发明人经调查发现，目前市场上的全景摄像头因应用领域的不同其结构也不尽相同，例如，将多个摄像头组成柱状结构、锥状结构、立方体结构以及双鱼眼结构，所使用摄像头的视角范围不同，其合成全景图像的难度也不同。由于成本低廉和结构简单等原因，双鱼眼相机多用于家庭和无人机等领域。发明人对双鱼眼相机进行了仔细研究和分析，发现利用双鱼眼相机进行全景画面的输出，其视角范围应大于一百八十度，这也意味着产生的双鱼眼图像的畸变更大，故而拼接难度更大，全景拼接效果较差。

以上现有技术中的方案所存在的缺陷，均是发明人在经过实践并仔细研究后得出的结果，因此，上述问题的发现过程以及下文中本发明实施例针对上述问题所提出的解决方案，都应该是发明人在本发明过程中对本发明做出的贡献。

基于上述研究，本发明实施例提供了一种全景图像拼接方法及装置，通过对双鱼眼图像进行畸变校正和旋转校正之后再进行全景拼接，能够改善双鱼眼相机的全景拼接效果。

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例只是本发明的一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。

因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。

图1示出了本发明实施例所提供的一种电子设备10的方框示意图。本发明实施例中的电子设备10可以为具有数据存储、传输、处理功能的服务端，如图1所示，电子设备10包括：存储器11、处理器12、网络模块13和全景图像拼接装置20。

存储器11、处理器12和网络模块13之间直接或间接地电性连接，以实现数据的传输或交互。例如，这些元件互相之间可以通过一条或多条通讯总线或信号线实现电性连接。存储器11中存储有全景图像拼接装置20，所述全景图像拼接装置20包括至少一个可以软件或固件(firmware)的形式储存于所述存储器11中的软件功能模块，所述处理器12通过运行存储在存储器11内的软件程序以及模块，例如本发明实施例中的全景图像拼接装置20，从而执行各种功能应用以及数据处理，即实现本发明实施例中的全景图像拼接方法。

其中，所述存储器11可以是，但不限于，随机存取存储器(randomaccessmemory，ram)，只读存储器(readonlymemory，rom)，可编程只读存储器(programmableread-onlymemory，prom)，可擦除只读存储器(erasableprogrammableread-onlymemory，eprom)，电可擦除只读存储器(electricerasableprogrammableread-onlymemory，eeprom)等。其中，存储器11用于存储程序，所述处理器12在接收到执行指令后，执行所述程序。

所述处理器12可能是一种集成电路芯片，具有数据的处理能力。上述的处理器12可以是通用处理器，包括中央处理器(centralprocessingunit，cpu)、网络处理器(networkprocessor，np)等。可以实现或者执行本发明实施例中公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

网络模块13用于通过网络建立电子设备10与其他通信终端设备之间的通信连接，实现网络信号及数据的收发操作。上述网络信号可包括无线信号或者有线信号。

可以理解，图1所示的结构仅为示意，电子设备10还可包括比图1中所示更多或者更少的组件，或者具有与图1所示不同的配置。图1中所示的各组件可以采用硬件、软件或其组合实现。

本发明实施例还提供一种计算机可读存储介质，所述可读存储介质包括计算机程序。所述计算机程序运行时控制所述可读存储介质所在电子设备10执行下面的全景图像拼接方法。

图2示出了本发明实施例所提供的一种全景图像拼接方法的流程图。所述方法有关的流程所定义的方法步骤应用于电子设备10，可以由所述处理器12实现。下面将对图2所示的具体流程进行详细阐述：

步骤s21，获得双鱼眼相机拍摄的第一图像和第二图像，提取第一图像的第一有效区域和第二图像中的第二有效区域。

可以理解，电子设备与双鱼眼相机通信连接，电子设备能够获得双鱼眼相机拍摄的第一图像和第二图像，其中，第一有效区域为a，第二有效区域为b。

步骤s22，对第一有效区域和第二有效区域进行畸变校正，获得完成畸变矫正的第一有效区域和完成畸变矫正的第二有效区域。

可以理解，对第一有效区域a和第二有效区域b进行畸变校正，实际上是对第一有效区域a和第二有效区域b中的每个像素进行畸变校正。其中，可以通过畸变校正公式进行畸变校正。

在本实施例中，畸变校正公式为：

其中，为已完成畸变校正的像素，(x,y)为未完成畸变校正的像素，(cx,cy)为图像的中心坐标，α为径向畸变与切向畸变的平衡因子，k1、k2、k3、p1和p2为畸变参数，畸变参数可以通过标定获得。

可以理解，双鱼眼相机的两个镜头的相关畸变参数是不同的，因此，需要通过已知量对两个镜头的相关畸变参数进行标定，如图3所示。

由图可见，标定的原理是采用已知值计算相关畸变参数，图案中的“+”为测量得到的坐标点，可视为上面公式中的其中，圆心的“+”所对应的坐标即为(cx,cy)。

在进行标定的过程中，(x,y)可以理解为畸变像素(从图像中提取的像素)，然后分别采用双鱼眼相机的两个镜头平行对准图案，提取“+”所对应的图像坐标，可以视为(x,y)(产生了畸变的像素)，可选地，若图像中提取的所有“+”的图像坐标有偏移，需要将所有提取的图像坐标做去偏移处理。

可以理解，和(x,y)已知，带入上式可以求得α、k1、k2、k3、p1和p2，其中，可以通过最小二乘法进行求解。

应当理解，两个镜头的相关畸变参数是不同，可以通过上面的公式分别求得每个镜头的相关畸变参数。

应当理解，在双鱼眼相机拍摄得到第一图像和第二图像之前，拍摄第一图像的镜头的相关畸变参数和拍摄第二图像的镜头的相关畸变参数就已经通过图3的图像分别进行了标定，可以理解，在下面给出的两个公式中，αa、和均已知，且第一图像和第二图像为泛指的外界其他场景的图像，图3的图像用于标定镜头畸变参数，仅使用一次。

为便于对第一图像和第二图像各自对应的像素进行分析和说明，设：

第一有效区域中已完成畸变校正的第一像素为

第一有效区域中未完成畸变校正的第一像素为(xa,ya)；

第二有效区域中已完成畸变校正的第二像素为

第二有效区域中未完成畸变校正的第二像素为(xb,yb)；

其中，双鱼眼相机的两个镜头拍摄到的像素分别为(xa,ya)和(xb,yb)，可以理解，(xa,ya)和(xb,yb)已知，

将(xa,ya)和(xb,yb)分别带入上述公式可以求得和如下面两个公式所示：

其中，为第一图像的中心坐标，为第二图像的中心坐标，αa为拍摄所述第一图像的镜头的径向畸变与切向畸变的平衡因子，和为拍摄第一图像的镜头的畸变参数，αb为拍摄所述第二图像的镜头的径向畸变与切向畸变的平衡因子，和为拍摄所述第二图像的镜头的畸变参数。

可以理解，通过畸变校正，能够去除由于镜头工艺和安装等产生的误差。

步骤s23，针对每个完成畸变矫正的第一像素，以该完成畸变矫正的第一像素对应的完成畸变矫正的第二像素为标准，对该完成畸变矫正的第一像素进行旋转校正，获得完成旋转校正的第一有效区域。

请结合参阅图4，本实施例中通过步骤s231、步骤s232和步骤s233列举了步骤s23的其中一种实现方式。

步骤s231，对完成畸变校正的第一像素进行扩维处理，获得完成扩维处理的第一像素。

例如，对(xa,ya)进行扩维处理，获得完成扩维处理的第一像素(xa,ya,1)，因为之后用到的旋转矩阵为3x3矩阵，为了后续的工程计算，需要将(xa,ya)进行扩维处理。

步骤s232，采用旋转矩阵对完成扩维处理的第一像素进行旋转校正。

例如，完成旋转校正的第一像素为则完成扩维处理的第一像素经过旋转校正后为旋转矩阵为r3×3。

可选地，旋转校正公式如下：

其中，ε为误差项，理想状况下ε为0。

同理，在拍摄之前，旋转矩阵r3×3就已经通过图3的图像进行了标定，并通过最小二乘法求得。

步骤s233，对完成旋转校正且未完成降维处理的第一像素进行降维处理，获得完成旋转校正的第一像素，进而获得完成旋转校正的第一有效区域。

可以理解，经过降维处理可以得到多个形成完成旋转校正的第一有效区域。

旋转校正能够消除两个鱼眼摄像头在安装时存在的旋转误差，使得两个有效区域的重叠区域的位置相对一致，便于之后的拼接。

应当理解，针对双鱼眼相机，在进行旋转标定的时候，需要以其中一个鱼眼镜头拍摄的图像作为标准，在本实施例中，第一图像和第二图像仅用于区分，并不是对本方案的限定。

步骤s24，获得完成旋转校正的第一有效区域和完成畸变校正的第二有效区域之间的重叠区域，对该重叠区域进行拼接处理以获得全景图像。

可以理解，完成旋转校正的第一有效区域中包括多个既完成了畸变校正又完成了旋转校正的第一像素完成畸变校正的第二有效区域中包括多个完成了畸变校正的第二像素(xb,yb)。

请结合参阅图5，本实施例中通过步骤s241、步骤s242和步骤s243列举了步骤s24的其中一种实现方式。

步骤s241，获得完成旋转校正的第一有效区域的第一平面图像，获得完成畸变校正的第二有效区域的第二平面图像，获得第一平面图像和第二平面图像的重叠区域。

可以理解，将完成旋转校正的第一有效区域和完成畸变校正的第二有效区域进行展开，获得第一平面图像pa和第二平面图像pb，获得第一平面图像pa和第二平面图像pb的重叠区域pab。其中，平面图像是指对鱼眼图像的有效区域进行等距球面投影得到的图像。

步骤s242，获得第一平面图像在该重叠区域处的多个第一特征像素，获得第二平面图像在该重叠区域处的多个第二特征像素。

可以理解，其中，所述第一特征像素为完成畸变校正和旋转校正的第一像素，所述第二特征像素为完成畸变校正的第二像素。

步骤s243，针对每个第一特征像素，匹配与该第一特征像素对应的第二特征像素，根据匹配结果将第一平面图像和第二平面图像进行透视变换和拼接处理，以获得全景图像。

可以理解，通过特征匹配进行全景图像拼接能够获得质量较高的全景图像，进而改善双鱼眼相机的全景拼接效果。

在上述基础上，如图6所示，本发明实施例提供了一种全景图像拼接装置20，所述全景图像拼接装置20包括：获取模块21、畸变校正模块22、旋转校正模块23和全景图像拼接模块24。

获取模块21，用于获取所述双鱼眼相机拍摄的第一图像和第二图像，提取所述第一图像中的第一有效区域和所述第二图像中的第二有效区域。

由于获取模块21和图2中步骤s21的实现原理类似，因此在此不作更多说明。

畸变校正模块22，用于对所述第一有效区域和所述第二有效区域进行畸变校正，获得完成畸变矫正的第一有效区域和完成畸变矫正的第二有效区域；其中，完成畸变矫正的第一有效区域中包括多个完成畸变矫正的第一像素，完成畸变矫正的第二有效区域中包括多个完成畸变矫正的第二像素。

由于畸变校正模块22和图2中步骤s22的实现原理类似，因此在此不作更多说明。

旋转校正模块23，用于针对每个完成畸变矫正的第一像素，以该完成畸变矫正的第一像素对应的完成畸变矫正的第二像素为标准，对该完成畸变矫正的第一像素进行旋转校正，获得完成旋转校正的第一有效区域；其中，完成旋转校正的第一有效区域中包括多个完成旋转校正的第一像素。

由于旋转校正模块23和图2中步骤s23的实现原理类似，因此在此不作更多说明。

全景图像拼接模块24，用于获得完成旋转校正的第一有效区域和完成畸变校正的第二有效区域之间的重叠区域，对该重叠区域进行拼接处理以获得全景图像。

由于全景图像拼接模块24和图2中步骤s24的实现原理类似，因此在此不作更多说明。

综上，本发明实施例所提供的全景图像拼接方法及装置，能够对双鱼眼相机拍摄的图像进行畸变校正和旋转校正，然后通过特征匹配进行图像拼接，进而获得质量较高的全景图像。

在本发明实施例所提供的几个实施例中，应该理解到，所揭露的装置和方法，也可以通过其它的方式实现。以上所描述的装置和方法实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本发明的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

另外，在本发明各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。

所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，电子设备10，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：u盘、移动硬盘、只读存储器(rom，read-onlymemory)、随机存取存储器(ram，randomaccessmemory)、磁碟或者光盘等各种可以存储程序代码的介质。需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。