实现虚实融合的方法、装置、电子设备及存储介质与流程

文档序号:26672146发布日期:2021-09-17 23:04阅读:来源:国知局

技术特征:
1.一种实现虚实融合的方法,其特征在于,包括:获取到待融合区域的图像数据;对所述图像数据中待融合区域进行划分,得到待融合区域的各目标区域;基于所述图像数据构建所述待融合区域的虚拟模型;确定所述各目标区域在所述虚拟模型中对应的位置信息;基于所述位置信息在所述虚拟模型内的各目标区域对应添加虚拟内容,以对所述待融合区域的各目标区域进行虚实融合。2.根据权利要求1所述的实现虚实融合的方法,其特征在于,所述基于所述图像数据构建所述待融合区域的虚拟模型,包括:对所述图像数据进行特征提取,得到待融合区域的虚拟地图;基于所述图像数据和所述虚拟地图对所述待融合区域进行三维重建,得到所述待融合区域的虚拟模型。3.根据权利要求2所述的实现虚实融合的方法,其特征在于,所述对所述图像数据进行特征提取,得到待融合区域的虚拟地图,包括:对多张所述图像数据进行特征提取,得到各图像数据的特征点;对各图像数据的特征点进行特征点匹配,得到各图像数据的特征点之间的对应关系;基于所述各图像数据的位姿以及对所述对应关系对所述特征点进行三角化,以构建所述虚拟地图。4.根据权利要求2所述的实现虚实融合的方法,其特征在于,所述基于所述图像数据和所述虚拟地图对所述待融合区域进行三维重建,得到所述待融合区域的虚拟模型,包括:对所述图像数据和所述虚拟地图进行深度估计,生成图像深度图,并将所述图像深度图融合成点云;基于所述点云生成所述虚拟模型。5.根据权利要求4所述的实现虚实融合的方法,其特征在于,所述图像数据包括至少两个的位姿,所述对所述图像数据和所述虚拟地图进行深度估计,生成图像深度图,并将所述图像深度图融合成点云,包括:分别对至少两个位姿的图像数据和所述虚拟地图进行深度估计,生成至少两个图像深度图,并分别将至少两个图像深度图对应融合成至少两个点云;将至少两个点云进行整合,得到所述待融合区域的稠密点云;所述基于所述点云生成所述虚拟模型,包括:基于所述稠密点云生成包括稠密点云和/或网格的虚拟模型。6.根据权利要求1所述的实现虚实融合的方法,其特征在于,所述对所述图像数据中待融合区域进行划分,得到待融合区域的各目标区域,包括:通过神经网络对所述图像数据中待融合区域进行划分,得到待融合区域的各目标区域及其在所述图像数据上的坐标信息;所述在所述虚拟模型中确定所述各目标区域对应的位置信息,包括:基于各目标区域及其在所述图像数据上的坐标信息以及所述图像数据的位姿确定所述各目标区域在所述虚拟模型中对应的位置信息。
7.根据权利要求6所述的实现虚实融合的方法,其特征在于,所述图像数据包括至少两个的位姿,所述基于各目标区域及其在所述图像数据上的坐标信息以及所述图像数据的位姿确定所述各目标区域在所述虚拟模型中对应的位置信息,包括:基于各目标区域在至少两个位姿对应的图像数据上的坐标信息确定各相同目标区域在至少两个位姿对应的图像数据上的匹配关系;基于所述匹配关系确定所述各目标区域在所述虚拟模型中对应的三维位置信息;所述基于所述位置信息在所述虚拟模型内的各目标区域对应添加虚拟内容,包括:基于所述三维位置信息在所述虚拟模型内的各目标区域对应添加虚拟内容。8.根据权利要求7所述的实现虚实融合的方法,其特征在于,所述基于所述三维位置信息在所述虚拟模型内的各目标区域对应添加虚拟内容,包括:基于所述三维位置信息在所述虚拟模型内的各目标区域对应添加三维虚拟特效。9.根据权利要求6

8任一项所述的实现虚实融合的方法,其特征在于,所述获取到待融合区域的图像数据之前,包括:通过训练样本对初始网络进行训练;响应于初始网络对训练样本的各目标区域的划分的准确率满足预设准确率,则停止训练,得到所述神经网络。10.一种实现虚实融合的方法,其特征在于,包括:获取到待融合区域的图像数据;对所述图像数据中待融合区域进行划分,得到待融合区域的地平线、天空区域以及地面区域;基于所述图像数据构建所述待融合区域的虚拟模型;确定所述地平线、天空区域以及地面区域在所述虚拟模型中对应的位置信息;基于所述位置信息在所述虚拟模型内的所述地平线、天空区域以及地面区域对应添加虚拟内容,以对所述待融合区域的地平线、天空区域以及地面区域进行虚实融合。11.根据权利要求10所述的实现虚实融合的方法,其特征在于,所述基于所述位置信息在所述虚拟模型内的所述地平线、天空区域以及地面区域对应添加虚拟内容,以对所述待融合区域的地平线、天空区域以及地面区域进行虚实融合,包括:增强现实交通装置在移动过程中实时获取待融合区域的新的图像数据;对所述新的图像数据进行划分,得到所述新的图像数据的地平线、天空区域以及地面区域;基于所述虚拟模型分别在所述地平线、天空区域以及地面区域对应添加虚拟内容。12.一种实现虚实融合的装置,其特征在于,所述实现虚实融合的装置包括获取模块、划分模块,构建模块、确定模块以及融合模块;所述获取模块用于获取到待融合区域的图像数据;所述划分模块用于对所述图像数据中待融合区域进行划分,得到待融合区域的各目标区域;所述构建模块用于基于所述图像数据构建所述待融合区域的虚拟模型;所述确定模块用于确定所述各目标区域在所述虚拟模型中对应的位置信息;
所述融合模块用于基于所述位置信息在所述虚拟模型内的各目标区域对应添加虚拟内容,以对所述待融合区域的各目标区域进行虚实融合。13.一种实现虚实融合的装置,其特征在于,所述实现虚实融合的装置包括获取模块、划分模块,构建模块、确定模块以及融合模块;所述获取模块用于获取到待融合区域的图像数据;所述划分模块用于对所述图像数据中待融合区域进行划分,得到待融合区域的地平线、天空区域以及地面区域;所述构建模块用于基于所述图像数据构建所述待融合区域的虚拟模型;所述确定模块用于确定所述地平线、天空区域以及地面区域在所述虚拟模型中对应的位置信息;所述融合模块用于基于所述位置信息在所述虚拟模型内的所述地平线、天空区域以及地面区域对应添加虚拟内容,以对所述待融合区域的地平线、天空区域以及地面区域进行虚实融合。14.一种电子设备,其特征在于,所述电子设备包括相互耦接的存储器和处理器,所述处理器用于执行所述存储器中存储的程序数据,以实现如权利要求1至9任一项所述的实现虚实融合的方法或权利要求10

11所述的实现虚实融合的方法。15.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有程序数据,所述程序数据能够被执行以实现如权利要求1至9任一项所述的实现虚实融合的方法或权利要求10

11所述的实现虚实融合的方法。

技术总结
本申请公开了实现虚实融合的方法、装置、电子设备及存储介质,其中,实现虚实融合的方法包括:获取到待融合区域的图像数据;对图像数据中待融合区域进行划分,得到待融合区域的各目标区域;基于图像数据构建待融合区域的虚拟模型;确定各目标区域在虚拟模型中对应的位置信息;基于位置信息在虚拟模型内的各目标区域对应添加虚拟内容,以对待融合区域的各目标区域进行虚实融合。通过上述方式,本申请能够快速且准确地实现待融合区域内各目标区域的虚实融合。虚实融合。虚实融合。


技术研发人员:简艺 孙红亮 王子彬 李炳泽
受保护的技术使用者:浙江商汤科技开发有限公司
技术研发日:2021.07.06
技术公布日:2021/9/16
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1