三维数据编码方法、三维数据解码方法、三维数据编码装置及三维数据解码装置与流程

文档序号:24639936发布日期:2021-04-09 20:52阅读:42来源:国知局
三维数据编码方法、三维数据解码方法、三维数据编码装置及三维数据解码装置与流程

本发明涉及三维数据编码方法、三维数据解码方法、三维数据编码装置及三维数据解码装置。



背景技术:

在用于汽车或机器人自主地进行工作的计算机视觉、地图信息、监控、基础设施检查、或影像分发等较大的领域中,今后将会普及灵活运用了三维数据的装置或服务。三维数据通过测距仪等距离传感器、立体摄影机、或多个单眼相机的组合等各种方法来取得。

作为三维数据的表现方法之一,有被称作点云的表现方法,该方法通过三维空间内的点群来表现三维构造的形状。在点云中保存点群的位置和颜色。虽然预想点云作为三维数据的表现方法将成为主流,但是点群的数据量非常大。因此,在三维数据的积蓄或传输中,与二维的运动图像(作为一例,有以mpeg进行标准化后的mpeg-4avc或hevc等)同样,需要通过编码来进行数据量的压缩。

此外,关于点云的压缩,有一部分由进行点云关联的处理的公开的库(pointcloudlibrary:点云库)等支持。

此外,已知有利用三维的地图数据,检索位于车辆周边的施设并进行显示的技术(例如,参照专利文献1)。

现有技术文献

专利文献

专利文献1:国际公开第2014/020663号



技术实现要素:

发明要解决的课题

在三维数据的编码处理及解码处理中,希望能够提高编码效率。

本发明的目的是提供一种能够提高编码效率的三维数据编码方法、三维数据解码方法、三维数据编码装置或三维数据解码装置。

用来解决课题的手段

有关本发明的一技术方案的三维数据编码方法,通过对将包含多个三维点的对象空间分割而成的多个子空间进行编码,生成多个编码数据;生成包含上述多个编码数据和表示上述多个子空间的形状的第1信息的比特流。

有关本发明的一技术方案的三维数据解码方法,通过对比特流中包含的、通过对将包含多个三维点的对象空间分割而成的多个子空间进行编码而生成的多个编码数据进行解码,将上述多个子空间复原;通过使用上述比特流中包含的表示上述多个子空间的形状的第1信息将上述多个子空间结合,将上述对象空间复原。

发明效果

本发明能够提供能够提高编码效率的三维数据编码方法、三维数据解码方法、三维数据编码装置或三维数据解码装置。

附图说明

图1是表示有关实施方式1的三维数据编解码系统的构成的图。

图2是表示有关实施方式1的点群数据的构成例的图。

图3是表示有关实施方式1的记述有点群数据信息的数据文件的构成例的图。

图4是表示有关实施方式1的点群数据的种类的图。

图5是表示有关实施方式1的第1编码部的构成的图。

图6是有关实施方式1的第1编码部的框图。

图7是表示有关实施方式1的第1解码部的构成的图。

图8是有关实施方式1的第1解码部的框图。

图9是表示有关实施方式1的第2编码部的构成的图。

图10是有关实施方式1的第2编码部的框图。

图11是表示有关实施方式1的第2解码部的构成的图。

图12是有关实施方式1的第2解码部的框图。

图13是表示有关实施方式1的关于pcc编码数据的协议栈的图。

图14是有关实施方式1的编码部的框图。

图15是有关实施方式1的解码部的框图。

图16是有关实施方式1的编码处理的流程图。

图17是有关实施方式1的解码处理的流程图。

图18是表示有关实施方式2的isobmff的基本构造的图。

图19是表示有关实施方式2的协议栈的图。

图20是表示有关实施方式2的将nal单元保存在编解码器1用的文件中的例子的图。

图21是表示将有关实施方式2的nal单元保存在编解码器2用的文件中的例子的图。

图22是表示有关实施方式2的第1复用部的构成的图。

图23是表示有关实施方式2的第1逆复用部的构成的图。

图24是表示有关实施方式2的第2复用部的构成的图。

图25是表示有关实施方式2的第2逆复用部的构成的图。

图26是有关实施方式2的由第1复用部进行的处理的流程图。

图27是有关实施方式2的由第2复用部进行的处理的流程图。

图28是有关实施方式2的由第1逆复用部及第1解码部进行的处理的流程图。

图29是表示有关实施方式2的由第2逆复用部及第2解码部进行的处理的流程图。

图30是表示有关实施方式3的编码部及第3复用部的构成的图。

图31是表示有关实施方式3的第3逆复用部及解码部的构成的图。

图32是有关实施方式3的由第3复用部进行的处理的流程图。

图33是有关实施方式3的由第3逆复用部及解码部进行的处理的流程图。

图34是有关实施方式3的由三维数据保存装置进行的处理的流程图。

图35是有关实施方式3的由三维数据取得装置进行的处理的流程图。

图36是表示有关实施方式4的编码部及复用部的构成的图。

图37是表示有关实施方式4的编码数据的构成例的图。

图38是表示有关实施方式4的编码数据及nal单元的构成例的图。

图39是表示有关实施方式4的pcc_nal_unit_type的语义例的图。

图40是表示有关实施方式4的nal单元的送出顺序的例子的图。

图41是有关实施方式4的由三维数据编码装置进行的处理的流程图。

图42是有关实施方式4的由三维数据解码装置进行的处理的流程图。

图43是有关实施方式4的复用处理的流程图。

图44是有关实施方式4的逆复用处理的流程图。

图45是有关实施方式4的由三维数据编码装置进行的处理的流程图。

图46是有关实施方式4的由三维数据解码装置进行的处理的流程图。

图47是有关实施方式5的的切片及瓦片的分割例的图。

图48是表示有关实施方式5的的切片及瓦片的分割样式的例子的图。。

图49是有关实施方式6的第1编码部的框图。

图50是有关实施方式6的第1解码部的框图。

图51是表示有关实施方式6的瓦片的形状的例子的图。

图52是表示有关实施方式6的瓦片及切片的例子的图。

图53是有关实施方式6的分割部的框图。

图54是表示有关实施方式6的将点群数据俯视的地图的例子的图。

图55是表示有关实施方式6的瓦片分割的例子的图。

图56是表示有关实施方式6的瓦片分割的例子的图。

图57是表示有关实施方式6的瓦片分割的例子的图。

图58是表示有关实施方式6的保存在服务器中的瓦片的数据的例子的图。

图59是表示有关实施方式6的关于瓦片分割的系统的图。

图60是表示有关实施方式6的切片分割的例子的图。

图61是表示有关实施方式6的依赖关系的例子的图。

图62是表示有关实施方式6的数据的解码顺序的例子的图。

图63是表示有关实施方式6的瓦片的编码数据的例子的图。

图64是表示有关实施方式6的结合部的框图。

图65是表示有关实施方式6的编码数据及nal单元的构成例的图。

图66是有关实施方式6的编码处理的流程图。

图67是有关实施方式6的解码处理的流程图。

图68是表示有关实施方式6的瓦片附加信息的句法例的图。

图69是有关实施方式6的编解码系统的框图。

图70是表示有关实施方式6的切片附加信息的句法例的图。

图71是有关实施方式6的编码处理的流程图。

图72是有关实施方式6的解码处理的流程图。

图73是有关实施方式6的编码处理的流程图。

图74是有关实施方式6的解码处理的流程图。

具体实施方式

有关本发明的一技术方案的三维数据编码方法,通过对将包含多个三维点的对象空间分割而成的多个子空间进行编码,生成多个编码数据;生成包含上述多个编码数据和表示上述多个子空间的形状的第1信息的比特流。

由此,该三维数据编码方法能够从多个种类的子空间的形状中选择任意的形状,所以能够提高编码效率。

例如,上述形状也可以是上述多个子空间的二维的形状或三维的形状。

例如,上述形状也可以是矩形或圆。

例如,上述比特流也可以包含表示上述多个子区间是否重复的第2信息。

由此,该三维数据编码方法能够使子空间重复,所以能够不使子空间的形状变得复杂而生成子空间。

例如,上述比特流也可以包含表示上述多个子区间的分割方法是否是使用俯视的分割方法的第3信息。

例如,上述比特流也可以包含表示上述多个子区间的高度、宽度、进深及半径中的至少1个的第4信息。

例如,上述比特流也可以包含表示上述多个子区间各自的位置的第5信息。

例如,上述比特流也可以包含表示上述多个子区间的数量的第6信息。

例如,上述比特流也可以包含表示上述多个子区间的间隔的第7信息。

有关本发明的一技术方案的三维数据解码方法,通过对比特流中包含的、通过对将包含多个三维点的对象空间分割而成的多个子空间进行编码而生成的多个编码数据进行解码,将上述多个子空间复原;通过使用上述比特流中包含的表示上述多个子空间的形状的第1信息将上述多个子空间结合,将上述对象空间复原。

由此,该三维数据解码方法能够对从多个种类的子空间的形状中选择任意的形状而生成的提高了编码效率的比特流进行解码。

例如,上述形状也可以是上述多个子空间的二维的形状或三维的形状。

例如,上述形状也可以是矩形或圆。

例如,也可以是,上述比特流包含表示上述多个子区间是否重复的第2信息;在上述对象空间的复原中,还使用上述第2信息将上述多个子空间结合。

例如,也可以是,上述比特流包含表示上述多个子区间的分割方法是否是使用俯视的分割方法的第3信息;在由上述第3信息表示上述多个子区间的分割方法是使用俯视的分割方法的情况下,使用上述第1信息将上述多个子空间结合。

例如,也可以是,上述比特流包含表示上述多个子区间的高度、宽度、进深及半径中的至少1个的第4信息;在上述对象空间的复原中,还使用上述第4信息将上述多个子空间结合。

例如,也可以是,上述比特流包含表示上述多个子区间各自的位置的第5信息;在上述对象空间的复原中,还使用上述第5信息将上述多个子空间结合。

例如,也可以是,上述比特流包含表示上述多个子区间的数量的第6信息;在上述对象空间的复原中,还使用上述第6信息将上述多个子空间结合。

例如,也可以是,上述比特流包含表示上述多个子区间的间隔的第7信息;在上述对象空间的复原中,还使用上述第7信息将上述多个子空间结合。

此外,有关本发明的一技术方案的三维数据编码装置,具备处理器和存储器;上述处理器使用上述存储器进行以下处理:通过对将包含多个三维点的对象空间分割而成的多个子空间进行编码,生成多个编码数据;生成包含上述多个编码数据和表示上述多个子空间的形状的第1信息的比特流。

由此,该三维数据编码装置能够从多个种类的子空间的形状中选择任意的形状,所以能够提高编码效率。

此外,有关本发明的一技术方案的三维数据解码装置,具备处理器和存储器;上述处理器使用上述存储器进行以下处理:通过对比特流中包含的、通过对将包含多个三维点的对象空间分割而成的多个子空间进行编码而生成的多个编码数据进行解码,将上述多个子空间复原;通过使用上述比特流中包含的表示上述多个子空间的形状的第1信息将上述多个子空间结合,将上述对象空间复原。

由此,该三维数据解码装置能够对从多个种类的子空间的形状中选择任意的形状而生成的提高了编码效率的比特流进行解码。

另外,这些包含性或具体的技术方案也可以由系统、方法、集成电路、计算机程序或计算机可读取的cd-rom等的记录介质实现,也可以由系统、方法、集成电路、计算机程序及记录介质的任意的组合来实现。

以下,参照附图对实施方式具体地进行说明。另外,以下说明的实施方式都表示本发明的一具体例。在以下的实施方式中表示的数值、形状、材料、构成要素、构成要素的配置位置及连接形态、步骤、步骤的顺序等是一例,不是限定本发明的意思。此外,关于以下的实施方式的构成要素中的、在表示最上位概念的独立权利要求中没有记载的构成要素,设为任意的构成要素进行说明。

(实施方式1)

在将点云的编码数据用于实际的装置或服务时,为了抑制网络带宽,而希望按照用途来对所需要的信息进行收发。然而,至今的三维数据的编码结构中不存在这样的功能,因此也没有与此相对的编码方法。

在本实施方式中将要说明的是,用于提供在三维的点云的编码数据中,按照用途来对所需要的信息进行收发的功能的三维数据编码方法以及三维数据编码装置、还有对该编码数据进行解码的三维数据解码方法以及三维数据解码装置,以及对该编码数据进行复用的三维数据复用方法、以及传输该编码数据的三维数据传输方法进行说明。

特别是,当前,作为点群数据的编码方法(编码方式)研究了第1编码方法和第2编码方法,但没有定义将编码数据的构成以及编码数据保存到系统格式的方法,在这种情况下,存在无法直接进行编码部中的mux处理(复用)、或者传输或蓄积这样的课题。

此外,如pcc(pointcloudcompression:点云压缩)那样,对第1编码方法和第2编码方法这2个编解码器混合存在的格式进行支持的方法至今不存在。

在本实施方式中,对将第1编码方法和第2编码方法这2个编解码器混合存在的pcc编码数据的构成以及将编码数据向系统格式保存的方法进行说明。

首先,说明本实施方式的三维数据(点群数据)编码解码系统的构成。图1是表示本实施方式的三维数据编码解码系统的构成例的图。如图1所示,三维数据编码解码系统包括三维数据编码系统4601、三维数据解码系统4602、传感器终端4603以及外部连接部4604。

三维数据编码系统4601通过对作为三维数据的点群数据进行编码来生成编码数据或复用数据。此外,三维数据编码系统4601可以是由单个装置实现的三维数据编码装置,也可以是由多个装置实现的系统。另外,三维数据编码装置也可以包含于三维数据编码系统4601中包含的多个处理部中的一部分。

三维数据编码系统4601包括点群数据生成系统4611、提示部4612、编码部4613、复用部4614、输入输出部4615、以及控制部4616。点群数据生成系统4611包括传感器信息取得部4617和点群数据生成部4618。

传感器信息取得部4617从传感器终端4603取得传感器信息,并将传感器信息输出到点群数据生成部4618。点群数据生成部4618根据传感器信息生成点群数据,并将点群数据输出到编码部4613。

提示部4612向用户提示传感器信息或点群数据。例如,提示部4612显示基于传感器信息或点群数据的信息或图像。

编码部4613对点群数据进行编码(压缩),将得到的编码数据、在编码过程中得到的控制信息和其他附加信息输出到复用部4614。附加信息例如包含传感器信息。

复用部4614通过复用从编码部4613输入的编码数据、控制信息和附加信息来生成复用数据。复用数据的格式例如是用于蓄积的文件格式、或用于传输的包格式。

输入输出部4615(例如,通信部或接口)将复用数据向外部输出。或者,复用数据被蓄积于内部存储器等蓄积部。控制部4616(或应用执行部)控制各处理部。即,控制部4616进行编码及复用等控制。

此外,也可以将传感器信息向编码部4613或复用部4614输入。另外,输入输出部4615也可以将点群数据或编码数据直接向外部输出。

从三维数据编码系统4601输出的传输信号(复用数据)经由外部连接部4604输入到三维数据解码系统4602。

三维数据解码系统4602通过对编码数据或复用数据进行解码而生成作为三维数据的点群数据。此外,三维数据解码系统4602可以是由单一的装置实现的三维数据解码装置,也可以是由多个装置实现的系统。另外,三维数据解码装置也可以包含三维数据解码系统4602中包含的多个处理部中的一部分。

三维数据解码系统4602包括传感器信息取得部4621、输入输出部4622、逆复用部4623、解码部4624、提示部4625、用户接口4626、以及控制部4627。

传感器信息取得部4621从传感器终端4603取得传感器信息。

输入输出部4622取得传输信号,根据传输信号对复用数据(文件格式或者包)进行解码,并将复用数据输出到逆复用部4623。

逆复用部4623从复用数据中取得编码数据、控制信息以及附加信息,并将编码数据、控制信息以及附加信息输出到解码部4624。

解码部4624通过对编码数据进行解码而重构点群数据。

提示部4625将点群数据提示给用户。例如,提示部4625显示基于点群数据的信息或图像。用户接口4626取得基于用户的操作的指示。控制部4627(或应用执行部)控制各处理部。即,控制部4627进行逆复用、解码以及提示等的控制。

此外,输入输出部4622也可以从外部直接取得点群数据或编码数据。另外,提示部4625也可以取得传感器信息等附加信息,并提示基于附加信息的信息。另外,提示部4625也可以基于由用户接口4626取得的用户的指示来进行提示。

传感器终端4603生成由传感器取得的信息即传感器信息。传感器终端4603是搭载有传感器或相机的终端,例如有汽车等移动体、飞机等飞行物体、移动终端或相机等。

能够由传感器终端4603取得的传感器信息例如是(1)由lidar、毫米波雷达或者红外线传感器得到的传感器终端4603与对象物的距离、或者对象物的反射率、(2)从多个单眼相机图像或者立体相机图像得到的相机与对象物的距离或者对象物的反射率等。另外,传感器信息也可以包含传感器的姿势、朝向、回转(角速度)、位置(gps信息或者高度)、速度或者加速度等。另外,传感器信息也可以包含气温、气压、湿度、或者磁性等。

外部连接部4604通过集成电路(lsi或ic)、外部蓄积部、经由因特网的与云服务器的通信、或者广播等来实现。

接着,对点群数据进行说明。图2是表示点群数据的构成的图。图3是表示记述了点群数据的信息的数据文件的构成例的图。

点群数据包含多个点的数据。各点的数据包含位置信息(三维坐标)以及与该位置信息相对的属性信息。将聚集了多个这样的点的群称为点群。例如,点群表示对象物(对象)的三维形状。

有时也将三维坐标等位置信息(position)称为几何形状(geometry)。另外,各点的数据也可以包含多个属性类别的属性信息(attribute)。属性类别例如是颜色或反射率等。

既可以将1个属性信息针对1个位置信息建立对应,也可以将具有多个不同的属性类别的属性信息针对1个位置信息建立对应。另外,也可以将多个相同的属性类别的属性信息针对1个位置信息建立对应。

图3所示的数据文件的构成例是位置信息和属性信息1对1对应的情况的例子,表示构成点群数据的n个点的位置信息和属性信息。

位置信息例如是x、y、z这3轴的信息。属性信息例如是rgb的颜色信息。作为代表性的数据文件,有ply文件等。

接着,对点群数据的种类进行说明。图4是表示点群数据的种类的图。如图4所示,点群数据包含静态对象和动态对象。

静态对象是任意时间(某个时刻)的三维点群数据。动态对象是随时间变化的三维点群数据。以下,将某时刻的三维点群数据称为pcc帧或者帧。

对象可以是如通常的影像数据那样区域被某种程度限制的点群,也可以是像地图信息那样区域未被限制的大规模点群。

另外,存在各种密度的点群数据,也可以存在稀疏的点群数据和密集的点群数据。

以下,对各处理部的详细情况进行说明。传感器信息通过lidar或者测距仪等距离传感器、立体相机或者多个单眼相机的组合等各种方法来取得。点群数据生成部4618基于由传感器信息取得部4617得到的传感器信息生成点群数据。点群数据生成部4618生成位置信息作为点群数据,对位置信息附加针对该位置信息的属性信息。

点群数据生成部4618也可以在生成位置信息或者附加属性信息时,对点群数据进行加工。例如,点群数据生成部4618也可以通过删除位置重复的点群来减少数据量。另外,点群数据生成部4618也可以对位置信息进行变换(位置转变、旋转或者标准化等),也可以对属性信息进行渲染。

此外,在图1中,点群数据生成系统4611包含于三维数据编码系统4601,但也可以独立设置于三维数据编码系统4601的外部。

编码部4613基于预先规定的编码方法对点群数据进行编码,由此生成编码数据。编码方法大致存在以下2种。第1种是使用了位置信息的编码方法,以后将该编码方法记载为第1编码方法。第2种是使用了视频编解码器的编码方法,以后将该编码方法记载为第2编码方法。

解码部4624基于预先规定的编码方法对编码数据进行解码,由此对点群数据进行解码。

复用部4614通过使用现有的复用方式对编码数据进行复用,从而生成复用数据。所生成的复用数据被传输或蓄积。复用部4614除了pcc编码数据以外,还复用影像、声音、字幕、应用、文件等其他媒体、或者基准时刻信息。另外,复用部4614还可以对与传感器信息或者点群数据相关联的属性信息进行复用。

作为复用方式或文件格式,有isobmff、作为isobmff基础的传输方式的mpeg-dash、mmt、mpeg-2tssystems、rmp等。

逆复用部4623从复用数据中提取pcc编码数据、其他媒体以及时刻信息等。

输入输出部4615使用与广播或通信等传输介质或蓄积介质一致的方法传输复用数据。输入输出部4615可以经由因特网与其他设备进行通信,也可以与云服务器等蓄积部进行通信。

作为通信协议,使用http、ftp、tcp或udp等。既可以使用pull型的通信方式,也可以使用push型的通信方式。

可以使用有线传输和无线传输中的任一种。作为有线传输,使用ethernet(注册商标)、usb、rs-232c、hdmi(注册商标)或同轴电缆等。作为无线传输,使用无线lan、wi-fi(注册商标)、bluetooth(注册商标)或毫米波等。

此外,作为广播方式,例如使用dvb-t2、dvb-s2、dvb-c2、atsc3.0或isdb-s3等。

图5是表示进行第1编码方法的编码的编码部4613的例子即第1编码部4630的构成的图。图6是第1编码部4630的框图。第1编码部4630通过用第1编码方法对点群数据进行编码来生成编码数据(编码流)。该第1编码部4630包括位置信息编码部4631、属性信息编码部4632、附加信息编码部4633以及复用部4634。

第1编码部4630具有意识到三维结构来进行编码的特征。另外,第1编码部4630具有属性信息编码部4632使用从位置信息编码部4631得到的信息进行编码的特征。第1编码方法也被称为gpcc(geometrybasedpcc)。

点群数据是ply文件那样的pcc点群数据、或者根据传感器信息生成的pcc点群数据,包含位置信息(position)、属性信息(attribute)以及其他的附加信息(metadata)。位置信息被输入到位置信息编码部4631,属性信息被输入到属性信息编码部4632,附加信息被输入到附加信息编码部4633。

位置信息编码部4631通过对位置信息进行编码,来生成作为编码数据的编码位置信息(compressedgeometry)。例如,位置信息编码部4631使用八叉树等n叉树结构对位置信息进行编码。具体而言,在八叉树中,对象空间被分割为8个节点(子空间),生成表示各节点中是否包含点群的8比特的信息(占用率代码)。另外,包含点群的节点进一步被分割为8个节点,生成表示在该8个节点的每一个中是否包含点群的8比特的信息。反复进行该处理,直到成为预先确定的阶层或节点所包含的点群的数量的阈值以下为止。

属性信息编码部4632通过使用由位置信息编码部4631生成的构成信息进行编码,来生成作为编码数据的编码属性信息(compressedattribute)。例如,属性信息编码部4632基于由位置信息编码部4631生成的八叉树结构,决定在处理对象的对象点(对象节点)的编码中参照的参照点(参照节点)。例如,属性信息编码部4632参照周边节点或相邻节点中的八叉树中的父节点与对象节点的父节点相同的节点。另外,参照关系的决定方法不限于此。

另外,属性信息的编码处理可以包括量化处理、预测处理和算术编码处理中的至少一个。在该情况下,参照是指在属性信息的预测值的计算中使用参照节点,或者在编码的参数的决定中使用参照节点的状态(例如,表示在参照节点中是否包含点群的占有信息)。例如,编码的参数是量化处理中的量化参数、或者算术编码中的上下文等。

附加信息编码部4633通过对附加信息中的可压缩的数据进行编码,来生成作为编码数据的编码附加信息(compressedmetadata)。

复用部4634通过对编码位置信息、编码属性信息、编码附加信息以及其他附加信息进行复用,来生成作为编码数据的编码流(compressedstream)。所生成的编码流被输出到未图示的系统层的处理部。

接着,对作为进行第1编码方法的解码的解码部4624的例子的第1解码部4640进行说明。图7是表示第1解码部4640的构成的图。图8是第1解码部4640的框图。第1解码部4640通过以第1编码方法对以第1编码方法进行了编码的编码数据(编码流)进行解码,来生成点群数据。该第1解码部4640包括逆复用部4641、位置信息解码部4642、属性信息解码部4643以及附加信息解码部4644。

从未图示的系统层的处理部将作为编码数据的编码流(compressedstream)输入到第1解码部4640。

逆复用部4641从编码数据中分离编码位置信息(compressedgeometry)、编码属性信息(compressedattribute)、编码附加信息(compressedmetadata)以及其他附加信息。

位置信息解码部4642通过对编码位置信息进行解码来生成位置信息。例如,位置信息解码部4642根据由八叉树等n叉树结构表示的编码位置信息,复原用三维坐标表示的点群的位置信息。

属性信息解码部4643基于由位置信息解码部4642生成的构成信息,对编码属性信息进行解码。例如,属性信息解码部4643基于由位置信息解码部4642得到的八叉树结构,决定在处理对象的对象点(对象节点)的解码中参照的参照点(参照节点)。例如,属性信息解码部4643参照周边节点或相邻节点中的八叉树中的父节点与对象节点的父节点相同的节点。另外,参照关系的决定方法不限于此。

另外,属性信息的解码处理也可以包括逆量化处理、预测处理以及算术解码处理中的至少一个。在该情况下,参照是指在属性信息的预测值的计算中使用参照节点、或者在解码的参数的决定中使用参照节点的状态(例如,表示在参照节点中是否包含点群的占有信息)。例如,解码的参数是逆量化处理中的量化参数、或者算术解码中的上下文等。

附加信息解码部4644通过对编码附加信息进行解码来生成附加信息。另外,第1解码部4640在解码时使用位置信息以及属性信息的解码处理所需的附加信息,向外部输出应用所需的附加信息。

接着,对作为进行第2编码方法的编码的编码部4613的例子的第2编码部4650进行说明。图9是表示第2编码部4650的构成的图。图10是第2编码部4650的框图。

第2编码部4650通过以第2编码方法对点群数据进行编码来生成编码数据(编码流)。该第2编码部4650包括附加信息生成部4651、位置图像生成部4652、属性图像生成部4653、影像编码部4654、附加信息编码部4655以及复用部4656。

第2编码部4650具有如下特征:通过将三维结构投影于二维图像来生成位置图像以及属性图像,并使用现有的影像编码方式对所生成的位置图像以及属性图像进行编码。第2编码方法也被称为vpcc(videobasedpcc,基于视频的pcc)。

点群数据是ply文件那样的pcc点群数据、或者根据传感器信息生成的pcc点群数据,包含位置信息(position)、属性信息(attribute)以及其他的附加信息(metadata)。

附加信息生成部4651通过将三维结构投影到二维图像,来生成多个二维图像的映射信息。

位置图像生成部4652基于位置信息和由附加信息生成部4651生成的映射信息,生成位置图像(geometryimage)。该位置图像例如是表示距离(depth)作为像素值的距离图像。另外,该距离图像既可以是从1个视点观察多个点群的图像(在1个二维平面上投影了多个点群的图像),也可以是从多个视点观察多个点群的多个图像,也可以是将这些多个图像合并而成的1个图像。

属性图像生成部4653基于属性信息和由附加信息生成部4651生成的映射信息,生成属性图像。该属性图像例如是表示属性信息(例如颜色(rgb))作为像素值的图像。另外,该图像可以是从1个视点观察多个点群的图像(在1个二维平面上投影了多个点群的图像),也可以是从多个视点观察多个点群的多个图像,也可以是将这些多个图像合并而成的1个图像。

影像编码部4654通过使用影像编码方式对位置图像以及属性图像进行编码,从而生成作为编码数据的编码位置图像(compressedgeometryimage)以及编码属性图像(compressedattributeimage)。此外,作为影像编码方式,可以使用公知的任意的编码方式。例如,影像编码方式是avc或hevc等。

附加信息编码部4655通过对点群数据中包含的附加信息以及映射信息等进行编码来生成编码附加信息(compressedmetadata)。

复用部4656通过对编码位置图像、编码属性图像、编码附加信息以及其他附加信息进行复用,来生成作为编码数据的编码流(compressedstream)。所生成的编码流被输出到未图示的系统层的处理部。

接着,对作为进行第2编码方法的解码的解码部4624的例子的第2解码部4660进行说明。图11是表示第2解码部4660的构成的图。图12是第2解码部4660的框图。第2解码部4660通过以第2编码方法对以第2编码方法进行了编码的编码数据(编码流)进行解码,来生成点群数据。该第2解码部4660包括逆复用部4661、影像解码部4662、附加信息解码部4663、位置信息生成部4664以及属性信息生成部4665。

从未图示的系统层的处理部将作为编码数据的编码流(compressedstream)输入到第2解码部4660。

逆复用部4661从编码数据中分离编码位置图像(compressedgeometryimage)、编码属性图像(compressedattributeimage)、编码附加信息(compressedmetadata)以及其他附加信息。

影像解码部4662通过使用影像编码方式对编码位置图像以及编码属性图像进行解码,来生成位置图像以及属性图像。此外,作为影像编码方式,可以使用公知的任意的编码方式。例如,影像编码方式是avc或hevc等。

附加信息解码部4663通过对编码附加信息进行解码,来生成包含映射信息等的附加信息。

位置信息生成部4664使用位置图像和映射信息生成位置信息。属性信息生成部4665使用属性图像和映射信息生成属性信息。

第2解码部4660在解码时使用解码所需的附加信息,向外部输出应用所需的附加信息。

以下,说明pcc编码方式中的课题。图13是表示与pcc编码数据有关的协议栈的图。图13表示在pcc编码数据中复用、传输或蓄积影像(例如hevc)或声音等其他媒体的数据的例子。

复用方式及文件格式具有用于复用、传输或蓄积各种编码数据的功能。为了传输或蓄积编码数据,必须将编码数据变换为复用方式的格式。例如,在hevc中,规定了将编码数据保存在被称为nal单元的数据结构中,将nal单元保存到isobmff中的技术。

另一方面,当前,作为点群数据的编码方式,正在研究第1编码方法(codec1)以及第2编码方法(codec2),但没有定义编码数据的构成以及将编码数据保存到系统格式的方法,存在无法直接进行编码部中的mux处理(复用)、传输以及蓄积这样的课题。

另外,以下,如果没有特定的编码方法的记载,则表示第1编码方法和第2编码方法中的任一个。

以下,对本实施方式的nal单元的定义方法进行说明。例如,在hevc等此前的编解码器中,对于1个编解码器,定义了1个格式的nal单元。但是,如pcc那样,对第1编码方法和第2编码方法这2个编解码器(以后,称为pcc编解码器)混合存在的格式进行支持的方法至今不存在。

首先,对具有上述的第1编码部4630及第2编码部4650双方的功能的编码部4670、以及具有第1解码部4640及第2解码部4660双方的功能的解码部4680进行说明。

图14是有关本实施方式的编码部4670的框图。该编码部4670包括上述的第1编码部4630及第2编码部4650和复用部4671。复用部4671将由第1编码部4630生成的编码数据和由第2编码部4650生成的编码数据复用,将得到的编码数据输出。

图15是有关本实施方式的解码部4680的框图。该解码部4680包括上述的第1解码部4640及第2解码部4660和逆复用部4681。逆复用部4681从被输入的编码数据中,提取使用第1编码方法的编码数据和使用第2编码方法的编码数据。逆复用部4681将使用第1编码方法的编码数据向第1解码部4640输出,将使用第2编码方法的编码数据向第2解码部4660输出。

通过上述的构成,编码部4670能够有选择地使用第1编码方法及第2编码方法将点群数据编码。此外,解码部4680能够将使用第1编码方法编码的编码数据、使用第2编码方法编码的编码数据及使用第1编码方法和第2编码方法双方来编码的编码数据解码。

例如,编码部4670也可以以点群数据单位或帧单位切换编码方法(第1编码方法及第2编码方法)。此外,编码部4670也可以以可编码的单位切换编码方法。

编码部4670例如生成包含pcc编解码器的识别信息的编码数据(编码流)。

解码部4680中包含的逆复用部4681例如使用pcc编解码器的识别信息来识别数据。逆复用部4681在该数据是用第1编码方法编码的数据的情况下,将该数据向第1解码部4640输出,在该数据是用第2编码方法编码的数据的情况下,将该数据向第2解码部4660输出。

另外,编码部4670也可以在pcc编解码器的识别信息以外,将表示是使用了双方的编码方法还是使用了某一方的编码方法的信息作为控制信息来送出。

接着,对有关本实施方式的编码处理进行说明。图16是有关本实施方式的编码处理的流程图。通过使用pcc编解码器的识别信息,能够进行与多个编解码器对应的编码处理。

首先,编码部4670用第1编码方法、第2编码方法的某一方或双方的编解码器将pcc数据编码(s4681)。

在使用的编解码器是第2编码方法的情况下(在s4682中是第2编码方法),编码部4670将在nal单元头中包含的pcc_codec_type设定为表示nal单元的有效载荷中包含的数据是用第2编码方法编码的数据的值(s4683)。接着,编码部4670对于nal单元头的pcc_nal_unit_type设定第2编码方法用的nal单元的识别符(s4684)。并且,编码部4670生成具有所设定的nal单元头、在有效载荷中包含编码数据的nal单元。并且,编码部4670发送所生成的nal单元(s4685)。

另一方面,在使用的编解码器是第1编码方法的情况下(在s4682中是第1编码方法),编码部4670将在nal单元头中包含的pcc_codec_type设定为表示nal单元的有效载荷中包含的数据是用第1编码方法编码的数据的值(s4686)。接着,编码部4670对于nal单元头的pcc_nal_unit_type设定第1编码方法用的nal单元的识别符(s4687)。接着,编码部4670生成具有所设定的nal单元头、在有效载荷中包含编码数据的nal单元。并且,编码部4670发送所生成的nal单元(s4685)。

接着,对有关本实施方式的解码处理进行说明。图17是有关本实施方式的解码处理的流程图。通过使用pcc编解码器的识别信息,能够进行与多个编解码器对应的解码处理。

首先,解码部4680接收nal单元(s4691)。例如,该nal单元是由上述的编码部4670中的处理生成的。

接着,解码部4680判定nal单元头中包含的pcc_codec_type是表示第1编码方法还是表示第2编码方法(s4692)。

在pcc_codec_type表示第2编码方法的情况下(在s4692中是第2编码方法),解码部4680判断为nal单元的有效载荷中包含的数据是用第2编码方法编码的数据(s4693)。并且,第2解码部4660设为nal单元头中包含的pcc_nal_unit_type是第2编码方法用的nal单元的识别符而识别数据(s4694)。并且,解码部4680使用第2编码方法的解码处理将pcc数据解码(s4695)。

另一方面,在pcc_codec_type表示第1编码方法的情况下(在s4692中是第1编码方法),解码部4680判断为nal单元的有效载荷中包含的数据是用第1编码方法编码的数据(s4696)。并且,解码部4680设为nal单元头中包含的pcc_nal_unit_type是第1编码方法用的nal单元的识别符而识别数据(s4697)。并且,解码部4680使用第1编码方法的解码处理将pcc数据解码(s4698)。

如以上这样,有关本发明的一技术方案的三维数据编码装置通过将三维数据(例如点群数据)编码而生成编码流,在上述编码流的控制信息(例如参数集)中,保存表示第1编码方法和第2编码方法中的在上述编码使用的编码方法的信息(例如编解码器的识别信息)。

由此,三维数据解码装置在将由该三维数据编码装置生成的编码流解码时,能够使用保存在控制信息中的信息来判定在编码中使用的编码方法。因此,三维数据解码装置在使用多个编码方法的情况下也能够正确地解码编码流。

例如,上述三维数据包含位置信息。三维数据编码装置在上述编码中将上述位置信息进行编码。三维数据编码装置在上述保存中,在上述位置信息的控制信息中保存表示上述第1编码方法和上述第2编码方法中的在上述位置信息的编码中使用的编码方法的信息。

例如,上述三维数据包含位置信息和属性信息。三维数据编码装置在上述编码中,将上述位置信息和上述属性信息编码。三维数据编码装置在上述保存中,在上述位置信息的控制信息中保存表示上述第1编码方法和上述第2编码方法中的在上述位置信息的编码中使用的编码方法的信息,在上述属性信息的控制信息中保存表示上述第1编码方法和上述第2编码方法中的在上述属性信息的编码中使用的编码方法的信息。

由此,能够对位置信息和属性信息使用不同的编码方法,所以能够提高编码效率。

例如,上述三维数据编码方法还将上述编码流向1个以上的单元(例如nal单元)保存。

例如,上述单元包含如下信息(例如pcc_nal_unit_type),该信息具有在上述第1编码方法和上述第2编码方法中共同的格式,表示上述单元中包含的数据的种类,并且具有在上述第1编码方法和上述第2编码方法中独立的定义。

例如,上述单元包含如下信息(例如codec1_nal_unit_type或codec2_nal_unit_type),该信息具有在上述第1编码方法和上述第2编码方法中独立的格式,表示上述单元中包含的数据的种类,并且具有在上述第1编码方法和上述第2编码方法中独立的定义。

例如,上述单元包含如下信息(例如pcc_nal_unit_type),该信息具有在上述第1编码方法和上述第2编码方法中共同的格式,表示上述单元中包含的数据的种类,并且具有在上述第1编码方法和上述第2编码方法中共同的定义。

例如,三维数据编码装置具备处理器和存储器,处理器使用存储器进行上述处理。

此外,有关本实施方式的三维数据解码装置基于通过将三维数据编码而生成的编码流的控制信息(例如参数集)中包含的、表示第1编码方法和第2编码方法中的在上述三维数据的编码中使用的编码方法的信息(例如编解码器的识别信息),判定在编码流的编码中使用的编码方法,使用判定的上述编码方法将上述编码流解码。

由此,三维数据解码装置在将编码流解码时,能够使用保存在控制信息中的信息来判定在编码中使用的编码方法。因此,三维数据解码装置在使用多个编码方法的情况下也能够正确地解码编码流。

例如,上述三维数据包含位置信息,上述编码流包含上述位置信息的编码数据。三维数据解码装置在上述判定中,基于上述编码流中包含的上述位置信息的控制信息所包含的、表示上述第1编码方法和上述第2编码方法中的在上述位置信息的编码中使用的编码方法的信息,判定在上述位置信息的编码中使用的编码方法。三维数据解码装置在上述解码中,使用在判定出的上述位置信息的编码中使用的编码方法,将上述位置信息的编码数据解码。

例如,上述三维数据包含位置信息和属性信息,上述编码流包含上述位置信息的编码数据和上述属性信息的编码数据。三维数据解码装置在上述判定中,基于上述编码流中包含的上述位置信息的控制信息所包含的、表示上述第1编码方法和上述第2编码方法中的在上述位置信息的编码中使用的编码方法的信息,判定在上述位置信息的编码中使用的编码方法,并且基于上述编码流中包含的上述属性信息的控制信息所包含的、表示上述第1编码方法和上述第2编码方法中的在上述属性信息的编码中使用的编码方法的信息,判定在上述属性信息的编码中使用的编码方法。三维数据解码装置在上述解码中,使用判定出的在上述位置信息的编码中使用的编码方法将上述位置信息的编码数据解码,使用判定出的在上述属性信息的编码中使用的编码方法,将上述属性信息的编码数据解码。

由此,能够对位置信息和属性信息使用不同的编码方法,所以能够提高编码效率。

例如,上述编码流被保存在1个以上的单元(例如nal单元)中,三维数据解码装置还从上述1个以上的单元取得上述编码流。

例如,上述单元包含如下信息(例如pcc_nal_unit_type),该信息具有在上述第1编码方法和上述第2编码方法中共同的格式,表示上述单元中包含的数据的种类,并且具有在上述第1编码方法和上述第2编码方法中独立的定义。

例如,上述单元包含如下信息(例如codec1_nal_unit_type或codec2_nal_unit_type),该信息在上述第1编码方法和上述第2编码方法中具有独立的格式,表示上述单元中包含的数据的种类,并且在上述第1编码方法和上述第2编码方法中具有独立的定义。

例如,上述单元包含如下信息(例如pcc_nal_unit_type),该信息具有在上述第1编码方法和上述第2编码方法中共同的格式,表示上述单元中包含的数据的种类,并且具有在上述第1编码方法和上述第2编码方法中共同的定义。

例如,三维数据解码装置具备处理器和存储器,处理器使用存储器进行上述处理。

(实施方式2)

在本实施方式中,对将nal单元向isobmff的文件保存的方法进行说明。

isobmff(isobasedmediafileformat:iso基础媒体文件格式)是由iso/iec14496-12规定的文件格式标准。isobmff规定了能够将视频、音频及文本等各种媒体复用而保存的格式,是不依赖于媒体的标准。

对isobmff的基本构造(文件)进行说明。isobmff中的基本单位是盒子(box)。盒子由type(类型)、length(长度)、data(数据)构成,将各种type的盒子组合而成的集合为文件。

图18是表示isobmff的基本构造(文件)的图。isobmff的文件主要包括将文件的版本(brand)用4cc(4字符码)表示的ftyp、保存控制信息等的元数据的moov、以及保存数据的mdat等的盒子。

向isobmff的文件的各媒体的保存方法被另行规定,例如,avc视频及hevc视频的保存方法由iso/iec14496-15规定。这里,为了将pcc编码数据积蓄或传输,可以考虑将isobmff的功能扩展而使用,但还没有将pcc编码数据向isobmff的文件保存的规定。所以,在本实施方式中,对将pcc编码数据向isobmff的文件保存的方法进行说明。

图19是表示将pcc编解码器共同的nal单元向isobmff的文件保存的情况下的协议栈的图。这里,pcc编解码器共同的nal单元被保存到isobmff的文件。nal单元是pcc编解码器共同的,但由于在nal单元中保存多个pcc编解码器,所以希望规定与各个编解码器对应的保存方法(carriageofcodec1、carriageofcodec2)。

接着,对将支持多个pcc编解码器的共同的pccnal单元向isobmff的文件保存的方法进行说明。图20是表示将共同的pccnal单元向编解码器1的保存方法(carriageofcodec1)的isobmff的文件保存的例子的图。图21是表示将共同的pccnal单元向编解码器2的保存方法(carriageofcodec2)的isobmff的文件保存的例子的图。

这里,ftyp是用来识别文件格的重要的信息,作为ftyp,定义按每个编解码器而不同的识别符。在将通过第1编码方法(编码方式)编码的pcc编码数据向文件保存的情况下,设定为ftyp=pcc1。在将通过第2编码方法编码的pcc编码数据向文件保存的情况下,设定为ftyp=pcc2。

这里,pcc1表示使用pcc的编解码器1(第1编码方法)。pcc2表示使用pcc的编解码器2(第2编码方法)。即,pcc1及pcc2表示数据是pcc(三维数据(点群数据)的代码数据),并且表示pcc编解码器(第1编码方法及第2编码方法)。

以下,对将nal单元向isobmff的文件保存的方法进行说明。复用部将nal单元头解析,在pcc_codec_type=codec1的情况下在isobmff的ftyp中记载pcc1。

此外,复用部将nal单元头解析,在pcc_codec_type=codec2的情况下,在isobmff的ftyp中记载pcc2。

此外,复用部在pcc_nal_unit_type是元数据的情况下,通过规定的方法将nal单元例如向moov或mdat保存。复用部在pcc_nal_unit_type是数据的情况下,通过规定的方法将nal单元例如向moov或mdat保存。

例如,复用部也可以与hevc同样向nal单元保存nal单元尺寸。

通过用本保存方法在逆复用部(系统层)中将文件中包含的ftyp进行解析,能够判定pcc编码数据是用第1编码方法编码的还是用第2编码方法编码的。进而,如上述那样,通过判定pcc编码数据是用第1编码方法编码的还是用第2编码方法编码的,能够从混合存在用双方的编码方法编码的编码数据的数据提取用某一方的编码方法编码的编码数据。由此,在传输编码数据时,能够抑制被传输的数据量。此外,通过本保存方法,不用在第1编码方法和第2编码方法中设定不同的数据(文件)格式,而能够使用共同的数据格式。

另外,在isobmff中的ftyp等、系统层的元数据中表示编解码器的识别信息的情况下,复用部也可以将删除pcc_nal_unit_type后的nal单元向isobmff的文件保存。

接着,对有关本实施方式的三维数据编码系统(三维数据编码装置)具备的复用部、以及有关本实施方式的三维数据解码系统(三维数据解码装置)具备的逆复用部的构成及动作进行说明。

图22是表示第1复用部4710的构成的图。第1复用部4710具备通过将由第1编码部4630生成的编码数据及控制信息(nal单元)向isobmff的文件保存而生成复用数据(文件)的文件变换部4711。该第1复用部4710例如包含于图1所示的复用部4614中。

图23是表示第1逆复用部4720的构成的图。第1逆复用部4720具备从复用数据(文件)取得编码数据及控制信息(nal单元)、将所取得的编码数据及控制信息向第1解码部4640输出的文件逆变换部4721。该第1逆复用部4720例如包含于图1所示的逆复用部4623中。

图24是表示第2复用部4730的构成的图。第2复用部4730具备通过将由第2编码部4650生成的编码数据及控制信息(nal单元)向isobmff的文件保存而生成复用数据(文件)的文件变换部4731。该第2复用部4730例如包含于图1所示的复用部4614中。

图25是表示第2逆复用部4740的构成的图。第2逆复用部4740具备从复用数据(文件)取得编码数据及控制信息(nal单元)、将所取得的编码数据及控制信息向第2解码部4660输出的文件逆变换部4741。该第2逆复用部4740例如包含于图1所示的逆复用部4623中。

图26是由第1复用部4710进行的复用处理的流程图。首先,第1复用部4710通过将nal单元头中包含的pcc_codec_type解析,判定使用的编解码器是第1编码方法还是第2编码方法(s4701)。

在pcc_codec_type表示第2编码方法的情况下(在s4702中是第2编码方法),第1复用部4710不处理该nal单元(s4703)。

另一方面,在pcc_codec_type表示第2编码方法的情况下(在s4702中是第1编码方法),第1复用部4710在ftyp中记载pcc1(s4704)。即,第1复用部4710将表示在文件中保存有用第1编码方法编码的数据的信息记载在ftyp中。

接着,第1复用部4710将nal单元头中包含的pcc_nal_unit_type解析,用与pcc_nal_unit_type所表示的数据类型对应的规定的方法将数据向盒子(moov或mdat等)保存(s4705)。并且,第1复用部4710制作包含上述ftyp及上述盒子的isobmff的文件(s4706)。

图27是由第2复用部4730进行的复用处理的流程图。首先,第2复用部4730通过将nal单元头中包含的pcc_codec_type解析,判定使用的编解码器是第1编码方法还是第2编码方法(s4711)。

在pcc_unit_type表示第2编码方法的情况下(在s4712中是第2编码方法),第2复用部4730在ftyp中记载pcc2(s4713)。即,第2复用部4730将表示在文件中保存有用第2编码方法编码的数据的信息记载在ftyp中。

接着,第2复用部4730将nal单元头中包含的pcc_nal_unit_type解析,用与pcc_nal_unit_type所表示的数据类型对应的规定的方法将数据向盒子(moov或mdat等)保存(s4714)。并且,第2复用部4730制作包含上述ftyp及上述盒子的isobmff的文件(s4715)。

另一方面,在pcc_unit_type表示第1编码方法的情况下(在s4712中是第1编码方法),第2复用部4730不处理该nal单元(s4716)。

另外,上述处理示出了将pcc数据用第1编码方法及第2编码方法的某一方编码的例子。第1复用部4710及第2复用部4730通过识别nal单元的编解码器类型,向文件保存希望的nal单元。另外,在nal单元头以外包含pcc编解码器的识别信息的情况下,第1复用部4710及第2复用部4730在步骤s4701及s4711中,也可以使用nal单元头以外包含的pcc编解码器的识别信息来识别编解码器类型(第1编码方法或第2编码方法)。

此外,第1复用部4710及第2复用部4730也可以在步骤s4706及s4714中将数据向文件保存时,在从nal单元头删除pcc_nal_unit_type后向文件保存。

图28是表示由第1逆复用部4720及第1解码部4640进行的处理的流程图。首先,第1逆复用部4720将isobmff的文件中包含的ftyp解析(s4721)。在由ftyp表示的编解码器是第2编码方法(pcc2)的情况下(在s4722中是第2编码方法),第1逆复用部4720判断为nal单元的有效载荷中包含的数据是用第2编码方法编码的数据(s4723)。此外,第1逆复用部4720将判断结果传递给第1解码部4640。第1解码部4640不处理该nal单元(s4724)。

另一方面,在由ftyp表示的编解码器是第1编码方法(pcc1)的情况下(在s4722中是第1编码方法),第1逆复用部4720判断为nal单元的有效载荷中包含的数据是用第1编码方法编码的数据(s4725)。此外,第1逆复用部4720将判断结果传递给第1解码部4640。

第1解码部4640设为nal单元头中包含的pcc_nal_unit_type是第1编码方法用的nal单元的识别符而识别数据(s4726)。并且,第1解码部4640使用第1编码方法的解码处理将pcc数据解码(s4727)。

图29是表示由第2逆复用部4740及第2解码部4660进行的处理的流程图。首先,第2逆复用部4740将isobmff的文件中包含的ftyp解析(s4731)。在由ftyp表示的编解码器是第2编码方法(pcc2)的情况下(在s4732中是第2编码方法),第2逆复用部4740判断为nal单元的有效载荷中包含的数据是用第2编码方法编码的数据(s4733)。此外,第2逆复用部4740将判断结果传递给第2解码部4660。

第2解码部4660设为nal单元头中包含的pcc_nal_unit_type是第2编码方法用的nal单元的识别符而识别数据(s4734)。并且,第2解码部4660使用第2编码方法的解码处理将pcc数据解码(s4735)。

另一方面,在由ftyp表示的编解码器是第1编码方法(pcc1)的情况下(在s4732中是第1编码方法),第2逆复用部4740判断为nal单元的有效载荷中包含的数据是用第1编码方法编码的数据(s4736)。此外,第2逆复用部4740将判断结果传递给第2解码部4660。第2解码部4660不处理该nal单元(s4737)。

这样,例如在第1逆复用部4720或第2逆复用部4740中通过识别nal单元的编解码器类型,能够在较早的阶段识别编解码器类型。进而,能够将希望的nal单元输入至第1解码部4640或第2解码部4660,而去除不需要的nal单元。在此情况下,在第1解码部4640或第2解码部4660中,有可能不需要将编解码器的识别信息解析的处理。另外,也可以实施在第1解码部4640或第2解码部4660中再次参照nal单元类型将编解码器的识别信息解析的处理。

此外,在第1复用部4710或第2复用部4730中从nal单元头删除了pcc_nal_unit_type的情况下,第1逆复用部4720或第2逆复用部4740也可以在对nal单元赋予pcc_nal_unit_type后向第1解码部4640或第2解码部4660输出。

(实施方式3)

在本实施方式中,对在实施方式1中说明的、与对应于多个编解码器的编码部4670及解码部4680对应的复用部及逆复用部进行说明。图30是表示有关本实施方式的编码部4670及第3复用部4750的构成的图。

编码部4670使用第1编码方法及第2编码方法的某一方或双方的方式将点群数据编码。编码部4670也可以以点群数据单位或帧单位切换编码方法(第1编码方法及第2编码方法)。此外,编码部4670也可以以可编码的单位切换编码方法。

编码部4670生成包含pcc编解码器的识别信息的编码数据(编码流)。

第3复用部4750具备文件变换部4751。文件变换部4751将从编码部4670输出的nal单元变换为pcc数据的文件。文件变换部4751将nal单元头中包含的编解码器识别信息解析,判定pcc编码数据是用第1编码方法编码的数据、还是用第2编码方法编码的数据、还是用双方的方式编码的数据。文件变换部4751在ftyp中记载能够识别编解码器的版本名。例如,在表示用双方的方式编码的情况下,在ftyp中记载pcc3。

另外,当编码部4670在nal单元以外记载有pcc编解码器的识别信息的情况下,文件变换部4751也可以使用该识别信息来判定pcc编解码器(编码方法)。

图31是表示有关本实施方式的第3逆复用部4760及解码部4680的构成的图。

第3逆复用部4760具备文件逆变换部4761。文件逆变换部4761将文件中包含的ftyp解析,判定pcc编码数据是用第1编码方法编码的数据、还是用第2编码方法编码的数据、还是用双方的方式编码的数据。

在pcc编码数据被用某一方的编码方法编码了的情况下,数据被输入至第1解码部4640及第2解码部4660中的对应的解码部,另一方解码部中不被输入数据。在pcc编码数据被用双方的编码方法编码了的情况下,数据被输入至与两方式对应的解码部4680。

解码部4680使用第1编码方法及第2编码方法的某一方或双方的方式将pcc编码数据解码。

图32是表示由有关本实施方式的第3复用部4750进行的处理的流程图。

首先,第3复用部4750通过将nal单元头中包含的pcc_codec_type解析,判定使用的编解码器是第1编码方法、还是第2编码方法、还是第1编码方法及第2编码方法双方(s4741)。

在使用了第2编码方法的情况下(在s4742中“是”,并且,在s4743中是第2编码方法),第3复用部4750在ftyp中记载pcc2(s4744)。即,第3复用部4750将表示在文件中保存有用第2编码方法编码的数据的信息向ftyp记载。

接着,第3复用部4750将nal单元头中包含的pcc_nal_unit_type解析,用与由pcc_unit_type表示的数据类型对应的规定的方法将数据保存到盒子(moov或mdat等)(s4745)。并且,第3复用部4750制作包括上述ftyp及上述盒子的isobmff的文件(s4746)。

另一方面,在使用了第1编码方法的情况下(在s4742中“是”,并且,在s4743中是第1编码方法),第3复用部4750在ftyp中记载pcc1(s4747)。即,第3复用部4750将表示在文件中保存有用第1编码方法编码的数据的信息向ftyp记载。

接着,第3复用部4750将nal单元头中包含的pcc_nal_unit_type解析,用与由pcc_unit_type表示的数据类型对应的规定的方法将数据保存到盒子(moov或mdat等)(s4748)。并且,第3复用部4750制作包含上述ftyp及上述盒子的isobmff的文件(s4746)。

另一方面,在使用了第1编码方法和第2编码方法双方的编码方法的情况下(在s4742中“否”),第3复用部4750在ftyp中记载pcc3(s4749)。即,第3复用部4750将表示在文件中保存有用双方的编码方法编码的数据的信息向ftyp记载。

接着,第3复用部4750将nal单元头中包含的pcc_nal_unit_type解析,用与由pcc_unit_type表示的数据类型对应的规定的方法将数据保存到盒子(moov或mdat等)(s4750)。并且,第3复用部4750制作包含上述ftyp及上述盒子的isobmff的文件(s4746)。

图33是表示由第3逆复用部4760及解码部4680进行的处理的流程图。首先,第3逆复用部4760将isobmff的文件中包含的ftyp解析(s4761)。在由ftyp表示的编解码器是第2编码方法(pcc2)的情况下(在s4762中“是”,并且在s4763中是第2编码方法),第3逆复用部4760判断为nal单元的有效载荷中包含的数据是用第2编码方法编码的数据(s4764)。此外,第3逆复用部4760将判断结果传输给解码部4680。

解码部4680设为nal单元头中包含的pcc_nal_unit_type是第2编码方法用的nal单元的识别符而识别数据(s4765)。并且,解码部4680使用第2编码方法的解码处理将pcc数据解码(s4766)。

另一方面,在由ftyp表示的编解码器是第1编码方法(pcc1)的情况下(在s4762中“是”,并且在s4763中是第1编码方法),第3逆复用部4760判断为nal单元的有效载荷中包含的数据是用第1编码方法编码的数据(s4767)。此外,第3逆复用部4760将判断结果传输给解码部4680。

解码部4680设为nal单元头中包含的pcc_nal_unit_type是第1编码方法用的nal单元的识别符而识别数据(s4768)。并且,解码部4680使用第1编码方法的解码处理将pcc数据解码(s4769)。

另一方面,在由ftyp表示使用双方的编码方法(pcc3)的情况下(s4762中“否”),第3逆复用部4760判断为nal单元的有效载荷中包含的数据是用第1编码方法和第2编码方法双方的编码方法编码的数据(s4770)。此外,第3逆复用部4760将判断结果传输给解码部4680。

解码部4680设为nal单元头中包含的pcc_nal_unit_type是在pcc_codec_type中记载的编解码器用的nal单元的识别符而识别数据(s4771)。并且,解码部4680使用双方的编码方法的解码处理将pcc数据解码(s4772)。即,解码部4680将用第1编码方法编码的数据使用第1编码方法的解码处理解码,将用第2编码方法编码的数据使用第2编码方法的解码处理解码。

以下,说明本实施方式的变形例。作为由ftyp表示的版本的种类,也可以将以下的种类用识别信息表示。此外,也可以将以下所示的多个种类的组合用识别信息表示。

识别信息表示pcc编码前的原数据的对象是区域被限制的点群、还是如地图信息那样区域没有被限制的大规模点群。

识别信息也可以表示pcc编码前的原数据是静态对象还是动态对象。

如上述那样,识别信息也可以表示pcc编码数据是用第1编码方法编码的数据还是用第2编码方法编码的数据。

识别信息也可以表示在pcc编码中使用的算法。这里,算法例如是在第1编码方法或第2编码方法中能够使用的编码方法。

识别信息也可以表示pcc编码数据向isobmff的文件的保存方法的差异。例如,识别信息也可以表示所使用的保存方法是积蓄用的保存方法、还是动态流(dynamicstreaming)那样的实时送出用的保存方法。

此外,在实施方式2及实施方式3中,以作为文件格式而使用isobmff的例子进行了说明,但也可以使用其他的方式。例如,也可以在向mpeg-2tssystems、mpeg-dash、mmt或rmp保存pcc编码数据时也使用与本实施方式同样的方法。

此外,在上述中,表示了在ftyp中保存识别信息等的元数据的例子,但也可以在ftyp以外保存这些元数据。例如,也可以将这些元数据保存在moov中。

如以上这样,三维数据保存装置(或三维数据复用装置、或三维数据编码装置)进行图34所示的处理。

首先,三维数据保存装置(例如,包括第1复用部4710、第2复用部4730或第3复用部4750)取得保存有将点群数据编码而得到的编码流的1个以上的单元(例如nal单元)(s4781)。接着,三维数据保存装置将1个以上的单元向文件(例如isobmff的文件)保存(s4782)。此外,三维数据保存装置在上述保存(s4782)中,将表示保存在文件中的数据是将点群数据编码而得到的数据的信息(例如pcc1、pcc2或pcc3)保存在上述文件的控制信息(例如ftyp)中。

由此,在将由该三维数据保存装置生成的文件处理的装置中,能够参照文件的控制信息,较早地判定保存在该文件中的数据是否是点群数据的编码数据。因此,能够实现该装置的处理量的减少或处理的高速化。

例如,上述信息还表示第1编码方法和第2编码方法中的在上述点群数据的编码中使用的编码方法。另外,保存在文件中的数据是将点群数据编码而得到的数据、以及第1编码方法和第2编码方法中的在点群数据的编码中使用的编码方法,既可以用单一的信息表示,也可以用不同的信息表示。

由此,在将由该三维数据保存装置生成的文件进行处理的装置中,能够参照文件的控制信息,较早地判定对保存在该文件中的数据使用的编解码器。因此,能够实现该装置的处理量的减少或处理的高速化。

例如,上述第1编码方法是对将点群数据的位置用n(n是2以上的整数)叉树表示的位置信息进行编码、使用上述位置信息将属性信息编码的方式(gpcc),上述第2编码方法是根据点群数据生成二维图像、使用影像编码方法将上述二维图像编码的方式(vpcc)。

例如,上述文件依据isobmff(isobasedmediafileformat:iso基础媒体文件格式)。

例如,三维数据保存装置具备处理器和存储器,处理器使用存储器进行上述的处理。

此外,如以上这样,三维数据取得装置(或三维数据逆复用装置、或三维数据解码装置)进行图35所示的处理。

三维数据取得装置(例如,包括第1逆复用部4720、第2逆复用部4740或第3逆复用部4760)取得保存有1个以上的单元(例如nal单元)的文件(例如isobmff的文件),该1个以上的单元保存有将点群数据编码而得到的编码流(s4791)。接着,三维数据取得装置从文件中取得1个以上的单元(s4792)。此外,文件的控制信息(例如ftyp)包含表示保存在文件中的数据是将有点群数据编码而得到的数据的信息(例如pcc1、pcc2或pcc3)。

例如,三维数据取得装置参照上述信息,判定保存在文件中的数据是否是将点群数据编码而得到的数据。此外,三维数据取得装置在判定为保存在文件中的数据是将点群数据编码而得到的数据的情况下,通过将1个以上的单元中包含的将点群数据编码而得到的数据解码,生成点群数据。或者,三维数据取得装置在判定为保存在文件中的数据是将点群数据编码而得到的数据的情况下,将表示1个以上的单元中包含的数据是将点群数据编码而得到的数据的信息向后级的处理部(例如,第1解码部4640、第2解码部4660或解码部4680)输出(通知)。

由此,该三维数据取得装置能够参照文件的控制信息,较早地判定保存在该文件中的数据是否是点群数据的编码数据。因此,能够实现该三维数据取得装置或后段的装置的处理量的减少或处理的高速化。

例如,上述信息还表示第1编码方法和第2编码方法中的在上述编码中使用的编码方法。另外,保存在文件中的数据是将点群数据编码而得到的数据、以及第1编码方法和第2编码方法中的在点群数据的编码中使用的编码方法,既可以由单一的信息表示,也可以由不同的信息表示。

由此,该三维数据取得装置能够参照文件的控制信息,较早地判定对保存在该文件中的数据使用的编解码器。因此,能够实现该三维数据取得装置或后段的装置的处理量的减少或处理的高速化。

例如,三维数据取得装置基于上述信息,从包含用第1编码方法编码的数据和用第2编码方法编码的数据的编码后的点群数据中取得用某一方的编码方法编码的数据。

例如,上述第1编码方法是对将点群数据的位置用n(n是2以上的整数)叉树表示的位置信息进行编码、使用上述位置信息将属性信息编码的方式(gpcc),上述第2编码方法是根据点群数据生成二维图像、将上述二维图像使用影像编码方法编码的方式(vpcc)。

例如,上述文件依据isobmff(isobasedmediafileformat)。

例如,三维数据取得装置具备处理器和存储器,处理器使用存储器进行上述的处理。

(实施方式4)

在本实施方式中,对由上述的第1编码部4630或第2编码部4650生成的编码数据(位置信息(geometry)、属性信息(attribute)、附加信息(metadata))的种类及附加信息(元数据)的生成方法、以及复用部中的复用处理进行说明。另外,附加信息(元数据)也有表述为参数集或控制信息的情况。

在本实施方式中,以在图4中说明的动态对象(随时间而变化的三维点群数据)为例进行说明,但在静态对象(任意的时刻的三维点群数据)的情况下也可以使用同样的方法。

图36是表示在有关本实施方式的三维数据编码装置中包含的编码部4801及复用部4802的构成的图。编码部4801例如对应于上述的第1编码部4630或第2编码部4650。复用部4802对应于上述的复用部4634或46456。

编码部4801将多个pcc(pointcloudcompression)帧的点群数据编码,生成多个位置信息、属性信息及附加信息的编码数据(multiplecompresseddata)。

复用部4802通过对多个数据种类(位置信息、属性信息及附加信息)的数据进行nal单元化,将数据变换为考虑了解码装置中的数据访问的数据构成。

图37是表示由编码部4801生成的编码数据的构成例的图。图中的箭头表示与编码数据的解码有关的依赖关系,箭头的根部依赖于箭头的尖部的数据。即,解码装置将箭头的尖部的数据解码,使用该解码的数据将箭头的根部的数据解码。换言之,依赖是指在依赖源的数据的处理(编码或解码等)中参照(使用)依赖目标的数据。

首先,对位置信息的编码数据的生成处理进行说明。编码部4801通过将各帧的位置信息编码,生成各帧的编码位置数据(compressedgeometrydata)。此外,将编码位置数据用g(i)表示。i表示帧号或帧的时刻等。

此外,编码部4801生成与各帧对应的位置参数集(gps(i))。位置参数集包含能够在编码位置数据的解码中使用的参数。此外,每个帧的编码位置数据依赖于对应的位置参数集。

此外,将由多个帧构成的编码位置数据定义为位置序列(geometrysequence)。编码部4801生成将在对于位置序列内的多个帧的解码处理中共同使用的参数进行保存的位置序列参数集(geometrysequenceps:也记作位置sps)。位置序列依赖于位置sps。

接着,对属性信息的编码数据的生成处理进行说明。编码部4801通过将各帧的属性信息编码,生成各帧的编码属性数据(compressedattributedata)。此外,将编码属性数据用a(i)表示。此外,在图37中,示出了存在属性x和属性y的例子,将属性x的编码属性数据用ax(i)表示,将属性y的编码属性数据用ay(i)表示。

此外,编码部4801生成与各帧对应的属性参数集(aps(i))。此外,将属性x的属性参数集用axps(i)表示,将属性y的属性参数集用ayps(i)表示。属性参数集包含能够在编码属性信息的解码中使用的参数。编码属性数据依赖于对应的属性参数集。

此外,将由多个帧构成的编码属性数据定义为属性序列(attributesequence)。编码部4801生成将在对于属性序列内的多个帧的解码处理中共同使用的参数进行保存的属性序列参数集(attributesequenceps:也记作属性sps)。属性序列依赖于属性sps。

此外,在第1编码方法中,编码属性数据依赖于编码位置数据。

此外,在图37中,示出了存在两种属性信息(属性x和属性y)的情况下的例子。在有两种属性信息的情况下,例如由两个编码部生成各自的数据及元数据。此外,例如按属性信息的每个种类来定义属性序列,按属性信息的每个种类来生成属性sps。

另外,在图37中,示出了位置信息是1种、属性信息是两种的例子,但并不限于此,属性信息也可以是1种,也可以是3种以上。在此情况下,也能够用同样的方法生成编码数据。此外,在不具有属性信息的点群数据的情况下,也可以没有属性信息。在此情况下,编码部4801也可以不生成与属性信息关联的参数集。

接着,对附加信息(元数据)的生成处理进行说明。编码部4801生成pcc流整体的参数集即pcc流ps(pccstreamps:也记作流ps)。编码部4801在流ps中保存能够在对1个或多个位置序列及1个或多个属性序列的解码处理中共同使用的参数。例如,在流ps中,包含表示点群数据的编解码器的识别信息及表示在编码中使用的算法的信息等。位置序列及属性序列依赖于流ps。

接着,对访问单元及gof进行说明。在本实施方式中,新导入访问单元(accessunit:au)及gof(groupofframe:帧组)的考虑方式。

访问单元是在解码时用来访问数据的基本单位,由1个以上的数据及1个以上的元数据构成。例如,访问单元由相同时刻的位置信息和1个或多个属性信息构成。gof是随机访问单位,由1个以上的访问单元构成。

编码部4801生成访问单元头(auheader)作为表示访问单元的开头的识别信息。编码部4801在访问单元头中保存与访问单元有关的参数。例如,访问单元头包含:在访问单元中包含的编码数据的构成或信息。此外,访问单元头包含对在访问单元中包含的数据共同使用的参数,例如与编码数据的解码有关的参数等。

另外,编码部4801也可以代替访问单元头而生成不包含与访问单元有关的参数的访问单元定界符。该访问单元定界符被用作表示访问单元的开头的识别信息。解码装置通过检测访问单元头或访问单元定界符,识别访问单元的开头。

接着,对gof开头的识别信息的生成进行说明。编码部4801生成gof头(gofheader)作为表示gof的开头的识别信息。编码部4801在gof头中保存与gof有关的参数。例如,gof头包含:在gof中包含的编码数据的构成或信息。此外,gof头包含对在gof中包含的数据共同使用的参数,例如与编码数据的解码有关的参数等。

另外,编码部4801也可以代替gof头而生成不包含与gof有关的参数的gof定界符。该gof定界符被用作表示gof的开头的识别信息。解码装置通过检测gof头或gof定界符,识别gof的开头。

在pcc编码数据中,例如定义为访问单元是pcc帧单位。解码装置基于访问单元开头的识别信息,对pcc帧进行访问。

此外,例如gof被定义为1个随机访问单位。解码装置基于gof开头的识别信息,对随机访问单位进行访问。例如,如果pcc帧相互没有依赖关系而能够单独解码,则也可以将pcc帧定义为随机访问单位。

另外,也可以对1个访问单元分配两个以上的pcc帧,也可以对1个gof分配多个随机访问单位。

此外,编码部4801也可以定义并生成上述以外的参数集或元数据。例如,编码部4801也可以生成保存有可能在解码时不一定使用的参数(可选的参数)的sei(supplementalenhancementinformation:补充增强信息)。

接着,说明编码数据的构成及编码数据向nal单元的保存方法。

例如,按编码数据的每个种类规定数据格式。图38是表示编码数据及nal单元的例子的图。

例如,如图38所示,编码数据包括头和有效载荷。另外,编码数据也可以包含编码数据、头或表示有效载荷的长度(数据量)的长度信息。此外,编码数据也可以不包含头。

头例如包含用来确定数据的识别信息。该识别信息例如表示数据种类或帧号。

头例如包含表示参照关系的识别信息。该识别信息例如是在数据间有依赖关系的情况下被保存到头中,用来从参照源对参照目标进行参照的信息。例如,在参照目标的头中,包含用来确定该数据的识别信息。在参照源的头中,包含表示参照目标的识别信息。

另外,在能够从其他信息识别或导出参照目标或参照源的情况下,也可以省略用来确定数据的识别信息或表示参照关系的识别信息。

复用部4802将编码数据保存在nal单元的有效载荷中。在nal单元头中,包含作为编码数据的识别信息的pcc_nal_unit_type。图39是表示pcc_nal_unit_type的语义例的图。

如图39所示,在pcc_codec_type是编解码器1(codec1:第1编码方法)的情况下,pcc_nal_unit_type的值0~10被分配给编解码器1中的编码位置数据(geometry)、编码属性x数据(attributex)、编码属性y数据(attributey)、位置ps(geom.ps)、属性xps(attrx.ps)、属性yps(attrx.ps)、位置sps(geometrysequenceps)、属性xsps(attributexsequenceps)、属性ysps(attributeysequenceps)、au头(auheader)、gof头(gofheader)。此外,值11以后被分配为编解码器1的备用。

在pcc_codec_type是编解码器2(codec2:第2编码方法)的情况下,pcc_nal_unit_type的值0~2被分配给编解码器的数据a(dataa)、元数据a(metadataa)、元数据b(metadatab)。此外,值3以后被分配为编解码器2的备用。

接着,对数据的送出顺序进行说明。以下,对nal单元的送出顺序的制约进行说明。

复用部4802将nal单元以gof或au单位一起送出。复用部4802将gof头配置在gof的开头,将au头配置在au的开头。

复用部4802也可以按每个au来配置序列参数集(sps),以使得在因丢包等而丢失了数据的情况下解码装置也能够从下个au起进行解码。

在编码数据中有与解码有关的依赖关系的情况下,解码装置在将参照目标的数据解码后,将参照源的数据解码。在解码装置中,为了使得能够不将数据重新排列而以接收到的顺序进行解码,复用部4802先送出参照目标的数据。

图40是表示nal单元的送出顺序的例子的图。图40表示位置信息优先、参数优先和数据合并这3个例子。

位置信息优先的送出顺序是将与位置信息有关的信息和与属性信息有关的信息的各信息一起送出的例子。在该送出顺序的情况下,与位置信息有关的信息的送出比与属性信息有关的信息的送出更早完成。

例如,通过使用该送出顺序,不解码属性信息的解码装置通过忽视属性信息的解码,有可能能够设置不进行处理的时间。此外,例如在想要早解码位置信息的解码装置的情况下,通过较早得到位置信息的编码数据,有可能能够更早地解码位置信息。

另外,在图40中,将属性xsps与属性ysps合并而记作属性sps,但也可以单独地配置属性xsps和属性ysps。

在参数集优先的送出顺序中,先送出参数集,后送出数据。

如以上这样,只要遵循nal单元送出顺序的制约,复用部4802将nal单元以怎样的顺序送出都可以。例如,也可以定义顺序识别信息,复用部4802具有以多个样式的顺序送出nal单元的功能。例如在流ps中保存nal单元的顺序识别信息。

三维数据解码装置也可以基于顺序识别信息进行解码。也可以从三维数据解码装置向三维数据编码装置指示希望的送出顺序,三维数据编码装置(复用部4802)按照被指示的送出顺序对送出顺序进行控制。

另外,只要是如数据合并的送出顺序那样遵循送出顺序的制约的范围,复用部4802也可以生成将多个功能归并的编码数据。例如,如图40所示,也可以将gof头与au头合并,也可以将axps与ayps合并。在此情况下,在pcc_nal_unit_type中,定义表示是具有多个功能的数据的识别符。

以下,对本实施方式的变形例进行说明。如帧级的ps、序列级的ps、pcc序列级的ps那样,ps有级别,如果将pcc序列级设为上位的级别,将帧级设为下位的级别,则参数的保存方法也可以使用下述的方法。

将默认的ps的值用较上位的ps表示。此外,在下位的ps的值与上位的ps的值不同的情况下,用下位的ps表示ps的值。或者,在上位不记载ps的值,在下位的ps中记载ps的值。或者,用下位的ps和上位的ps的某一方或双方来表示将ps的值用下位的ps表示、还是用上位的ps表示、还是用双方表示的信息。或者,也可以将下位的ps归并到上位的ps。或者,在下位的ps与上位的ps重复的情况下,复用部4802也可以将某一方的送出省略。

另外,编码部4801或复用部4802也可以将数据分割为切片或瓦片等,将分割后的数据送出。在分割后的数据中,包含用来识别所分割的数据的信息,在参数集中包含在分割数据的解码中使用的参数。在此情况下,在pcc_nal_unit_type中,定义了表示是与瓦片或切片有关的数据或保存参数的数据的识别符。

以下,对有关顺序识别信息的处理进行说明。图41是与nal单元的送出顺序有关的由三维数据编码装置(编码部4801及复用部4802)进行的处理的流程图。

首先,三维数据编码装置决定nal单元的送出顺序(位置信息优先或参数集优先)(s4801)。例如,三维数据编码装置基于来自用户或外部装置(例如三维数据解码装置)的指定而决定送出顺序。

在所决定的送出顺序是位置信息优先的情况下(在s4802中是位置信息优先),三维数据编码装置将流ps中包含的顺序识别信息设定为位置信息优先(s4803)。即,在此情况下,顺序识别信息表示以位置信息优先的顺序送出nal单元。并且,三维数据编码装置以位置信息优先的顺序送出nal单元(s4804)。

另一方面,在所决定的送出顺序是参数集优先的情况下(在s4802中是参数集优先),三维数据编码装置将流ps中包含的顺序识别信息设定为参数集优先(s4805)。即,在此情况下,顺序识别信息表示以参数集优先的顺序送出nal单元。并且,三维数据编码装置以参数集参数集优先的顺序送出nal单元(s4806)。

图42是与nal单元的送出顺序有关的由三维数据解码装置进行的处理的流程图。首先,三维数据解码装置将流ps中包含的顺序识别信息解析(s4811)。

在由顺序识别信息表示的送出顺序是位置信息优先的情况下(在s4812中是位置信息优先),三维数据解码装置设为nal单元的送出顺序是位置信息优先,来将nal单元解码(s4813)。

另一方面,在由顺序识别信息表示的送出顺序是参数集优先的情况下(在s4812中是参数集优先),三维数据解码装置设为nal单元的送出顺序是参数集优先,来将nal单元解码(s4814)。

例如,三维数据解码装置在不解码属性信息的情况下,在步骤s4813中,也可以不取得全部的nal单元而取得与位置信息有关的nal单元,从所取得的nal单元将位置信息解码。

接着,对与au及gof的生成有关的处理进行说明。图43是表示nal单元的复用中的与au及gof生成有关的由三维数据编码装置(复用部4802)进行的处理的流程图。

首先,三维数据编码装置判定编码数据的种类(s4821)。具体而言,三维数据编码装置判定处理对象的编码数据是au开头的数据、还是gof开头的数据、还是其以外的数据。

在编码数据是gof开头的数据的情况下(在s4822中是gof开头),三维数据编码装置将gof头及au头配置在属于gof的编码数据的开头而生成nal单元(s4823)。

在编码数据是au开头的数据的情况下(在s4822中是au开头),三维数据编码装置将au头配置在属于au的编码数据的开头而生成nal单元(s4824)。

在编码数据不是gof开头及au开头的任何一个的情况下(在s4822中是gof开头、au开头以外),三维数据编码装置在编码数据所属au的au头之后配置编码数据而生成nal单元(s4825)。

接着,对与向au及gof的访问有关的处理进行说明。图44是nal单元的逆复用中的与au及gof的访问有关的三维数据解码装置的处理的流程图。

首先,三维数据解码装置通过将nal单元中包含的nal_unit_type解析,判定nal单元中包含的编码数据的种类(s4831)。具体而言,三维数据解码装置判定nal单元中包含的编码数据是au开头的数据、还是gof开头的数据、还是其以外的数据。

在nal单元中包含的编码数据是gof开头的数据的情况下(s4832的gof开头),三维数据解码装置判断为nal单元是随机访问的开始位置,对该nal单元进行访问,开始解码处理(s4833)。

另一方面,在nal单元中包含的编码数据是au开头的数据的情况下(在s4832中是au开头),三维数据解码装置判断为nal单元是au开头,对nal单元中包含的数据进行访问,将该au解码(s4834)。

另一方面,在nal单元中包含的编码数据不是gof开头及au开头的任何一个的情况下(在s4832中是gof开头、au开头以外),三维数据解码装置不处理该nal单元。

如以上这样,三维数据编码装置进行图45所示的处理。三维数据编码装置将时间序列的三维数据(例如动态对象的点群数据)编码。三维数据包含各个时刻的位置信息和属性信息。

首先,三维数据编码装置将位置信息编码(s4841)。接着,三维数据编码装置将处理对象的属性信息参照与该处理对象的属性信息相同的时刻的位置信息来进行编码(s4842)。这里,如图37所示,相同时刻的位置信息和属性信息构成访问单元(au)。即,三维数据编码装置将处理对象的属性信息参照在与该处理对象的属性信息相同的访问单元中包含的位置信息来进行编码。

由此,三维数据编码装置能够使用访问单元使编码中的参照的控制容易化。因此,三维数据编码装置能够减少编码处理的处理量。

例如,三维数据编码装置生成包含被编码的位置信息(编码位置数据)、被编码的属性信息(编码属性数据)和表示处理对象的属性信息的参照目标的位置信息的信息的比特流。

例如,比特流包含:包含各时刻的位置信息的控制信息的位置参数集(位置ps)、和包含各时刻的属性信息的控制信息的属性参数集(属性ps)。

例如,比特流包含:包含多个时刻的位置信息中共同的控制信息的位置序列参数集(位置sps)、和包含多个时刻的属性信息中共同的控制信息的属性序列参数集(属性sps)。

例如,比特流包含:包含多个时刻的位置信息及多个时刻的属性信息中共同的控制信息的流参数集(流ps)。

例如,比特流包含:包含在访问单元内共同的控制信息的访问单元头(au头)。

例如,三维数据编码装置将由1个以上的访问单元构成的gof(帧组)编码,以使其能够独立地解码。即,gof是随机访问单位。

例如,比特流包含:包含在gof内共同的控制信息的gof头。

例如,三维数据编码装置具备处理器和存储器,处理器使用存储器进行上述的处理。

此外,如以上这样,三维数据解码装置进行图46所示的处理。三维数据解码装置将时间序列的三维数据(例如动态对象的点群数据)解码。三维数据包含各时刻的位置信息和属性信息。相同时刻的位置信息和属性信息构成访问单元(au)。

首先,三维数据解码装置从比特流将位置信息解码(s4851)。即,三维数据解码装置通过将比特流中包含的被编码的位置信息(编码位置数据)解码而生成位置信息。

接着,三维数据解码装置从比特流中,参照与处理对象的属性信息相同时刻的位置信息而将该处理对象的属性信息解码(s4852)。即,三维数据解码装置通过将比特流中包含的被编码的属性信息(编码属性数据)解码而生成属性信息。此时,三维数据解码装置参照在与属性信息相同的访问单元中包含的已解码的位置信息。

由此,三维数据解码装置能够使用访问单元使解码中的参照的控制容易化。因此,该三维数据解码方法能够减少解码处理的处理量。

例如,三维数据解码装置从比特流取得表示处理对象的属性信息的参照目标的位置信息的信息,参照由所取得的信息表示的参照目标的位置信息,将处理对象的属性信息解码。

例如,比特流包含:包含各时刻的位置信息的控制信息的位置参数集(位置ps)、和包含各时刻的属性信息的控制信息的属性参数集(属性ps)。即,三维数据解码装置使用处理对象时刻的位置参数集中包含的控制信息,将处理对象时刻的位置信息解码,使用处理对象时刻的属性参数集中包含的控制信息,将处理对象时刻的属性信息解码。

例如,比特流包含:包含多个时刻的位置信息中共同的控制信息的位置序列参数集(位置sps)、和包含多个时刻的属性信息中共同的控制信息的属性序列参数集(属性sps)。即,三维数据解码装置使用位置序列参数集中包含的控制信息,将多个时刻的位置信息解码,使用属性序列参数集中包含的控制信息,将多个时刻的属性信息解码。

例如,比特流包含:包含多个时刻的位置信息及多个时刻的属性信息中共同的控制信息的流参数集(流ps)。即,三维数据解码装置使用流参数集中包含的控制信息,将多个时刻的位置信息及多个时刻的属性信息解码。

例如,比特流包含:包含在访问单元内共同的控制信息的访问单元头(au头)。即,三维数据解码装置使用访问单元头中包含的控制信息,将访问单元中包含的位置信息及属性信息解码。

例如,三维数据解码装置将由1个以上的访问单元构成的gof(帧组)独立地解码。即,gof是随机访问单位。

例如,比特流包含:包含在gof内共同的控制信息的gof头。即,三维数据解码装置使用gof头中包含的控制信息,将gof中包含的位置信息及属性信息解码。

例如,三维数据解码装置具备处理器和存储器,处理器使用存储器进行上述的处理。

(实施方式5)

以下,对点群数据的分割方法进行说明。图47是表示切片及瓦片分割的例子的图。

首先,对切片分割的方法进行说明。三维数据编码装置将三维点群数据以切片单位分割为任意的点群。三维数据编码装置在切片分割中不分割构成点的位置信息和属性信息,而将位置信息和属性信息一齐分割。即,三维数据编码装置以任意点处的位置信息和属性信息属于相同的切片的方式进行切片分割。另外,只要遵循这些,则分割数量及分割方法是怎样的方法都可以。此外,分割的最小单位是点。例如,位置信息和属性信息的分割数量相同。例如,与切片分割后的位置信息对应的三维点和与属性信息对应的三维点包含于相同的切片中。

此外,三维数据编码装置在切片分割时生成作为与分割数量及分割方法有关的附加信息的切片附加信息。切片附加信息在位置信息和属性信息中是相同的。例如,切片附加信息包含表示分割后的包围盒(boundingbox)的基准坐标位置、大小或边的长度的信息。此外,切片附加信息包含表示分割数量及分割类型等的信息。

接着,对瓦片分割的方法进行说明。三维数据编码装置将被切片分割后的数据分割为切片位置信息(g切片)和切片属性信息(a切片),将切片位置信息和切片属性信息分别分割为瓦片单位。

另外,在图47中示出了以8叉树结构分割的例子,但分割数量及分割方法是怎样的方法都可以。

此外,三维数据编码装置将位置信息和属性信息既可以用不同的分割方法分割,也可以用相同的分割方法分割。此外,三维数据编码装置将多个切片既可以用不同的分割方法分割为瓦片,也可以用相同的分割方法分割为瓦片。

此外,三维数据编码装置在瓦片分割时生成与分割数量及分割方法有关的瓦片附加信息。瓦片附加信息(位置瓦片附加信息及属性瓦片附加信息)在位置信息和属性信息中独立。例如,瓦片附加信息包含表示分割后的包围盒的基准坐标位置、大小或边的长度的信息。此外,瓦片附加信息包含表示分割数量及分割类型等的信息。

接着,说明将点群数据分割为切片或瓦片的方法的例子。作为切片或瓦片分割的方法,三维数据编码装置既可以使用预先设定的方法,也可以根据点群数据而自适应地切换所使用的方法。

在切片分割时,三维数据编码装置对于位置信息和属性信息一齐将三维空间分割。例如,三维数据编码装置判定对象的形状,根据对象的形状将三维空间分割为切片。例如,三维数据编码装置提取树或建筑物等对象,以对象单位进行分割。例如,三维数据编码装置进行切片分割,以使1个或多个对象的整体包含于1个切片中。或者,三维数据编码装置将一个对象分割为多个切片。

在此情况下,编码装置例如也可以按每个切片改变编码方法。例如,编码装置也可以对特定的对象或对象的特定的一部分使用高品质的压缩方法。在此情况下,编码装置也可以将表示每个切片的编码方法的信息向附加信息(元数据)保存。

此外,三维数据编码装置也可以基于地图信息或位置信息进行切片分割,以使各切片对应于预先设定的坐标空间。

在瓦片分割时,三维数据编码装置将位置信息和属性信息独立地分割。例如,三维数据编码装置根据数据量或处理量将切片分割为瓦片。例如,三维数据编码装置判定切片的数据量(例如切片中包含的三维点的数量)是否比预先设定的阈值多。三维数据编码装置在切片的数据量比阈值多的情况下将切片分割为瓦片。三维数据编码装置在切片的数据量比阈值少时不将切片分割为瓦片。

例如,三维数据编码装置将切片分割为瓦片,以使解码装置中的处理量或处理时间成为一定的范围(预先设定的值以下)。由此,解码装置的每个瓦片的处理量成为一定,解码装置中的分散处理变得容易。

此外,三维数据编码装置在位置信息和属性信息中处理量不同的情况下,例如在位置信息的处理量比属性信息的处理量多的情况下,使位置信息的分割数量比属性信息的分割数量多。

此外,例如根据内容,在解码装置也可以将位置信息较早地解码并显示、将属性信息然后慢慢解码而显示的情况下,三维数据编码装置也可以使位置信息的分割数量比属性信息的分割数量多。由此,解码装置能够使位置信息的并行数量变多,所以能够使位置信息的处理比属性信息的处理高速化。

另外,解码装置并不需要一定将被切片化或瓦片化的数据并行处理,也可以根据解码处理部的数量或能力来判定是否将它们并行处理。

通过用以上那样的方法分割,能够实现与内容或对象对应的自适应的编码。此外,能够实现解码处理中的并行处理。由此,点群编码系统或点群解码系统的灵活性提高。

图48是表示切片及瓦片的分割的样式的例子的图。图中的du是数据单位(dataunit),表示瓦片或切片的数据。此外,各du包括切片索引(sliceindex)和瓦片索引(tileindex)。图中的du的右上的数值表示切片索引,du的左下的数值表示瓦片索引。

在样式1中,在切片分割中,在g切片和a切片中分割数量及分割方法相同。在瓦片分割中,对于g切片的分割数量及分割方法与对于a切片的分割数量及分割方法不同。此外,在多个g切片间使用相同的分割数量及分割方法。在多个a切片间使用相同的分割数量及分割方法。

在样式2中,在切片分割中,在g切片和a切片中分割数量及分割方法相同。在瓦片分割中,对于g切片的分割数量及分割方法与对于a切片的分割数量及分割方法不同。此外,在多个g切片间,分割数量及分割方法不同。在多个a切片间,分割数量及分割方法不同。

(实施方式6)

以下,对在瓦片分割后进行切片分割的例子进行说明。在车辆的自动驾驶等的自主型的应用中,不是需要全部区域的点群数据,而是需要车辆的周边区域或车辆的行进方向的地域的点群数据。这里,为了将原来的点群数据有选择地解码而可以使用瓦片及切片。通过将三维点群数据分割为瓦片、再分割为切片,能够实现编码效率的提高或并行处理。在将数据分割时,生成附加信息(元数据),将所生成的附加信息向复用部发送。

图49是表示在有关本实施方式的三维数据编码装置中包含的第1编码部5010的构成的框图。第1编码部5010通过将点群数据用第1编码方法(gpcc(geometrybasedpcc))编码而生成编码数据(编码流)。该第1编码部5010包括分割部5011、多个位置信息编码部5012、多个属性信息编码部5013、附加信息编码部5014和复用部5015。

分割部5011通过将点群数据分割,生成多个分割数据。具体而言,分割部5011通过将点群数据的空间分割为多个子空间,生成多个分割数据。这里,子空间是指瓦片及切片的一方或瓦片及切片的组合。更具体地讲,点群数据包括位置信息、属性信息及附加信息。分割部5011将位置信息分割为多个分割位置信息,将属性信息分割为多个分割属性信息。此外,分割部5011生成关于分割的附加信息。

例如,分割部5011首先将点群分割为瓦片。接着,分割部5011将得到的瓦片再分割为切片。

多个位置信息编码部5012通过将多个分割位置信息编码,生成多个编码位置信息。例如,多个位置信息编码部5012将多个分割位置信息并行处理。

多个属性信息编码部5013通过将多个分割属性信息编码而生成多个编码属性信息。例如,多个属性信息编码部5013将多个分割属性信息并行处理。

附加信息编码部5014通过将包含在点群数据中的附加信息和由分割部5011在分割时生成的关于数据分割的附加信息编码,生成编码附加信息。

复用部5015通过将多个编码位置信息、多个编码属性信息及编码附加信息复用,生成编码数据(编码流),送出所生成的编码数据。此外,编码附加信息在解码时被使用。

另外,在图49中表示了位置信息编码部5012及属性信息编码部5013的数量分别为两个的例子,但位置信息编码部5012及属性信息编码部5013的数量分别也可以是1个,也可以是3个以上。此外,关于多个分割数据,既可以如cpu内的多个核那样在同一个芯片内并行处理,也可以由多个芯片的核并行处理,也可以由多个芯片的多个核并行处理。

接着,对解码处理进行说明。图50是表示第1解码部5020的构成的框图。第1解码部5020通过对通过将点群数据用第1编码方法(gpcc)编码而生成的编码数据(编码流)进行解码,将点群数据复原。该第1解码部5020包括逆复用部5021、多个位置信息解码部5022、多个属性信息解码部5023、附加信息解码部5024和结合部5025。

逆复用部5021通过将编码数据(编码流)逆复用,生成多个编码位置信息、多个编码属性信息及编码附加信息。

多个位置信息解码部5022通过将多个编码位置信息解码,生成多个分割位置信息。例如,多个位置信息解码部5022将多个编码位置信息并行处理。

多个属性信息解码部5023通过将多个编码属性信息解码,生成多个分割属性信息。例如,多个属性信息解码部5023将多个编码属性信息并行处理。

多个附加信息解码部5024通过将编码附加信息解码,生成附加信息。

结合部5025通过使用附加信息将多个分割位置信息结合,生成位置信息。结合部5025通过使用附加信息将多个分割属性信息结合,生成属性信息。例如,结合部5025首先通过使用切片附加信息将对于切片的解码后的点群数据结合,生成与瓦片对应的点群数据。接着,结合部5025通过使用瓦片附加信息将与瓦片对应的点群数据结合,将原来的点群数据复原。

另外,在图49中表示了位置信息解码部5022及属性信息解码部5023的数量分别为两个的例子,但位置信息解码部5022及属性信息解码部5023的数量分别也可以是1个,也可以是3个以上。此外,关于多个分割数据,既可以如cpu内的多个核那样在同一个芯片内并行处理,也可以由多个芯片的核并行处理,也可以由多个芯片的多个核并行处理。

接着,对点群数据的分割方法进行说明。在车辆的自动驾驶等的自主型的应用中,不是需要全部区域的点群数据,而是需要车辆的周边区域或车辆的行进方向的地域的点群数据。

图51是表示瓦片的形状的例子的图。如图51所示,作为瓦片的形状,也可以使用圆、矩形或椭圆等的各种各样的形状。

图52是表示瓦片及切片的例子的图。切片的构成也可以在瓦片间不同。例如,也可以将瓦片或切片的构成基于数据量进行优化。或者,也可以将瓦片或切片的构成基于解码速度进行优化。

此外,也可以基于位置信息进行瓦片分割。在此情况下,将属性信息与对应的位置信息同样地分割。

此外,在瓦片分割后的切片分割中,也可以将位置信息和属性信息通过不同的方法分割为切片。例如,各瓦片的切片分割的方法也可以根据来自应用的请求来选择。也可以基于来自应用的请求而使用不同的切片分割的方法或瓦片分割的方法。

例如,分割部5011在将三维点群数据从上观察的二维形状中基于地图信息等的位置信息将点群数据分割为1个以上的瓦片。然后,分割部5011将各个瓦片分割为1个以上的切片。

另外,分割部5011也可以将位置信息(geometry)和属性信息(attribute)用相同的方法分割为切片。

另外,位置信息及属性信息分别既可以是1种,也可以是两种以上。此外,在不具有属性信息的点群数据的情况下,也可以没有属性信息。

图53是分割部5011的框图。分割部5011包括瓦片分割部5031(tiledivider)、位置信息切片分割部5032(geometryslicedivider)和属性信息切片分割部5033(attributeslicedivider)。

瓦片分割部5031通过将位置信息(position(geometry))分割为瓦片,生成多个瓦片位置信息。此外,瓦片分割部5031通过将属性信息(attribute)分割为瓦片,生成多个瓦片属性信息。此外,瓦片分割部5031输出包含有关瓦片分割的信息、及在瓦片分割中生成的信息的瓦片附加信息(tilemetadata)。

位置信息切片分割部5032通过将多个瓦片位置信息分割为切片,生成多个分割位置信息(多个切片位置信息)。此外,位置信息切片分割部5032输出包含有关位置信息的切片分割的信息、及在位置信息的切片分割中生成的信息的位置切片附加信息(geometryslicemetadata)。

属性信息切片分割部5033通过将多个瓦片属性信息分割为切片,生成多个分割属性信息(多个切片属性信息)。此外,属性信息切片分割部5033输出包含有关属性信息的切片分割的信息、及在属性信息的切片分割中生成的信息的属性切片附加信息(attributeslicemetadata)。

接着,瓦片的形状的例对进行说明。三维地图(3d地图)的整体被分割为多个瓦片。多个瓦片的数据被有选择地向三维数据解码装置发送。或者,也可以在多个瓦片的数据中从重要度较高的数据依次向三维数据解码装置发送。根据状况,瓦片的形状也可以从多个形状中选择。

图54是表示将由lidar得到的点群数据俯视的地图的一例的图。图54所示的例子是高速道路的点群数据,包括立体交叉部分(flyover)。

图55是表示将图54所示的点群数据分割为正方形的瓦片的例子的图。这样的正方形的分割能够在地图服务器中容易地进行。此外,相对于通常的道路,瓦片的高度被设定得较低。在立体交叉部分,瓦片的高度被设定为比通常的道路高,以使瓦片包含立体交叉部分。

图56是表示将图54所示的点群数据分割为圆形的瓦片的例子的图。在此情况下,有相邻的瓦片在俯视中重复的情况。三维数据编码装置在车辆需要周边区域的点群数据的情况下,将车辆周边的圆柱(俯视中的圆)区域的点群数据发送给车辆。

此外,与图55的例子同样,对于通常的道路,瓦片的高度被设定得较低。在立体交叉部分,瓦片的高度被设定为比通常的道路高,以使瓦片包含立体交叉部分。

三维数据编码装置也可以将瓦片的高度例如根据道路或建筑物的形状或高度改变。此外,三维数据编码装置也可以根据位置信息或区域信息来改变瓦片的高度。此外,三维数据编码装置也可以将瓦片的高度按每个瓦片改变。或者,三维数据编码装置也可以按包括多个瓦片的每个区间改变瓦片的高度。即,三维数据编码装置也可以将区间内的多个瓦片的高度设为相同。此外,不同高度的瓦片也可以在俯视中重复。

图57是表示使用各种各样的形状、大小或高度的瓦片的情况下的瓦片分割的例子的图。瓦片的形状是怎样的形状都可以,是怎样的大小都可以,也可以是它们的组合。

例如,不仅是上述那样的不重复而以正方形的瓦片进行分割的例子、以及以重复的圆形的瓦片进行分割的例子,三维数据编码装置也可以以重复的正方形的瓦片进行分割。此外,瓦片的形状也可以不是正方形及圆形,也可以使用具有3个以上的顶点的多边形,也可以使用不具有顶点的形状。

此外,瓦片的形状也可以是两种以上,也可以是不同形状的瓦片重复。此外,也可以是,瓦片的形状的种类是1个以上,在分割的相同形状中,将大小不同的形状组合,它们也可以重复。

例如,在道路等的没有对象的区域中,使用比存在对象的区域大的瓦片。此外,三维数据编码装置也可以根据对象而适应性地改变瓦片的形状或大小。

此外,例如三维数据编码装置由于需要读入作为汽车(车辆)的行进方向的汽车的前方远方的瓦片的可能性较高,所以也可以将行进方向的瓦片设定为较大的尺寸,由于汽车向汽车的侧方前进的可能性较低,所以将侧方的瓦片设定为比行进方向的瓦片小的尺寸。

图58是表示被保存在服务器中的瓦片的数据的例子的图。例如,预先将点群数据进行瓦片分割而编码,将得到的编码数据保存到服务器中。用户在需要时从服务器取得希望的瓦片的数据。或者,服务器(三维数据编码装置)也可以根据用户的指示进行瓦片分割及编码,以包含用户希望的数据。

例如,在移动体(车辆)的移动速度较快的情况下,可以想到需要更大范围的点群数据。因此,服务器也可以基于预先推测的车的速度(例如,能够根据道路的法定速度、道路的宽度及形状来推测的车的速度或统计上的速度等),决定瓦片的形状及大小,进行瓦片分割。或者,如图58所示,服务器也可以预先将多个形状或大小的瓦片编码,将得到的数据保存。移动体也可以根据该移动体的行进方向及速度,取得适当的形状及大小的瓦片的数据。

图59是表示关于瓦片分割的系统的例子的图。如图59所示,瓦片的形状及区域也可以基于作为传送点群数据的通信手段的天线(基站)的位置或天线所支持的通信区域来决定。或者,在由相机等的传感器生成点群数据的情况下,瓦片的形状及区域也可以基于传感器的位置或传感器的对象范围(检测范围)来决定。

既可以对1个天线或传感器分配1个瓦片,也可以对多个天线或传感器分配1个瓦片。也可以对1个天线或传感器分配多个瓦片。天线或传感器既可以被固定,也可以能够移动。

例如,被分割为瓦片的编码数据也可以由与对应于被分配给瓦片的区域的天线或传感器连接的服务器管理。服务器也可以管理本区域的编码数据和相邻的区域的瓦片信息。也可以在管理与各个瓦片对应的多个服务器的集中管理服务器(云)中管理多个瓦片的多个编码数据。或者,也可以不设置与瓦片对应的服务器,天线或传感器与集中管理服务器直接连接。

另外,天线或传感器的对象范围有可能根据电波的功率、设备的差异及设置条件而不同,瓦片的形状及大小也可以也与这些匹配而变化。基于天线或传感器的对象范围,也可以不是分配瓦片而是分配切片,也可以分配pcc帧。

接着,对将瓦片分割为切片的方法进行说明。通过将类似的对象分配给相同的切片,能够提高编码效率。

例如,三维数据编码装置使用点群数据的特征来识别对象(道路、楼宇、树等),通过按每个对象将点群聚类(clustering)来进行切片分割。

或者,三维数据编码装置也可以将具有相同属性的对象进行分组,通过对各组分配切片来进行切片分割。这里,属性例如是关于运动的信息,通过将对象分类为步行者及车等的动态信息、事故及拥堵等的准动态信息、交通限制及道路工事等的准静态信息、和路面及构造物等的静态信息,来进行分组。

另外,在多个切片中,数据也可以重复。例如,在按多个对象组的每个对象组进行切片分割的情况下,任意的对象既可以属于1个对象组,也可以属于2以上的多个对象组。

图60是表示该切片分割的例子的图。例如,在图60所示的例子中,瓦片是长方体。另外,瓦片也可以是圆柱状,也可以是其他形状。

瓦片中包含的点群例如被分组为道路、建筑物、树等的对象组。并且,以各对象组包含于一个切片中的方式进行切片化。并且,各切片被单独地编码。

接着,对分割数据的编码方法进行说明。三维数据编码装置(第1编码部5010)将被分割后的数据分别编码。三维数据编码装置在将属性信息编码时,生成表示基于哪个构成信息(位置信息、附加信息或其他的属性信息)进行了编码的依赖关系信息作为附加信息。即,依赖关系信息例如表示参照目标(依赖目标)的构成信息。在此情况下,三维数据编码装置基于与属性信息的分割形状对应的构成信息来生成依赖关系信息。另外,三维数据编码装置也可以基于与多个分割形状对应的构成信息来生成依赖关系信息。

也可以由三维数据编码装置生成依赖关系信息,将所生成的依赖关系信息向三维数据解码装置送出。或者,也可以是三维数据解码装置生成依赖关系信息,三维数据编码装置不送出依赖关系信息。此外,也可以是三维数据编码装置预先设定要使用的依赖关系,三维数据编码装置不送出依赖关系信息。

图61是表示各数据的依赖关系的一例的图。图中的箭头的尖部表示依赖目标,箭头的根部表示依赖源。三维数据解码装置以从依赖目标到依赖源的顺序将数据解码。此外,图中由实线表示的数据是实际被送出的数据,由点线表示的数据是没有被送出的数据。

此外,在该图中,g表示位置信息,a表示属性信息。gt1表示瓦片号码1的位置信息,gt2表示瓦片号码2的位置信息。gt1s1表示瓦片号码1且切片号码1的位置信息,gt1s2表示瓦片号码1且切片号码2的位置信息,gt2s1表示瓦片号码2且切片号码1的位置信息,gt2s2表示瓦片号码2且切片号码2的位置信息。同样,at1表示瓦片号码1的属性信息,at2表示瓦片号码2的属性信息。at1s1表示瓦片号码1且切片号码1的属性信息,at1s2表示瓦片号码1且切片号码2的属性信息,at2s1表示瓦片号码2且切片号码1的属性信息,at2s2表示瓦片号码2且切片号码2的属性信息。

mtile表示瓦片附加信息,mgslice表示位置切片附加信息,maslice表示属性切片附加信息。dt1s1表示属性信息at1s1的依赖关系信息,dt2s1表示属性信息at2s1的依赖关系信息。

另外,根据应用等,也可以使用不同的瓦片分割或切片分割的构造。

此外,三维数据编码装置也可以将数据以解码顺序重新排列,以使得在三维数据解码装置中不需要将数据重新排列。另外,也可以在三维数据解码装置中将数据重新排列,也可以在三维数据编码装置和三维数据解码装置双方中将数据重新排列。

图62是表示数据的解码顺序的例子的图。在图62的例子中,从左方的数据起依次进行解码。三维数据解码装置在处于依赖关系的数据间,从依赖目标的数据起先进行解码。例如,三维数据编码装置将数据预先排序成该顺序而送出。另外,只要是依赖目标的数据为先的顺序,是怎样的顺序都可以。此外,三维数据编码装置也可以将附加信息及依赖关系信息比数据先送出。

此外,三维数据解码装置也可以基于来自应用的请求及从nal单元头得到的信息,有选择地将瓦片解码。图63是表示瓦片的编码数据的例子的图。例如,瓦片的解码顺序是任意的。即,在瓦片间也可以没有依赖关系。

接着,说明在第1解码部5020中包含的结合部5025的构成。图64是表示结合部5025的构成的框图。结合部5025包括位置信息切片结合部5041(geometryslicecombiner)、属性信息切片结合部5042(attributeslicecombiner)和瓦片结合部(tilecombiner)。

位置信息切片结合部5041通过使用位置切片附加信息将多个分割位置信息结合而生成多个瓦片位置信息。属性信息切片结合部5042通过使用属性切片附加信息将多个分割属性信息结合,生成多个瓦片属性信息。

瓦片结合部5043通过使用瓦片附加信息将多个瓦片位置信息结合,生成位置信息。此外,瓦片结合部5043通过使用瓦片附加信息将多个瓦片属性信息结合,生成属性信息。

另外,被分割的切片或瓦片的数量是1个以上。即,也可以不进行切片或瓦片的分割。

接着,说明被切片分割或瓦片分割后的编码数据的构成、以及编码数据向nal单元的保存方法(复用方法)。图65是表示编码数据的构成及编码数据向nal单元的保存方法的图。

编码数据(分割位置信息及分割属性信息)被保存至nal单元的有效载荷。

编码数据包括头和有效载荷。头包含用来确定有效载荷中包含的数据的识别信息。该识别信息例如包括切片分割或瓦片分割的类别(slice_type,tile_type)、用来确定切片或瓦片的索引信息(slice_idx,tile_idx)、数据(切片或瓦片)的位置信息或数据的地址(address)等。用来确定切片的索引信息也记作切片索引(sliceindex)。用来确定瓦片的索引信息也记作瓦片索引(tileindex)。此外,分割的类别例如是上述那样的基于对象形状的方法、基于地图信息或位置信息的方法、或者基于数据量或处理量的方法等。

此外,编码数据的头包含表示依赖关系的识别信息。即,该头在数据间有依赖关系的情况下包含用来从依赖源参照依赖目标的识别信息。例如,在依赖目标的数据的头中,包含用来确定该数据的识别信息。在依赖源的数据的头中,包含表示依赖目标的识别信息。另外,在能够根据其他信息识别或导出用来确定数据的识别信息、有关切片分割或瓦片分割的附加信息及表示依赖关系的识别信息的情况下,也可以将这些信息省略。

接着,对有关本实施方式的点群数据的编码处理及解码处理的流程进行说明。图66是有关本实施方式的点群数据的编码处理的流程图。

首先,三维数据编码装置决定要使用的分割方法(s5011)。该分割方法包括是否进行瓦片分割、是否进行切片分割。此外,分割方法也可以包含进行瓦片分割或切片分割的情况下的分割数量及分割的类别等。分割的类别是指上述那样的基于对象形状的方法、基于地图信息或位置信息的方法、或基于数据量或处理量的方法等。另外,分割方法也可以被预先设定。

在进行瓦片分割的情况下(s5012中是),三维数据编码装置通过将位置信息和属性信息一齐分割,生成多个瓦片位置信息及多个瓦片属性信息(s5013)。此外,三维数据编码装置生成有关瓦片分割的瓦片附加信息。另外,三维数据编码装置也可以将位置信息和属性信息独立地分割。

在进行切片分割的情况下(s5014中是),三维数据编码装置通过将多个瓦片位置信息及多个瓦片属性信息(或位置信息及属性信息)独立地分割,生成多个分割位置信息及多个分割属性信息(s5015)。此外,三维数据编码装置生成有关切片分割的位置切片附加信息及属性切片附加信息。另外,三维数据编码装置也可以将瓦片位置信息和瓦片属性信息一齐分割。

接着,三维数据编码装置通过将多个分割位置信息及多个分割属性信息的各自进行编码,生成多个编码位置信息及多个编码属性信息(s5016)。此外,三维数据编码装置生成依赖关系信息。

接着,三维数据编码装置通过将多个编码位置信息、多个编码属性信息及附加信息进行nal单元化(复用),生成编码数据(编码流)(s5017)。此外,三维数据编码装置送出所生成的编码数据。

图67是有关本实施方式的点群数据的解码处理的流程图。首先,三维数据解码装置通过将编码数据(编码流)中包含的有关分割方法的附加信息(瓦片附加信息、位置切片附加信息及属性切片附加信息)解析,判定分割方法(s5021)。该分割方法包括是否进行瓦片分割、是否进行切片分割。此外,分割方法也可以包括进行瓦片分割或切片分割的情况下的分割数量及分割的类别等。

接着,三维数据解码装置通过将编码数据中包含的多个编码位置信息及多个编码属性信息使用编码数据中包含的依赖关系信息解码,生成分割位置信息及分割属性信息(s5022)。

在由附加信息表示进行了切片分割的情况下(s5023中是),三维数据解码装置通过基于位置切片附加信息及属性切片附加信息将多个分割位置信息和多个分割属性信息用各自的方法结合,生成多个瓦片位置信息及多个瓦片属性信息(s5024)。另外,三维数据解码装置也可以将多个分割位置信息和多个分割属性信息通过相同的方法结合。

在由附加信息表示进行了瓦片分割的情况下(s5025中是),三维数据解码装置通过基于瓦片附加信息将多个瓦片位置信息及多个瓦片属性信息(多个分割位置信息及多个分割属性信息)用相同的方法结合,生成位置信息及属性信息(s5026)。另外,三维数据解码装置也可以将多个瓦片位置信息和多个瓦片属性信息分别用不同的方法结合。

接着,对瓦片附加信息进行说明。三维数据编码装置生成作为关于瓦片的分割方法的元数据的瓦片附加信息,将所生成的瓦片附加信息向三维数据解码装置发送。

图68是表示瓦片附加信息(tilemetadata)的句法例的图。如图68所示,例如瓦片附加信息包括分割方法信息(type_of_divide)、形状信息(topview_shape)、重复标志(tile_overlap_flag)、重复信息(type_of_overlap)、高度信息(tile_height)、瓦片数(tile_number)和瓦片位置信息(global_position,relative_position)。

分割方法信息(type_of_divide)表示瓦片的分割方法。例如,分割方法信息表示瓦片的分割方法是基于地图的信息的分割、即基于俯视的分割(top_view),还是其以外(other)。

形状信息(topview_shape)例如在瓦片的分割方法是基于俯视的分割的情况下包含在瓦片附加信息中。形状信息表示将瓦片俯视的形状。例如,该形状包括正方形及圆。另外,该形状既可以包括椭圆、矩形或四边形以外的多边形,也可以包括其以外的形状。另外,形状信息并不限于将瓦片俯视的形状,也可以表示瓦片的三维形状(例如立方体及圆柱等)。

重复标志(tile_overlap_flag)表示瓦片是否重复。例如,在瓦片的分割方法是基于俯视的分割的情况下,重复标志包含在瓦片附加信息中。在此情况下,重复标志表示在俯视中瓦片是否重复。另外,重复标志也可以表示在三维空间中瓦片是否重复。

重复信息(type_of_overlap)例如在瓦片重复的情况下包含在瓦片附加信息中。重复信息表示瓦片的重复方式等。例如,重复信息表示重复的区域的大小等。

高度信息(tile_height)表示瓦片的高度。另外,高度信息也可以包含表示瓦片的形状的信息。例如,在瓦片的俯视的形状是矩形的情况下,该信息也可以表示该矩形的边的长度(纵向的长度及横向的长度)。此外,在瓦片的俯视的形状是圆的情况下,该信息也可以表示该圆的直径或半径。

此外,高度信息既可以表示各瓦片的高度,也可以表示多个瓦片共同的高度。此外,也可以预先设定道路及立体交叉部分等的多个高度类型,由高度信息表示各高度类型的高度和各瓦片的高度类型。或者,也可以将各高度类型的高度预先定义,由高度信息表示各瓦片的高度类型。即,各高度类型的高度也可以不由高度信息表示。

瓦片数(tile_number)表示瓦片的数量。另外,瓦片附加信息也可以包含表示瓦片的间隔的信息。

瓦片位置信息(global_position,relative_position)是用来确定各瓦片的位置的信息。例如,瓦片位置信息表示各瓦片的绝对坐标或相对坐标。

另外,上述的信息的一部分或全部既可以按每个瓦片设置,也可以按每多个瓦片(例如按每个帧或按每多个帧)设置。

三维数据编码装置也可以将瓦片附加信息包含在sei(supplementalenhancementinformation)中而送出。或者,三维数据编码装置也可以将瓦片附加信息保存到既有的参数集(pps、gps或aps等)中并送出。

例如,在瓦片附加信息按每个帧而变化的情况下,也可以在每个帧的参数集(gps或aps等)中保存瓦片附加信息。在序列内瓦片附加信息不变化的情况下,也可以在每个序列的参数集(位置sps或属性sps)中保存瓦片附加信息。进而,在位置信息和属性信息中使用相同的瓦片分割信息的情况下,也可以在pcc流的参数集(流ps)中保存瓦片附加信息。

此外,瓦片附加信息既可以保存到上述中的任一个参数集中,也可以保存到多个参数集中。此外,瓦片附加信息也可以保存到编码数据的头中。此外,瓦片附加信息也可以保存到nal单元的头中。

此外,瓦片附加信息的全部或一部分也可以保存到分割位置信息的头及分割属性信息的头的一方中,而不保存到另一方中。例如,在位置信息和属性信息中使用相同的瓦片附加信息的情况下,也可以在位置信息和属性信息的一方的头中包含瓦片附加信息。例如,在属性信息依赖于位置信息的情况下,位置信息先被处理。因此,也可以在位置信息的头中包含这些瓦片附加信息,在属性信息的头中不包含瓦片附加信息。在此情况下,三维数据解码装置例如判断为依赖源的属性信息属于与依赖目标的位置信息的瓦片相同的瓦片。

三维数据解码装置基于瓦片附加信息,重构被瓦片分割的点群数据。三维数据解码装置在有重复的点群数据的情况下,确定重复的多个点群数据,选择某一个或将多个点群数据合并。

此外,三维数据解码装置也可以使用瓦片附加信息进行解码。例如,三维数据解码装置也可以在多个瓦片重复的情况下按每个瓦片进行解码,进行使用被解码的多个数据的处理(例如平滑化或滤波等),生成点群数据。由此,有可能能够进行精度更高的解码。

图69是表示包括三维数据编码装置及三维数据解码装置的系统的构成例的图。瓦片分割部5051将包含位置信息及属性信息的点群数据分割为第1瓦片和第2瓦片。此外,瓦片分割部5051将有关瓦片分割的瓦片附加信息向解码部5053及瓦片结合部5054发送。

编码部5052通过将第1瓦片及第2瓦片编码,生成编码数据。

解码部5053通过将由编码部5052生成的编码数据解码,将第1瓦片及第2瓦片复原。瓦片结合部5054通过使用瓦片附加信息将第1瓦片及第2瓦片结合,将点群数据(位置信息及属性信息)复原。

接着,对切片附加信息进行说明。三维数据编码装置生成作为关于切片的分割方法的元数据的切片附加信息,将所生成的切片附加信息向三维数据解码装置发送。

图70是表示切片附加信息(slicemetadata)的句法例的图。如图70所示,例如切片附加信息包括分割方法信息(type_of_divide)、重复标志(slice_overlap_flag)、重复信息(type_of_overlap)、切片数(slice_number)、切片位置信息(global_position,relative_position)和切片尺寸信息(slice_bounding_box_size)。

分割方法信息(type_of_divide)表示切片的分割方法。例如,分割方法信息表示切片的分割方法是否是在图60中表示那样的基于对象的信息的分割(object)。另外,切片附加信息也可以包括表示对象分割的方法的信息。例如,该信息表示是将1个对象分割为多个切片还是分配给1个切片。此外,该信息也可以表示将1个对象分割为多个切片的情况下的分割数量等。

重复标志(slice_overlap_flag)表示切片是否重复。重复信息(type_of_overlap)例如在切片重复的情况下包含在切片附加信息中。重复信息表示切片的重复方式等。例如,重复信息表示重复的区域的大小等。

切片数(slice_number)表示切片的数量。

切片位置信息(global_position,relative_position)及切片尺寸信息(slice_bounding_box_size)是关于切片的区域的信息。切片位置信息是用来确定各切片的位置的信息。例如,切片位置信息表示各切片的绝对坐标或相对坐标。切片尺寸信息(slice_bounding_box_size)表示各切片的尺寸。例如,切片尺寸信息表示各切片的边界框的尺寸。

三维数据编码装置也可以将切片附加信息包含在sei中而送出。或者,三维数据编码装置也可以将切片附加信息保存在既有的参数集(pps、gps或aps等)中而送出。

例如,在切片附加信息按每个帧变化的情况下,也可以在每个帧的参数集(gps或aps等)中保存切片附加信息。在序列内切片附加信息不变化的情况下,也可以在每个序列的参数集(位置sps或属性sps)中保存切片附加信息。进而,在位置信息和属性信息中使用相同的切片分割信息的情况下,也可以在pcc流的参数集(流ps)中保存切片附加信息。

此外,切片附加信息既可以保存到上述中的任一个参数集中,也可以保存到多个参数集中。此外,切片附加信息也可以保存到编码数据的头中。此外,切片附加信息也可以保存到nal单元的头中。

此外,切片附加信息的全部或一部分也可以保存到分割位置信息的头及分割属性信息的头的一方中,而不保存到另一方中。例如,在位置信息和属性信息中使用相同的切片附加信息的情况下,也可以在位置信息和属性信息的一方的头中包含切片附加信息。例如,在属性信息依赖于位置信息的情况下,位置信息先被处理。因此,也可以在位置信息的头中包含这些切片附加信息,在属性信息的头中不包含切片附加信息。在此情况下,三维数据解码装置例如判断为依赖源的属性信息属于与依赖目标的位置信息的切片相同的切片。

三维数据解码装置基于切片附加信息,重构被切片分割的点群数据。三维数据解码装置在有重复的点群数据的情况下,确定重复的多个点群数据,选择某一个或将多个点群数据合并。

此外,三维数据解码装置也可以使用切片附加信息进行解码。例如,三维数据解码装置也可以在多个切片重复的情况下按每个切片进行解码,进行使用被解码的多个数据的处理(例如平滑化或滤波等),生成点群数据。由此,有可能能够进行精度更高的解码。

图71是由有关本实施方式的三维数据编码装置进行的、包括瓦片附加信息的生成处理的三维数据编码处理的流程图。

首先,三维数据编码装置决定瓦片的分割方法(s5031)。具体而言,三维数据编码装置决定作为瓦片的分割方法而使用基于俯视的分割方法(top_view),还是使用其以外(other)的方法。此外,三维数据编码装置决定使用基于俯视的分割方法的情况下的瓦片的形状。此外,三维数据编码装置决定瓦片是否与其他瓦片重复。

在由步骤s5031决定的瓦片的分割方法是基于俯视的分割方法的情况下(s5032中是),三维数据编码装置将瓦片的分割方法是基于俯视的分割方法(top_view)的情况记载在瓦片附加信息中(s5033)。

另一方面,在由步骤s5031决定的瓦片的分割方法是基于俯视的分割方法以外的方法的情况下(s5032中否),三维数据编码装置将瓦片的分割方法是基于俯视的分割方法(top_view)以外的方法的情况记载在瓦片附加信息中(s5034)。

此外,在由步骤s5031决定的俯视瓦片的形状是正方形的情况下(s5035中正方形),三维数据编码装置将俯视瓦片的形状是正方形的情况记载在瓦片附加信息中(s5036)。另一方面,在由步骤s5031决定的俯视瓦片的形状是圆的情况下(s5035中圆),三维数据编码装置将俯视瓦片的形状是圆的情况记载在瓦片附加信息中(s5037)。

接着,三维数据编码装置判定瓦片是否与其他瓦片重复(s5038)。在瓦片与其他瓦片重复的情况下(s5038中是),三维数据编码装置将瓦片重复的情况记载在瓦片附加信息中(s5039)。另一方面,在瓦片不与其他瓦片重复的情况下(s5038中否),三维数据编码装置将瓦片不重复的情况记载在瓦片附加信息中(s5040)。

接着,三维数据编码装置基于在步骤s5031中决定的瓦片的分割方法将瓦片分割,将各瓦片编码,送出所生成的编码数据及瓦片附加信息(s5041)。

图72是由有关本实施方式的三维数据解码装置进行的使用瓦片附加信息的三维数据解码处理的流程图。

首先,三维数据解码装置将比特流中包含的瓦片附加信息解析(s5051)。

在由瓦片附加信息表示瓦片不与其他瓦片重复的情况下(s5052中否),三维数据解码装置通过将各瓦片解码而生成各瓦片的点群数据(s5053)。接着,三维数据解码装置基于由瓦片附加信息表示的瓦片的分割方法及瓦片的形状,根据各瓦片的点群数据重构点群数据(s5054)。

另一方面,在由瓦片附加信息表示瓦片与其他瓦片重复的情况下(s5052中是),三维数据解码装置通过将各瓦片解码,生成各瓦片的点群数据。此外,三维数据解码装置基于瓦片附加信息,确定瓦片的重复部分(s5055)。另外,三维数据解码装置也可以关于重复部分使用重复的多个信息进行解码处理。接着,三维数据解码装置基于由瓦片附加信息表示的瓦片的分割方法、瓦片的形状及重复信息,根据各瓦片的点群数据重构点群数据(s5056)。

以下,说明关于切片的变形例等。三维数据编码装置也可以将表示对象的种类(道路、建筑物、树等)或属性(动态信息、静态信息等)的信息作为附加信息而发送。或者,也可以根据对象预先规定编码的参数,三维数据编码装置通过将对象的种类或属性送出,向三维数据解码装置通知编码参数。

关于切片数据的编码顺序及送出顺序,也可以使用以下的方法。例如,三维数据编码装置也可以根据对象的识别或聚类较容易的数据起依次将切片数据编码。或者,三维数据编码装置也可以从聚类较早结束的切片数据起依次进行编码。此外,三维数据编码装置也可以从被编码的切片数据起依次送出。或者,三维数据编码装置也可以在应用中以解码的优先级从高到低的顺序将切片数据送出。例如,在动态信息的解码的优先级较高的情况下,三维数据编码装置也可以从以动态信息进行了分组的切片起依次将切片数据送出。

此外,三维数据编码装置在编码数据的顺序与解码的优先级的顺序不同的情况下,也可以将编码数据在重新排列后送出。此外,三维数据编码装置在将编码数据蓄积时,也可以将编码数据在重新排列后蓄积。

应用(三维数据解码装置)向服务器(三维数据编码装置)请求包含希望的数据的切片的送出。服务器也可以送出应用需要的切片数据,而不送出不需要的切片数据。

应用向服务器请求包含希望的数据的瓦片的送出。服务器也可以送出应用需要的瓦片数据,而不送出不需要的瓦片数据。

如以上这样,有关本实施方式的三维数据编码装置进行图73所示的处理。首先,三维数据编码装置通过对将包含多个三维点的对象空间分割而成的多个子空间(例如瓦片)进行编码,生成多个编码数据(s5061)。三维数据编码装置生成包含上述多个编码数据和表示上述多个子空间的形状的第1信息(例如topview_shape)的比特流(s5062)。

由此,三维数据编码装置能够从多个种类的子空间的形状中选择任意的形状,所以能够提高编码效率。

例如,上述形状是上述多个子空间的二维的形状或三维的形状。例如,上述形状是将上述多个子空间俯视的形状。即,第1信息表示将子空间从特定的方向(例如上方)观察的形状。换言之,第1信息表示将子空间俯瞰的形状。例如,上述形状是矩形或圆。

例如,上述比特流包含表示上述多个子区间是否重复的第2信息(例如tile_overlap_flag)。

由此,三维数据编码装置能够使子空间重复,所以能够不使子空间的形状变得复杂而生成子空间。

例如,上述比特流包含表示上述多个子区间的分割方法是否是使用俯视的分割方法的第3信息(例如type_of_divide)。

例如,上述比特流包含表示上述多个子区间的高度、宽度、进深及半径中的至少1个的第4信息(例如tile_height)。

例如,上述比特流包含表示上述多个子区间各自的位置的第5信息(例如global_position或relative_position)。

例如,上述比特流包含表示上述多个子区间的数量的第6信息(例如tile_number)。

例如,上述比特流包含表示上述多个子区间的间隔的第7信息。

例如,三维数据编码装置具备处理器和存储器,处理器使用存储器进行上述的处理。

此外,有关本实施方式的三维数据解码装置进行图74所示的处理。首先,三维数据解码装置通过对比特流中包含的、通过对将包含多个三维点的对象空间分割而成的多个子空间(例如瓦片)进行编码而生成的多个编码数据进行解码,将上述多个子空间复原(s5071)。三维数据解码装置通过使用上述比特流中包含的、表示上述多个子空间的形状的第1信息(例如topview_shape)将上述多个子空间结合,将上述对象空间复原(s5072)。例如,三维数据解码装置通过使用第1信息识别多个子空间的形状,能够掌握各子空间在对象空间内的位置及范围。三维数据解码装置能够基于所掌握的多个子空间的位置及范围,将多个子空间结合。由此,三维数据解码装置能够将多个子空间正确地结合。

例如,上述形状是上述多个子空间的二维的形状或三维的形状。例如,上述形状是矩形或圆。

例如,上述比特流包含表示上述多个子区间是否重复的第2信息(例如tile_overlap_flag)。三维数据解码装置在上述对象空间的复原中,还使用上述第2信息将上述多个子空间结合。例如,三维数据解码装置使用第2信息判断子空间是否重复。三维数据解码装置在子空间重复的情况下,确定重复区域,对所确定的重复区域进行规定的对应。

例如,上述比特流包含表示上述多个子区间的分割方法是否是使用俯视的分割方法的第3信息(例如type_of_divide)。三维数据解码装置在由上述第3信息表示上述多个子区间的分割方法是使用俯视的分割方法的情况下,使用上述第1信息将上述多个子空间结合。

例如,上述比特流包含表示上述多个子区间的高度、宽度、进深及半径中的至少1个的第4信息(例如tile_height)。三维数据解码装置在上述对象空间的复原中,还使用上述第4信息将上述多个子空间结合。例如,三维数据解码装置通过使用第4信息识别多个子空间的高度,能够掌握各子空间在对象空间内的位置及范围。三维数据解码装置能够基于所掌握的多个子空间的位置及范围将多个子空间结合。

例如,上述比特流包含表示上述多个子区间各自的位置的第5信息(例如global_position或relative_position)。三维数据解码装置在上述对象空间的复原中,还使用上述第5信息将上述多个子空间结合。例如,三维数据解码装置通过使用第5信息识别多个子空间的位置,能够掌握各子空间在对象空间内的位置。三维数据解码装置能够基于所掌握的多个子空间的位置,将多个子空间结合。

例如,上述比特流包含表示上述多个子区间的数量的第6信息(例如tile_number)。三维数据解码装置在上述对象空间的复原中,还使用上述第6信息将上述多个子空间结合。

例如,上述比特流包含表示上述多个子区间的间隔的第7信息。三维数据解码装置在上述对象空间的复原中,还使用上述第7信息将上述多个子空间结合。例如,三维数据解码装置通过使用第7信息识别多个子空间的间隔,能够掌握各子空间在对象空间内的位置及范围。三维数据解码装置能够基于所掌握的多个子空间的位置及范围,将多个子空间结合。

例如,三维数据解码装置具备处理器和存储器,处理器使用存储器进行上述的处理。

以上,对有关本发明的实施方式的三维数据编码装置及三维数据解码装置等进行了说明,但本发明并不限定于该实施方式。

此外,有关上述实施方式的三维数据编码装置及三维数据解码装置等中包含的各处理部典型的是作为集成电路即lsi实现。它们既可以单独地形成1个芯片,也可以包含一部分或全部而形成1个芯片。

此外,集成电路化并不限于lsi,也可以由专用电路或通用处理器实现。也可以利用在lsi制造后能够编程的fpga(fieldprogrammablegatearray现场可编程门阵列)、或能够重构lsi内部的电路单元的连接或设定的可重构处理器。

此外,在上述各实施方式中,各构成要素也可以由专用的硬件构成,或通过执行适合于各构成要素的软件程序来实现。各构成要素也可以通过由cpu或处理器等程序执行部读出被记录在硬盘或半导体存储器等记录介质中的软件程序并执行来实现。

此外,本发明也可以作为由三维数据编码装置及三维数据解码装置等执行的三维数据编码方法或三维数据解码方法等实现。

此外,框图中的功能块的分割是一例,也可以将多个功能块作为一个功能块实现,或将一个功能块分割为多个,或将一部分功能转移到其他的功能块。此外,也可以是单一的硬件或软件将具有类似的功能的多个功能块的功能并行或分时地处理。

此外,流程图中的各步骤的执行顺序是为了具体地说明本发明而例示的,也可以是上述以外的顺序。此外,也可以将上述步骤的一部分与其他步骤同时(并行)执行。

以上,基于实施方式对有关一个或多个技术方案的三维数据编码装置及三维数据解码装置等进行了说明,但本发明并不限定于该实施方式。只要不脱离本发明的主旨,对本实施方式施以本领域技术人员想到的各种变形的形态、或将不同实施方式的构成要素组合而构建的形态也可以包含在一个或多个技术方案的范围内。

产业上的可利用性

本发明能够应用于三维数据编码装置及三维数据解码装置。

标号说明

4601三维数据编码系统

4602三维数据解码系统

4603传感器终端

4604外部连接部

4611点群数据生成系统

4612提示部

4613编码部

4614复用部

4615输入输出部

4616控制部

4617传感器信息取得部

4618点群数据生成部

4621传感器信息取得部

4622输入输出部

4623逆复用部

4624解码部

4625提示部

4626用户接口

4627控制部

4630第1编码部

4631位置信息编码部

4632属性信息编码部

4633附加信息编码部

4634复用部

4640第1解码部

4641逆复用部

4642位置信息解码部

4643属性信息解码部

4644附加信息解码部

4650第2编码部

4651附加信息生成部

4652位置图像生成部

4653属性图像生成部

4654映像编码部

4655附加信息编码部

4656复用部

4660第2解码部

4661逆复用部

4662映像解码部

4663附加信息解码部

4664位置信息生成部

4665属性信息生成部

4670编码部

4671复用部

4680解码部

4681逆复用部

4710第1复用部

4711文件变换部

4720第1逆复用部

4721文件逆变换部

4730第2复用部

4731文件变换部

4740第2逆复用部

4741文件逆变换部

4750第3复用部

4751文件变换部

4760第3逆复用部

4761文件逆变换部

4801编码部

4802复用部

5010第1编码部

5011分割部

5012位置信息编码部

5013属性信息编码部

5014附加信息编码部

5015复用部

5020第1解码部

5021逆复用部

5022位置信息解码部

5023属性信息解码部

5024附加信息解码部

5025结合部

5031瓦片分割部

5032位置信息切片分割部

5033属性信息切片分割部

5041位置信息切片结合部

5042属性信息切片结合部

5043瓦片结合部

5051瓦片分割部

5052编码部

5053解码部

5054瓦片结合部

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1