传输来自多个源的超高清视频的制作方法

文档序号:19128764发布日期:2019-11-13 02:23阅读:301来源:国知局
传输来自多个源的超高清视频的制作方法

本公开处于图像处理架构领域,并且更具体地处于超高清视频处理领域。



背景技术:

具有大图像格式和小像素间距的超高清(uhd)图像传感器正变得普遍可用于许多新产品和应用的使用中。然而,常规的视频架构通常不支持uhd传感器的带宽和定时要求。已经开发出支持uhd传感器的带宽和定时要求的新视频架构;然而,这些新的视频架构通常在不利用先前可用的硬件的情况下从头开始开发以用于特定用途。

uhd传感器技术的改进大大超过许多现有视频传输架构的带宽和传输能力。被设计和配置用于传输高清(hd)视频的现有视频硬件的广泛基础设施被部署并安装在全世界的设备中。该基础设施通常不支持将视频数据从uhd视频图像传感器传输到显示器或终端用户。

现有的hd视频架构通常被配置用于处理例如符合一种或多种标准格式(诸如电影和电视工程师协会(smpte)标准smpte292m和smpte424m)的视频数据流。这些标准包括720p高清(hdtv)格式,其中视频数据被格式化为具有720条水平数据路径和16:9宽高比的帧。smpte292m标准包括例如720p格式,其具有1280x720像素的分辨率。

hd视频数据的常见传输格式是720p60,其中720p格式的视频数据以每秒60帧进行传送。smpte424m标准包括1080p60传输格式,其中1080p格式的数据以每秒60帧进行传送。1080p格式的视频数据有时被称为“全hd”并且具有1920x1080像素的分辨率。

大量当前部署的图像检测系统被按照hd视频标准(诸如常用的720p标准)来构建。720p标准系统的1280x720像素帧每帧包括约1.5兆像素。相反,uhd图像传感器通常以5kx5k格式输出图像帧,其每帧具有约2500万像素。因此,720p标准系统中使用的1280x720像素远不足以传输由uhd图像传感器生成的大得多的数量的像素。

uhd传感器通常与视频架构一起使用,该视频架构被特别设计以用于传输uhd视频数据。这些新的视频架构通常利用视频压缩技术来支持uhd带宽和定时要求。目前用于传输uhd视频数据的一些视频架构使用并行编码器或编解码器和数据压缩来传输uhd视频。然而,压缩的使用使得这些视频架构不适合依赖于接收原始传感器数据的终端用户。

使用传统硬件来传输来自下一代图像传感器的uhd视频是有问题的,这是因为传统硬件通常没有提供足够的带宽。此外,针对已经实现大量传统视频处理设备的用户而言,用新架构替代现有视频架构来传输uhd视频数据可能是不切实际的和/或极其昂贵的。

各种空间和时间上的视频压缩技术已经被用于处理来自uhd图像传感器的图像数据,以在现有hd视频架构上进行传输。uhd视频数据通常使用压缩算法进行压缩,该压缩算法保留足够的uhd视频数据以生成用于人类观看的可见图像和视频流,但丢失或丢弃可能是人类可视图像和视频流所不需要的来自uhd图像传感器的数据。

然而,在一些图像处理应用中,期望提取、分析和/或存储人类观看者可能无法察觉的原始图像传感器数据。原始图像传感器数据中的该附加信息可以例如由计算机和处理电路提取和处理。丢失或丢弃从图像传感器输出的一些图像数据的压缩算法不适合这些应用。

用于处理来自uhd传感器的数据的其他常规技术通常涉及使用已经针对uhd传感器的特定应用而开发的新的或专有的视频架构。这些技术成本高且效率低,这是因为它们没有利用已经在全世界部署的广泛可用的hd视频架构。



技术实现要素:

本公开的各方面包括用于高效和无损收集uhd数据的uhd传感器数据处理装置和方法。根据本公开的一方面的传感器数据处理装置包括被耦合到处理电路的原始uhd数据输入路径和被并联耦合到处理电路的多个图像数据输出路径。一个或多个元数据输出路径与图像数据输出路径并联耦合到处理电路。

处理电路被配置为接收来自uhd传感器的原始uhd数据,将原始uhd数据划分为无损分段并且将无损分段并行地引导到图像数据输出路径上。处理器电路还被配置为:生成包括编码信息的元数据,该编码信息有助于从无损分段重建原始uhd数据;并且将元数据引导到元数据输出路径上。

根据本公开的各方面,用于经由当前视频传输架构将视频数据从uhd传感器传输到显示器或终端用户的改进方法和装置包括像素打包方法和使用多个物理连接来并行传送数据的方法。本文所公开的方法克服了传统硬件的带宽限制,并使得传统硬件能够传输来自下一代图像传感器的uhd视频数据。

本公开的各方面还包括用于缩放多个物理数据通道以适应可用资源的最佳使用的方法以及用于对来自多个smpte424hd馈送的uhd视频数据进行动态解包的方法。根据本公开的一个方面,解包后的数据可以被重新组装成hd图像,以用于实时显示和可视化。

附图说明

通过参考附图详细描述本发明构思的示例性实施例,本发明构思的上述和其他特征将变得更加明显,在附图中:

图1是根据本公开的一方面的uhd传感器数据处理系统的图。

图2是根据本公开的一方面的示出用于处理uhd传感器数据的方法的过程流程图。

图3是uhd传感器数据处理系统的说明性实施例的图。

图4是根据本公开的一方面的将8位像素格式的uhd图像帧打包成具有16位像素格式的图像帧的图。

图5是根据本公开的一方面的被分割成1280x720像素帧的uhd图像数据的图。

图6是根据本公开的一个方面的包括带宽监视器模块的uhd传感器数据处理系统的说明性实施例的图。

图7是根据本公开的一个方面的与用于重建图像的元数据相关联的图像的多个帧的图。

图8是根据本公开的各方面的视频流的图,每个视频流包括用于存储和传输元数据的元数据空间。

图9是示出了根据本公开的一个方面的用于传输视频数据的方法的过程流程图。

图10是根据本公开的一个方面的uhd传感器数据处理系统的说明性实施例的图,该uhd传感器数据处理系统包括用于动态调整正被传输的视频数据的比特率的节流(throttling)模块。

图11是根据本公开的一个方面的uhd传感器数据处理系统的说明性实施例的图,该uhd传感器数据处理系统包括被配置为用于以不同数据速率传输图像的不同帧的节流模块。

图12是示出了根据本公开的一个方面的传输来自uhd图像传感器的视频数据的方法的过程流程图。

具体实施方式

本公开的各方面包括用于使用现有hd视频架构对来自一个或多个uhd图像传感器的uhd视频数据进行无损通信和处理的系统和方法。根据本公开的各方面,使用当前可用的视频架构处理uhd视频数据涉及到将来自一个或多个uhd传感器的uhd视频数据分解成可管理的分段。这些分段被组并入传播到hd视频的多个通道中。在说明性实施例中,uhd视频数据可以从uhd传感器30hz下的5kx5k帧提供,其被分解成720p60分段。在说明性实施例中,分段被组合成smpte424m1080p60视频的多个通道。

一些常用的uhd图像传感器生成每帧具有5120x5120像素的图像帧。然而,根据本公开的各方面,“uhd传感器”可以指代生成不同帧大小和像素大小的多种不同类型的图像传感器。例如,一些uhd图像传感器生成具有4kx4k像素的图像帧,并且每像素可以具有12位,或每像素可以具有10位。如本文所使用的术语“uhd传感器”不限于特定类型的传感器或特定的帧大小或像素大小。

根据本公开的另一方面,基于描述了如何从uhd传感器数据生成分段的元数据将多个smpte馈送重建为单个uhd视频馈送。

所公开的uhd视频处理系统和方法的说明性实施例使用多个720p视频帧缓冲器来分离和编码来自一个或多个uhd图像传感器的大格式视频。来自uhd图像传感器的图像数据跨多通道720phd视频架构传播。鲁棒编码方案生成元数据,其描述了原始图像数据的部分如何在多个通道上分布并且使得能够无损重建原始uhd视频数据。

参考图1描述根据本公开的一方面的uhd传感器数据处理系统的说明性实施例。系统100包括经由原始uhd数据输入路径106被耦合到uhd图像传感器104的uhd分段电路102。在说明性实施例中,系统100还包括经由多个图像数据输出路径110和一个或多个元数据路径112被耦合到uhd分段电路102的视频处理电路108。数据输出路径110和元数据路径112可以共存于相同的传导通路上,或者可以替代地被配置在单独的传导通路上。

在说明性实施例中,uhd分段电路102包括被耦合到处理器电路的存储器电路。处理器电路被配置为接收来自uhd图像传感器104的原始uhd数据,将原始uhd数据划分为无损分段并且将无损分段并行地引导到图像数据输出路径110上。在说明性实施例中,处理器电路还被配置为:生成包括编码信息的元数据,该编码信息有助于从无损分段重建原始uhd数据;并将元数据引导到元数据输出路径112上。

参考图2描述根据本公开的一方面的用于处理uhd传感器数据的方法。方法200包括在框202处接收来自uhd传感器(诸如图1的uhd图像传感器104)的原始uhd数据,并在框204处将原始uhd数据划分为无损分段。在说明性实施例中,原始uhd数据被图1的uhd分段电路102划分,所述uhd分段电路102可以包括例如一系列fpga和处理系统。在说明性实施例中,图1的uhd分段电路102包括数字视频处理器(dvp)电路,其接收来自uhd图像传感器104的视频并将其划分为多个720p图像。方法200还包括在框206处将无损分段并行地引导到多个图像数据输出路径(诸如图1的图像数据输出路径110)上。这也可以由uhd分段电路102中的一系列fpga和处理系统执行。该方法还包括:在框208处生成包括编码信息的元数据,该编码信息有助于从无损分段重建原始uhd数据;并且在框210处将元数据引导到与图像数据输出路径并联的一个或多个元数据输出路径(诸如图1的元数据输出路径112)上。

在说明性实施例中,图1的uhd分段电路102包括smpte视频处理器(svp)电路,其接收来自dvp电路的720p图像,将它们划分为适当格式化的smpte1080p视频帧,并将适当格式化的smpte元数据添加到辅助视频空间。元数据包括打包细节,诸如帧开始和帧结束的像素位置、帧速率、位深度、位打包模式等。相同的元数据空间具有用于给出视线或指示uhd图像传感器104针对每个可适用的帧指向何处的指向信息的规定,使得该信息可用于向uhd图像传感器104捕获的uhd视频帧添加上下文。

参考图3描述根据本公开的一方面的图像数据处理系统的另一个说明性实施例。在说明性实施例中,系统300包括被耦合到uhd分段电路304的uhd图像传感器302。uhd图像传感器302是图1中示出的uhd图像传感器104的示例性实施方式。uhd分段电路304是图1中示出的uhd分段电路102的示例性实施方式。

uhd图像传感器302生成具有5kx5k像素格式的图像帧。在该说明性实施例中,两个兼容720p的hd图像传感器306、308也被耦合到uhd分段电路304。兼容720p的图像传感器中的第一个是中波红外图像传感器306,其生成具有1280x720格式的图像帧。兼容720的图像传感器中的第二个是短波红外图像传感器308,其生成具有1280x720格式的图像帧。

在说明性实施例中,系统300被配置为例如按照smpte标准(诸如smpte424m标准)传递数据。

在说明性实施例中,uhd分段电路304包括视频架构转台310,其被耦合到uhd图像传感器302并且经由高速图像传感器接口被耦合到兼容720p的hd图像传感器306、308。uhd分段电路304还包括smpte视频处理器312,其经由并行通过接口(诸如滑环接口314)被耦合到视频架构转台310。

例如,视频架构转台310将来自uhd图像传感器302的uhd图像数据打包并且跨八个标准720p并行输出通道中的六个将其作为720p60hz视频进行传播。视频架构转台310还将来自兼容720p的图像传感器306、308中的每个的标准720p图像数据在八个标准720p并行输出通道中的相应剩余两个上作为720p60hz视频进行传递。

smpte视频处理器312从视频架构转台310接收八个并行输入通道,并使用垂直辅助(vanc)技术利用打包和传播信息来插入klv(键-长度-值)元数据,以便于解包和重建uhd图像数据。本领域技术人员应该认识到的是,vanc是用于在视频信号中嵌入非视频信息的常规技术。例如,元数据包括打包细节,诸如例如帧开始和帧结束的像素位置(行、列)、帧速率(30、60)、位深度(8、10、12、16)和位打包模式(每像素两个字节、每像素一个字节等)。相同的元数据空间具有用于给出视线(惯性测量单元(imu)、陀螺仪、加速度计、旋转变压器、伺服状态、编码器反馈、聚焦信息、系统光学器件的温度等)和/或指示uhd图像传感器302针对uhd图像传感器302获取的每个可适用帧指向何处的指向信息的规定。元数据中的信息可用于将上下文添加到由uhd图像传感器302捕获的uhd视频帧。smpte视频处理器312还针对每个图像帧插入唯一标识符。

在说明性实施例中,后端处理器电路316被耦合到uhd分段电路304以接收来自视频架构转台310的所传播的和打包后的uhd图像数据以及来自smpte视频处理器312的klv元数据。后端处理电路316是图1中示出的视频处理电路108的示例性实施方式,并且包括多个输出。例如,后端处理电路316的输出可以被压缩/处理视频以显示在标准视频显示器上,或者可以是示出移动对象的轨迹的跟踪数据等。后端处理器电路316读取klv元数据并执行对来自uhd图像传感器302的uhd图像数据的无损重建以生成和缓冲uhd视频的完整帧。例如,后端处理器电路316还可以被配置为从缓冲的uhd视频识别目标并创建跟踪信息。

参考图4,在说明性实施例中,通过将来自uhd图像帧402中的每个中的每两个8位像素的数据映射成对应的5120×256016位像素帧404的单个16位像素,将5120×51208位像素格式的uhd图像帧402打包成5120×256016位像素帧404。这可以例如由图3的视频架构转台310通过利用现有的16位像素视频架构来执行,以减少跨图3的滑环接口314所需的带宽。这有效地将带宽需求减少了一半。可替选地,该打包可以由smpte视频处理器312执行。然而,由在滑环接口314之前的视频架构转台310封装像素有助于减轻在smpte视频处理器312之前的滑环接口314处可能发生的数据瓶颈。

参考图5,在说明性实施例中,包含在5120×5120图像帧中的每个25兆像素的原始图像数据被划分为无损分段,如图2的框204处所述。通过将每图像8位的5120×5210帧划分为每像素具有16位的1280×720帧,5120×5120帧被转换以与720视频架构兼容。这导致了具有16位像素的十六个1280×720帧502。根据本公开的一方面,帧0-7在第一个60hz时钟周期上由视频架构转台310跨滑环314并行地传输到smpte视频处理器312(每个都在图3中示出),并且帧8-15在第二个60hz时钟周期上跨滑环接口314并行传输。1280x72060hz帧502中的每八帧存储在smpte视频处理器帧存储器中,其被包括在smpte视频处理器312中。在该说明性实施例中,smpte视频处理器帧存储器具有多余的存储器空间504,其可以当可适用时(例如,每30hz周期)被用于附加的数据传递。然后用可适用的打包和传播信息(诸如例如帧开始和帧结束的像素位置(行、列)、帧速率(30hz、60hz)、位深度(8、10、12、16)和位打包模式(每像素两个字节、每像素一个字节等))来由smpte视频处理器312更新klv元数据。唯一的帧标识(id)、精确时间戳(所有与utc时间相关的秒、小数秒)、在图像传感器上接收光子等。相同的元数据空间具有用于给出视线(imu、陀螺仪、加速度计、旋转变压器、伺服状态、编码器反馈、聚焦信息、系统光学器件的温度等),或uhd图像传感器302针对每个可适用的帧指向何处的指向信息的规定,使得该信息可用于向uhd图像传感器302捕获的uhd视频帧添加上下文。元数据还包括针对每个帧的唯一标识符,以在包括klv元数据的smpte242m视频中生成和输出每像素具有20位的1920x108060hz帧的四个通道。

通过考虑1280x720帧的八个并行720p通道使用约737万个像素,可以观察到存储空间504的量。因为720p帧以每秒60帧或每帧16.667毫秒运行(其速度为uhd传感器的两倍),所以737万像素被加倍,从而导致约1475万像素。5120x5120像素uhd传感器(303,图3)以每秒30帧或每帧33.333毫秒运行。因为两个8位像素被打包成每个720p16位像素,所以每个帧减少到有效的2560x5120像素大小。这导致每uhd帧约1310万像素。对于每30hzuhd帧(33.333ms),有16个720p帧可用于打包uhd传感器数据。因此,约1475万像素是可用的,其中每33.33ms或以30hz频率打包约1310万个uhd像素。在该说明性实施例中,每30hzuhd帧中可用的多余存储空间504是1475万和1310万之间的差,其等于约165万像素。

使用现有的压缩技术,实时地重新组装和丢失视频数据以用于可视化变得有问题。用于传输uhd视频数据的许多现有商业可用架构采用时间压缩,其破坏元数据准确性和完整性、破坏元数据与视频帧的对准、降低分辨率和/或增加不期望的延迟。用于传输uhd视频数据的许多技术被优化以保持帧速率并维持所显示视频的视觉吸引力。这些类型的架构不适合于在诸如监视的许多应用(其中所有元数据的数据准确性和完整性比帧速率更重要)中传输uhd视频数据。在这些应用中,重建来自uhd视频图像传感器的原始视频数据是重要的。

本公开的各方面使用现有hd视频架构来使用klv元数据跨多个视频通道对可变像素计数源数据进行编码。可变像素计数源数据可以包括例如2mp源数据和25mp源数据。

参考图6描述了根据本公开的一个方面的包括smpte物理层管理器的传感器数据处理装置600,该smpte物理层管理器使用多个smpte424m馈送来执行动态缩放、解包和组装uhd视频。

在说明性实施例中,smpte物理层管理器包括带宽监视器模块602,其被耦合到smpte视频处理器312和后端处理器316之间的多个物理数据路径604,其在上面参考图3进行描述。带宽监视器模块602被配置为监视、测量和/或管理从视频处理器312输出的物理数据路径604上的可用带宽。带宽监视器模块602还被配置为执行动态视频传播,其优化了对可用带宽的利用。

根据本公开的各方面,动态视频传播分解大图像并使它们跨一系列3gbpssmpte标准物理数据路径604传播。在说明性实施例中,物理数据路径604包括六个smpte424m1080p60通道。根据本公开的另一方面,带宽监视器模块602使用klv元数据和用户定义的字段来与动态视频传播功能通信,并确保元数据与可适用的视频在时间上对准。

在说明性实施例中,传感器数据处理装置600包括处理电路、耦合到处理电路的原始uhd视频数据输入路径、以及并行耦合到处理电路的多个图像数据输出路径。传感器数据处理装置600还包括:一个或多个元数据输出路径,其与图像数据输出路径并联耦合到处理电路;以及被耦合到图像数据输出路径的带宽监视器模块602。带宽监视器模块602被配置为:确定由每个图像传感器302、306、308输出的帧大小,每个图像传感器302、306、308被耦合到传感器数据处理装置600中的多个物理数据路径;并基于由图像传感器302、306、308中的每个输出的相应帧大小来计算第一帧传输速率,其允许在物理数据路径上传输来自图像传感器302、306、308的全分辨率图像。带宽监视器模块602还被配置为将多个物理数据路径上的数据传输速率节流到第一帧传输速率。

在说明性实施例中,带宽监视器模块602被配置为与图3的视频架构转台310通信,以优化传播的视频,从而利用可用带宽。例如,带宽监视器模块602可以使用klv元数据和用户定义的字段来与视频架构转台通信。带宽监视器还被配置为确保元数据与uhd数据中的对应视频数据在时间上对准。

根据本公开的另一方面,带宽监视器模块602被配置为动态地确定以全分辨率和第一帧传输速率传输视频数据需要多少物理数据路径。

带宽监视器模块602基于所连接的传感器的数量、类型和模式来确定物理数据路径的数量,其足以以全分辨率和第一帧传输速率传输来自连接的传感器的图像。例如,第一帧传输速率可以是实时或接近实时的传输速率。当足以在第一帧传输速率下实现全分辨率的物理数据路径的数量大于耦合到传感器的物理数据路径的数量时,带宽监视器模块602将帧传输速率降低到第二帧传输速率。例如,计算第二帧传输速率以允许在物理数据路径上以全分辨率将帧从传感器传输到显示器或终端用户。

带宽监视器模块602可以被配置为确定图像传感器中的每个的相应类型和输出模式,并且基于它们的相应类型和输出模式确定图像传感器中的每个输出的帧大小。

图7示出了说明性实施例中的kvl元数据的示例使用。在说明性实施例中,具有5120像素×5120行的图像700被分解成多个1920×1080p60hz帧702。1920×1080p60hz帧702中的每个包含较大图像700的碎片(chip)。根据本公开的一个方面,klv元数据与帧702中的每个相关联。kvl元数据包含指示当碎片在较大图像中被重新组装时碎片将位于何处的数据。根据本公开的一个方面,klv元数据还包含地理定位信息,诸如视线(los)信息和全球定位系统(gps)信息,其可以用于将相邻帧的边缘拼接(stitch)在一起以生成没有重叠像素的马赛克或全景图像。

参考图8,并行视频流各自包括它们自己的水平辅助(hanc)元数据空间802和vanc元数据空间804。根据本公开的一个方面,唯一的在时间上对准的打包和传播信息被包括在每个帧806的每个vanc元数据空间804中。每个vanc元数据空间804中的编码信息可以包括唯一的帧标识符,诸如例如时区相关的时间戳;开始和/或停止一个或多个图像的像素位置;被包含在帧中的一个或多个图像的数据路径的线路长度和数量;像素打包信息;以及帧速率信息。根据本公开的一个方面,vanc还可以包括视线(los)和指向信息,和/或全球定位系统信息,其例如精确地指示出机身或其他传感器平台的位置。

参考图9描述了根据本公开的一方面的用于传输视频数据的方法。在框902处,方法900包括在框902处确定由图3的每个图像传感器302、306、308输出的帧大小,每个图像传感器302、306、308耦合到视频数据传输装置(诸如图3中的系统300)中的多个物理数据路径。在框904处,方法900包括基于图像传感器300、306、308中的每个输出的相应帧大小来计算第一帧传输速率,其允许在物理数据路径上传输来自图像传感器300、306、308的全分辨率图像。在框906处,方法900包括将多个物理数据路径上的数据传输速率节流到第一帧传输速率。

在说明性实施例中,方法900还包括动态地确定以全分辨率和第一传输速率传输视频数据需要多少物理数据路径,第一传输速率是实时或接近实时的帧传输速率。

在另一说明性实施例中,方法900还可以包括:基于所连接的传感器的数量、类型和模式来确定物理数据路径的数量,其足以以全分辨率和第一帧传输速率传输来自连接的传感器的图像。当足以在第一帧传输速率下实现全分辨率的物理数据路径的数量大于耦合到传感器的物理数据路径的数量时,帧传输速率被降低到第二帧传输速率。例如,计算第二帧传输速率以允许在物理数据路径上以全分辨率将帧从传感器传输到显示器或终端用户。

方法900还可以包括以下步骤:确定图像传感器中的每个的相应类型和输出模式,并且基于它们的相应类型和输出模式确定图像传感器中的每个输出的帧大小。

在说明性实施例中,方法900可以包括以下步骤:动态地确定耦合到传感器的多个物理数据路径;以及基于图像传感器中的每个输出的相应帧大小并基于耦合到传感器的物理数据路径的数量来计算第一帧传输速率。例如,可以通过感测正在传输数据的物理数据路径的数量来确定耦合到传感器的物理数据路径的数量。

方法900还可以包括:基于在设置期间由用户输入的设置配置信息来确定连接到多个数据路径的传感器的类型和模式。例如,该配置可以存储在非易失性数据存储装置中。

在另一个说明性实施例中,确定连接到多个数据路径的传感器的类型和模式可以通过在加电(powerup)时读取信号数据路径上的传感器识别信息来执行。该实施例不要求用于存储配置信息的非易失性数据存储装置。

在另一个说明性实施例中,确定连接到多个数据路径的传感器的类型和模式可以通过缓冲来自帧缓冲器中连接的传感器中的每个的帧来执行,并且确定帧大小例如通过确定帧缓冲器中的数据中的像素大小或数据的数量来执行。

根据本公开的另一方面,使用多个smpte424m连接来执行视频数据的嵌入式uhd自适应比特率流。

参考图10,比特率流或每秒帧数(fps)节流阀(节流模块)1002被配置为检测smpte视频处理器312和视频处理器316之间的多个smpte连接。当检测到多个smpte连接时,节流模块1002沿着并行通道发送来自多个smpte连接的数据。在说明性实施例中,节流模块1002与现有算法结合使用,以动态地调整视频的比特率,以在不丢失视频数据的情况下实现延迟和分辨率之间的平衡。

根据本公开的一个方面,节流模块1002首先检测smpte视频处理器312和视频处理器316之间的物理连接的数量。节流模块1002可以被配置为:基于smpte视频处理器312和视频处理器316之间的物理连接的数量来选择压缩技术和数据路径。例如,可以基于用于压缩选项的可配置参数和/或可以被编程在节流模块1002的软件或固件中的预定定时限制来选择压缩技术和数据路径。在说明性实施例中,可以执行附加的像素打包以使根据smpte标准定义的smpte像素空间的使用最大化。

根据本公开的另一方面,节流模块1002可以被配置为识别图像的用户定义的关键区域,并以比针对图像的其他区域传递的数据更高的速率传输对应于smpte视频处理器312和视频处理器316之间的关键区域的数据。在说明性实施例中,可以基于用户输入来识别关键区域,其中节流模块与用户界面通信以从例如用户接收定义关键区域的参数。在可替选实施例中,节流模块可以被配置为识别每个帧的预定区域,诸如例如中心区域。

参考图11,在说明性实施例中,用户通过将hd图像区域识别为关键区域来选择hd图像区域。节流模块1002被配置为沿着一个通道1102以全速率将对应于关键区域的数据传输到显示器1106的关键区域存储空间1105。在说明性实施例中,在节流模块1002的每个输出周期上,关键区域的数据作为解包的像素被传输到显示器1106,使得从图像传感器302接收到的关键区域中的每个帧被传输到显示器1106。

节流模块1002分配剩余的可用连接,以将剩余视频和相关联的元数据作为打包的像素(smpte流中每16比特2个像素)进行传输。打包的像素基于相关联的元数据被解包,并沿着多个并行通道1104以小于全速率的速率被传输到显示器1106的非关键区域存储空间1107、1109。在说明性实施例中,节流模块1002在节流模块1002的每隔一个输出周期上将关键区域之外的区域的从图像传感器302接收到的数据的交替部分发送到显示器1106的存储空间的非关键区域1107、1109。例如,在该实施例中,节流模块1002在节流模块1002的偶数(n)帧周期上将存储空间的第一非关键区域1107耦合到并行通道1104,并且在节流模块1002的奇数(n+1)帧周期上将存储空间的第二非关键区域1109耦合到并行通道1104。在该实施例中,在显示器1106中每隔一个周期以交替顺序更新从图像传感器302接收到的每个图像的不同非关键区域,同时在每个周期上更新从图像传感器302接收到的每个图像的关键区域。尽管图11关于图像的一个关键区域和图像的多个非关键区域进行了描述,但是应该理解的是,可以实现所公开的系统和方法的可替选实施例,其中多个关键区域由用户预先确定或选择。本领域技术人员应该理解的是,节流模块可以使用各种可替选的多路复用技术,以比图像的非关键区域更高的传输速率将图像的多个关键区域从图像传感器302传输到显示器1106。

参考图12描述了根据本公开的一个方面的传输来自uhd图像传感器302的视频数据的方法。在说明性实施例中,方法1200的一个或多个步骤可以由例如图10和图11的节流模块1002来执行。方法1200包括从uhd图像传感器302接收图像流,其中在步骤1202处图像中的每个包括多个uhd帧,并且在步骤1204处基于所选帧在图像中的位置将uhd帧中的一个或多个识别为每个图像的所选帧。方法1200还包括在步骤1206处以全分辨率和第一帧传输速率在第一数据路径集上传输所选帧,并且在步骤1208处以低于第一帧传输速率的第二帧传输速率在第二数据路径集上传输每个图像的其他帧。例如,所选帧可以包括图像中的每个的中心,而其他帧包括图像中的每个的边缘部分。在说明性实施例中,可以以降低的分辨率在第二数据路径集上传输其他帧。

在另一个说明性实施例中,方法1200还可以包括将第二数据路径集中的数据路径指定为多个数据路径子集的成员,并且以第二帧传输速率一次仅在数据路径子集中的一个上传输视频数据。在该实施例中,例如,第二帧传输速率可以是第一传输速率的一部分。

虽然已经参考本公开的示例性实施例具体示出和描述了本公开的各方面,但是本领域普通技术人员将理解的是,在不脱离由以下权利要求限定的本公开的范围的情况下,在此可以对形式和细节进行各种改变。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1