
1.本技术涉及计算机应用技术领域,尤其涉及一种图像帧的时间戳确定方法、装置、介质、数据处理器和系统。
背景技术:2.多传感器数据融合技术广泛应用于自动驾驶领域和测绘领域中,多传感器融合是基于每帧传感器数据携带的时间戳信息进行的,时间戳信息的准确性直接影响多传感器数据融合效果。
3.相关技术中,大多是在数据处理模块接收到传感器数据的情况下,把同步控制模块发送的时间戳信息,作为传感器数据的时间戳信息绑定到传感器数据。
4.然而,受到电磁环境、网络状态和系统负荷等客观因素,传感器数据如图像帧以及同步控制模块发送的时间戳信息都可能会出现丢包情况,这就使得利用相关技术为传感器数据确定的时间戳信息准确率较低。
技术实现要素:5.本技术提供了图像帧的时间戳确定方法、装置、介质、数据处理器和系统,可以达到提高时间戳信息准确率的目的。
6.根据本技术的第一方面,提供了图像帧的时间戳确定方法,所述方法包括:
7.根据当前接收的触发时间戳和曝光时间戳,确定当前接收的图像帧对应的图像曝光时长;
8.根据所述图像曝光时长和预设曝光时长之间的相对大小关系,确定所述当前接收的图像帧是否正常曝光;
9.若所述当前接收的图像帧曝光正常,则根据接收时间戳和所述曝光时间戳,确定所述当前接收的图像帧对应的图像传输时长;根据所述图像传输时长和预设传输时长之间的相对大小关系,为所述当前接收的图像帧确定同步时间戳;
10.若所述当前接收的图像帧曝光异常,则根据接收时间戳和所述触发时间戳,确定所述当前接收的图像帧对应的图像采集时长;根据所述图像采集时长和预设采集时长之间的相对大小关系,为所述当前接收的图像帧确定同步时间戳。
11.根据本技术的第二方面,提供了图像帧的时间戳确定装置,所述装置包括:
12.图像曝光时长确定模块,用于根据当前接收的触发时间戳和曝光时间戳,确定当前接收的图像帧对应的图像曝光时长;
13.曝光情况确定模块,用于根据所述图像曝光时长和预设曝光时长之间的相对大小关系,确定所述当前接收的图像帧是否正常曝光;
14.第一同步时间戳确定模块,用于若所述当前接收的图像帧曝光正常,则根据接收时间戳和所述曝光时间戳,确定所述当前接收的图像帧对应的图像传输时长;根据所述图像传输时长和预设传输时长之间的相对大小关系,为所述当前接收的图像帧确定同步时间
戳;
15.第二同步时间戳确定模块,用于若所述当前接收的图像帧曝光异常,则根据接收时间戳和所述触发时间戳,确定所述当前接收的图像帧对应的图像采集时长;根据所述图像采集时长和预设采集时长之间的相对大小关系,为所述当前接收的图像帧确定同步时间戳。
16.根据本发明的第三方面,本技术实施例提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本技术实施例所述的图像帧的时间戳确定方法。
17.根据本发明的第四方面,本技术实施例提供了一种数据处理器,包括存储器,处理器及存储在存储器上并可在处理器运行的计算机程序,所述处理器执行所述计算机程序时实现如本技术实施例所述的图像帧的时间戳确定方法。
18.根据本发明的第五方面,本技术实施例提供了一种图像帧的时间戳确定系统,所述的时间戳确定系统包括:
19.数据处理器,用于发出启动图像采集模块的触发脉冲,并记录所述触发脉冲的时间为触发时间戳;还用于接收图像采集模块输出的图像帧,并记录接收图像帧的时间为接收时间戳;还用于接收图像采集模块输出的曝光时间戳;
20.所述数据处理器,还用于根据当前接收的触发时间戳和曝光时间戳,确定当前接收的图像帧对应的图像曝光时长;根据所述图像曝光时长和预设曝光时长之间的相对大小关系,确定所述当前接收的图像帧是否正常曝光;若所述当前接收的图像帧曝光正常,则根据接收时间戳和所述曝光时间戳,确定所述当前接收的图像帧对应的图像传输时长;根据所述图像传输时长和预设传输时长之间的相对大小关系,为所述当前接收的图像帧确定同步时间戳;若所述当前接收的图像帧曝光异常,则根据接收时间戳和所述触发时间戳,确定所述当前接收的图像帧对应的图像采集时长;根据所述图像采集时长和预设采集时长之间的相对大小关系,为所述当前接收的图像帧确定同步时间戳;
21.所述图像采集模块,用于接收所述数据处理器发出的触发脉冲,根据触发脉冲进行曝光采集图像帧,并将采集的图像帧发送至所述数据处理器;记录完成曝光的时间为曝光时间戳,将所述曝光时间戳发送至所述数据处理器。
22.本技术实施例的技术方案通过根据当前图像帧的触发时间戳和曝光时间戳,确定所述当前图像帧是否正常曝光;基于当前图像帧的不同曝光情况,选择不同确定方式为当前图像帧确定同步时间戳。本技术为确定同步时间戳提供了一种容错机制,即使在时间戳信息或者图像帧信息丢包的情况下,利用本技术提供的图像帧的时间戳确定方法也可以为当前图像帧确定准确的同步时间戳,有效提高了同步时间戳的准确性,可以有效避免因同步时间戳准确造成无法进行数据融合,或者数据融合结果错误的情况出现。
23.应当理解,本部分所描述的内容并非旨在标识本技术的实施例的关键或重要特征,也不用于限制本技术的范围。本技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
24.为了更清楚地说明本技术实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本技术的一些实施例,对于
本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
25.图1是根据实施例一提供的图像帧的时间戳确定方法的流程图;
26.图2是根据实施例二提供的图像帧的时间戳确定方法的流程图;
27.图3是根据实施例三提供的图像帧的时间戳确定方法的流程图;
28.图4a是本技术实施例提供的一种图像帧的时间戳确定系统的结构示意图;
29.图4b是本技术实施例提供的另一种图像帧的时间戳确定系统的结构示意图。
30.图5是本技术实施例四提供的图像帧的时间戳确定装置的结构示意图;
31.图6是本技术实施例五提供的一种数据处理器的结构示意图。
具体实施方式
32.为了使本技术领域的人员更好地理解本技术方案,下面将结合本技术实施例中的附图,对本技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本技术一部分的实施例,而不是全部的实施例。基于本技术中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本技术保护的范围。
33.需要说明的是,本技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“目标”以及“候选”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
34.实施例一
35.图1是根据实施例一提供的图像帧的时间戳确定方法的流程图,本实施例可适用于多传感器融合场景下,为当前接收的图像帧确定同步时间戳的情况,该方法可以由图像帧的时间戳确定装置来执行,该图像帧的时间戳确定装置可以采用硬件和/或软件的形式实现,并可集成于运行此系统的电子设备中,如数据处理器。
36.为了便于理解本技术实施例所提供的图像帧的时间戳确定方法,首先介绍一下,用于该方法的图像帧的时间戳确定系统。图4a是本技术实施例提供的一种图像帧的时间戳确定系统的结构示意图。参见图4a,图像帧的时间戳确定系统400包括:数据处理器410和图像采集模块420。其中,数据处理器410和图像采集器420通信连接。
37.其中,数据处理器410,用于发出启动图像采集模块420的触发脉冲,并记录触发脉冲的时间为触发时间戳;还用于接收图像采集模块420输出的图像帧,并记录接收图像帧的时间为接收时间戳;还用于接收图像采集模块420输出的曝光时间戳;
38.图像采集模块420,用于接收数据处理器410发出的触发脉冲,根据触发脉冲进行曝光采集图像帧,并将采集的图像帧发送至数据处理器410;记录完成曝光的时间为曝光时间戳,将曝光时间戳发送至数据处理器410。
39.数据处理器410,还用于根据触发时间戳、曝光时间戳和接收时间戳为当前接收的
图像帧确定同步时间戳。
40.图4b是本技术实施例提供的另一种图像帧的时间戳确定系统的结构示意图。如图4b所示,图像帧的时间戳确定系统包括:第一数据处理器411、第二数据处理器412和图像采集模块420。由第一数据处理器411和第二数据处理器412共同承担图4a示出的数据处理器410在为当前接收的图像帧确定同步时间戳过程中执行的操作内容,可以提高同步时间戳的确定效率。
41.其中,第一数据处理器411通过触发接口(未示出)与图像采集模块420通信连接,第一数据处理器411通过通信接口(未示出)与第二数据处理器412连接。第二数据处理器412与图像采集模块420通信连接。示例性的,图像采集模块420可以是摄像头模组。第一数据处理器411和第二数据处理器412分别部署有第一数据处理芯片和第二数据处理芯片。第一数据处理芯片和第二处理芯片的芯片类型可以相同,也可以不同,在这里不作限定,具体根据实际情况确定,示例性的,第一数据处理芯片和第二数据处理芯片可以是具有定制功能的mcu(microcontroller unit,微控制单元)。第一数据处理芯片中定义有第一数据处理逻辑,第二数据处理芯片中定义有第二数据处理逻辑。第一数据处理逻辑不同于第二数据处理逻辑,第一数据处理逻辑定义了第一数据处理器411的数据处理流程。第二数据处理逻辑定义了第二数据处理器412的数据处理流程。
42.第一数据处理器411用于发出启动图像采集模块的触发脉冲,并记录触发脉冲的时间为触发时间戳,还用于通过触发接口将触发脉冲信号发送给图像采集模块420;其中,触发脉冲信号用于指示图像采集模块420进行曝光并反馈曝光脉冲信号;
43.图像采集模块420用于接收第一数据处理器411发出的触发脉冲,根据触发脉冲进行曝光采集图像帧,并将采集的图像帧发送至第二数据处理器412;图像采集模块420还用于记录完成曝光的时间为曝光时间戳,将曝光时间戳发送至第一数据处理器411。
44.第一数据处理器411将触发时间戳和曝光时间戳,通过通信接口发送给第二数据处理器412;第二数据处理器412根据触发时间戳、曝光时间戳和接收时间戳为当前接收的图像帧确定同步时间戳。
45.当然,可以理解的是,图像采集模块420可以不经由第一数据处理器411,而是直接将曝光时间戳发送给第二数据处理器412。具体采用哪种传输路径将曝光时间戳传输给第二数据处理器412,可以根据实际业务需求确定,在这里不作限定。
46.在一个具体的实施例中,第一数据处理器411根据预设图像帧帧率定时向图像采集模块420触发脉冲信号,第一数据处理器411的脉冲输出接口连接到图像采集模块420的外部触发接口,图像采集模块420收到触发脉冲信号,启动图像帧曝光,同时输出曝光脉冲信号到外部触发接口,该外部触发接口连接到第一数据处理器411的脉冲输入接口,供第一数据处理器411识别,图像采集模块420记录完成曝光的时间为曝光时间戳,将曝光时间戳发送至第一数据处理器411。图像采集模块420支持脉冲触发输入和曝光脉冲信号输出。图像采集模块420的数据输出接口连接到第二数据处理器412的数据输入接口。第二数据处理器412通过数据输入接口读取图像帧数据,并记录接收图像帧的时间为接收时间戳。
47.第二数据处理器412和第一数据处理器411直接通过通讯接口连接,接收第一数据处理器411发送的触发时间戳和曝光时间戳等。第二数据处理器412根据触发时间戳、曝光时间戳和接收时间戳为当前接收的图像帧确定同步时间戳。
48.可选的,图4a和图4b所示出的图像帧的时间戳确定系统中数据处理器410以及第二数据处理器412所执行的操作“根据触发时间戳、曝光时间戳和接收时间戳为当前接收的图像帧确定同步时间戳”,包括:根据当前接收的触发时间戳和曝光时间戳,确定当前接收的图像帧对应的图像曝光时长;根据图像曝光时长和预设曝光时长之间的相对大小关系,确定当前接收的图像帧是否正常曝光;若当前接收的图像帧曝光正常,则根据接收时间戳和曝光时间戳,确定当前接收的图像帧对应的图像传输时长;根据图像传输时长和预设传输时长之间的相对大小关系,为当前接收的图像帧确定同步时间戳;若当前接收的图像帧曝光异常,则根据接收时间戳和触发时间戳,确定当前接收的图像帧对应的图像采集时长;根据图像采集时长和预设采集时长之间的相对大小关系,为当前接收的图像帧确定同步时间戳。
49.接下来,介绍本技术实施例提供的图像帧的时间戳确定方法。图1是根据实施例一提供的图像帧的时间戳确定方法的流程图,如图1所示,该方法包括:
50.s110、根据当前接收的触发时间戳和曝光时间戳,确定当前接收的图像帧对应的图像曝光时长;
51.s120、根据图像曝光时长和预设曝光时长之间的相对大小关系,确定当前接收的图像帧是否正常曝光;
52.s130、若当前接收的图像帧曝光正常,则根据接收时间戳和曝光时间戳,确定当前接收的图像帧对应的图像传输时长;根据图像传输时长和预设传输时长之间的相对大小关系,为当前接收的图像帧确定同步时间戳;
53.s140、若当前接收的图像帧曝光异常,则根据接收时间戳和触发时间戳,确定当前接收的图像帧对应的图像采集时长;根据图像采集时长和预设采集时长之间的相对大小关系,为当前接收的图像帧确定同步时间戳。
54.其中,当前接收的图像帧是指数据处理器在当前时间窗口接收的图像帧。为了便于表述,下文将当前接收的图像帧称为当前图像帧。
55.当前图像帧由图像采集模块采集得到,并由图像采集模块发送给数据处理器。数据处理器中尚未将当前图像帧更新到图像帧序列,也就是当前图像帧的同步时间戳尚未确定。其中,同步时间戳是为当前图像帧的实际采集时刻,同步时间戳是后续将当前图像帧与其传感器数据帧进行数据融合的重要依据。
56.触发时间戳是指发出触发脉冲的时间,其中,触发脉冲用于启动图像采集模块曝光,进行图像采集。曝光时间戳由图像采集模块产生,曝光时间戳为图像采集模块完成曝光的时间。除了曝光时间戳和触发时间戳以外,数据处理器中还包括当前图像帧的接收时间戳。其中,接收时间戳是指数据处理器接收到当前图像帧的时间。接收时间戳由数据处理器产生,在数据处理器接收到图像帧的情况下,数据处理器会为该图像帧产生接收时间戳,也就是,数据处理器中接收时间戳与当前图像帧实际对应。
57.受到电磁环境、网络状态和系统负荷等客观因素,图像帧和曝光时间戳可能会发生丢包情况。这就导致数据处理器中当前接收的触发时间戳和曝光时间戳可能不与当前图像帧实际对应。
58.为了保证当前图像帧的同步时间戳的准确性,需要确定数据处理器中当前接收的触发时间戳和曝光时间戳是否与当前图像帧实际对应,也就是,确定图像帧和曝光时间戳
的传输情况,如确定图像帧和曝光时间戳是否丢包。针对于图像帧和曝光时间戳的不同传输情况,为当前图像帧确定同步时间戳。
59.图像帧、触发时间戳和曝光时间戳的传输情况,可以由数据处理器根据触发时间戳、曝光时间戳和接收时间戳确定。首先,数据处理器根据当前接收的触发时间戳和曝光时间戳,确定当前接收的图像帧对应的图像曝光时长,以确定当前图像帧是否正常曝光。
60.其中,根据触发时间戳可以确定启动图像采集模块进行曝光的时刻,根据曝光时间戳可以确定图像采集模块完成曝光的时刻;从启动曝光到完成曝光,图像采集模块需要进行曝光准备,例如图像采集模块需要唤醒以及启动相关组件。其中,图像曝光时长用于量化图像采集模块从启动曝光到完成曝光之间的时间长度。
61.图像曝光时长根据图像模块的唤醒时间、输入一个脉冲的时间和图像采集模块扫描一行像素的时间确定,图像采集模块确定的情况下,图像采集模块的图像曝光时长也是确定的,将图像帧正常曝光所需要的曝光时长确定为参考曝光时长。基于图像采集模块的参考曝光时长可以确定当前图像帧是否正常曝光。曝光时间戳和图像帧的非正常传输如丢包,会导致图像曝光时长超出参考曝光时长。
62.根据当前图像帧的触发时间戳和曝光时间戳,确定当前图像帧对应的图像曝光时长,可选的,计算曝光时间戳和触发时间戳之间的相对时间间隔,将该相对时间间隔确定为当前图像帧的图像曝光时长。
63.其中,预设曝光时长与图像采集模块的曝光唤醒参数相关,预设曝光时长可根据图像采集模块的参考曝光时长确定,在这里不作限定。预设曝光时长一般为毫秒级别。预设曝光时长为用于衡量当前图像帧是否正常曝光。
64.若图像帧曝光时长小于等于预设曝光时长,表明当前图像帧曝光正常,则根据接收时间戳和曝光时间戳,确定当前接收的图像帧对应的图像传输时长;根据图像传输时长和预设传输时长之间的相对大小关系,进一步确定曝光时间戳是否与当前图像帧实际对应,基于此,为当前接收的图像帧确定同步时间戳。
65.其中,图像传输时长是指图像采集模块完成曝光到数据处理模块接收到当前图像帧之间的时间长度。可以知道的是,在网络状态稳定的情况下,当前图像帧的图像传输时长也是确定的,将图像帧正常传输的所需要的传输时长确定为参考传输时长。其中,预设传输时长可以根据参考传输时长确定,在这里不作限定。预设传输时长一般为毫秒级别。预设传输时长为用于确定曝光时间戳是否与当前图像帧实际对应。进而可以确定是否可以直接利用该曝光时间戳,为当前图像帧确定同步时间戳。
66.相对的,若图像曝光时长大于预设曝光时长,则当前图像帧曝光异常,当前图像帧的曝光时间戳不可用于确定同步时间戳,需要根据当前图像帧的接收时间戳和触发时间戳,确定当前图像帧对应的图像采集时长,根据图像采集时长和预设采集时长之间的相对大小关系,为当前接收的图像帧确定同步时间戳。
67.其中,图像采集时长用于衡量图像采集模块启动曝光到数据处理器接收到当前图像帧的时间长度。可选的,将接收时间戳和触发时间戳之间的相对时间间隔确定为图像采集时长。其中,图像采集时长至少包括:图像曝光时长和图像传输时长。其中,预设采集时长可以根据参考曝光时长和参考传输时长确定。
68.基于图像采集时长和预设采集时长之间的相对大小关系,可以进一步确定触发时
间戳是否与当前图像帧实际对应,基于此,为当前图像帧确定同步时间戳。
69.值得注意的是,步骤130和步骤140为并列关系,并不具备先后逻辑关系。在实际应用过程中,则根据当前图像帧的曝光情况择一执行。
70.本技术实施例的技术方案,通过根据当前图像帧的触发时间戳和曝光时间戳,确定当前图像帧是否正常曝光;基于当前图像帧的不同曝光情况,选择不同确定方式为当前图像帧确定同步时间戳。本技术为确定同步时间戳提供了一种容错机制,即使在时间戳信息或者图像帧信息丢包的情况下,利用本技术提供的图像帧的时间戳确定方法也可以为当前图像帧确定准确的同步时间戳,有效提高了同步时间戳的准确性,可以有效避免因同步时间戳准确造成无法进行数据融合,或者数据融合结果错误的情况出现。
71.在一个可选的实施例中,在为当前接收的图像帧确定同步时间戳之后,的时间戳确定方法还包括:根据当前接收的图像帧的起始地址和当前接收的图像帧的数据大小,确定当前接收的图像帧的偏移地址;基于偏移地址,将同步时间戳写入当前接收的图像帧。
72.其中,起始地址是指当前图像帧在图像帧序列中的起始地址。当前图像帧的数据大小是指当前图像帧所需存储空间的大小。根据当前图像帧的起始地址和当前图像帧的数据大小,确定当前图像帧的偏移地址,可选的,将在当前图像帧的起始地址的基础上加上当前图像帧的数据大小,即可得到当前图像帧的偏移地址。例如,可以根据x+y=offset确定当前图像帧的偏移地址。其中,x表示当前图像帧的起始地址,y表示当前图像帧的数据大小,offset表示当前图像帧的偏移地址。
73.基于偏移地址,将同步时间戳写入当前图像帧。可选的,在当前图像帧的偏移地址处写入同步时间戳。
74.上述技术方案,通过根据当前图像帧的起始地址和数据大小确定当前图像帧的偏移地址,基于偏移地址将同步时间戳写入当前图像帧。在当前数据帧确定的情况下,当前数据帧的数据大小是确定的,基于当前图像帧的起始地址和数据大小,即可确定同步时间戳在当前图像帧的写入位置,使得后续可以快速地从当前图像帧中读取同步时间戳。
75.实施例二
76.图2是根据实施例二提供的图像帧的时间戳确定方法的流程图。本实施例在上述实施例的基础上进行进一步地优化,具体的,在当前图像帧曝光正常的情况下,对操作“根据图像传输时长和预设传输时长之间的相对大小关系,为当前接收的图像帧确定同步时间戳”进行细化。
77.如图2所示,该方法包括:
78.s210、根据当前接收的触发时间戳和曝光时间戳,确定当前接收的图像帧对应的图像曝光时长。
79.s220、根据图像曝光时长和预设曝光时长之间的相对大小关系,确定当前接收的图像帧是否正常曝光。
80.s230、若当前接收的图像帧曝光正常,则根据接收时间戳和曝光时间戳,确定当前接收的图像帧对应的图像传输时长。
81.s240、若曝光时间戳早于接收时间戳,且图像传输时长小于等于预设传输时长,则将当前接收的曝光时间戳确定为当前接收的图像帧的同步时间戳。
82.可以知道的是,数据处理器接收到的当前图像帧,是由图像采集模块曝光采集得
到。理论上,曝光时间戳应该早于接收时间戳。曝光时间戳早于接收时间戳,并不能直接确定曝光时间戳与当前图像帧实际对应,还需要进一步确定图像传输时长和预设传输时长的相对大小关系。
83.在曝光时间戳早于接收时间戳,且图像传输时长小于等于预设传输时长的情况下,可以确定曝光时间戳与当前图像帧实际对应,曝光时间戳可用于为当前图像帧确定同步时间戳。具体的,可以将曝光时间戳确定当前图像帧的同步时间戳。
84.s250、若曝光时间戳早于接收时间戳,且图像传输时长大于预设传输时长,则根据接收时间戳确定当前接收的图像帧的同步时间戳。
85.在曝光时间戳早于接收时间戳的情况下,若图像传输时长大于预设传输时长,表明曝光时间戳不与当前图像帧实际对应,曝光时间戳不能用于为当前图像帧确定同步时间戳。在根据触发时间戳和曝光时间戳确定正常曝光的情况下,触发时间戳同样不能用于为当前图像帧确定同步时间戳。此时,需要根据接收时间戳为当前图像帧确定同步时间戳。这是因为,接收时间戳是由数据处理器根据接收到当前图像帧的时间确定,接收时间戳并不需要进行数据传输,不存在丢包问题,接收时间戳与当前图像帧实际对应。在曝光时间戳为不可用的情况下,基于接收时间戳同样可以确定同步时间戳。
86.在一个可选的实施例中,根据接收时间戳确定当前接收的图像帧的同步时间戳,包括:定义当前接收的图像帧的同步时间戳为t,定义接收时间戳为t3,t通过以下公式计算得到:
87.t=t
3-t
λ
88.式中,t
λ
为图像采集模块从曝光结束到图像输出完成的时间。
89.可以知道的是,在数据传输正常,即不存在丢包情况,曝光时间戳将优先作为当前图像帧的同步时间戳。曝光时间戳和接收时间戳确定的相对时间间隔为图像传输时长。基于此,可以利用接收时间戳反推当前图像帧的曝光时间戳,可选的,利用当前图像帧的接收时间戳减去预设传输时长确定同步时间戳。可选的,根据预设传输时长确定t
λ
。
90.s260、若曝光时间戳晚于接收时间戳,将当前接收的图像帧确定为上一次接收的图像帧,根据上一次接收的触发时间戳、曝光时间戳和接收时间戳,重新确定上一次接收的图像帧的同步时间戳。
91.如上,与当前图像帧实际对应的曝光时间戳理论上需要早于接收时间戳。若曝光时间戳晚于接收时间戳,则将当前接收的图像帧确定为上一次接收的图像帧。根据上一次接收的触发时间戳、曝光时间戳和接收时间戳,重新确定上一次接收的图像帧的同步时间戳。
92.值得注意的是,步骤240到步骤260均对应于当前图像帧正常曝光的情况。步骤240对应于时间戳信息以及图像帧均未丢失的情况;步骤250对应于当前图像帧实际对应的曝光时间戳和触发时间戳均丢失的情况;步骤260对应于图像帧丢失的情况。也就是说步骤240到步骤260为并列关系,并不具备先后逻辑关系。为方便表述将步骤240和步骤260以先后顺序示出,在实际应用过程中,则根据数据丢失情况择一执行。
93.本技术技术方案,在根据曝光时间戳和触发时间戳确定当前接收的图像帧属于正常曝光的前提下,根据曝光时间戳和接收时间戳的前后关系,以及图像传输时长,为当前接收的图像帧确定同步时间戳。保证了同步时间戳的准确性,提高了同步时间戳确定方法的
容错性,在曝光时间戳不与当前接收的图像帧实际对应的情况下,仍然可以为当前接收的图像帧确定同步时间戳。
94.实施例三
95.图3是根据实施例三提供的图像帧的时间戳确定方法的流程图。本实施例在上述实施例的基础上进行进一步地优化,具体的,在根据曝光时间戳和触发时间戳确定当前接收的图像帧属于曝光异常的情况下,对操作“根据图像采集时长和预设采集时长之间的相对大小关系,为当前接收的图像帧确定同步时间戳”进行细化。
96.如图3所示,该方法包括:
97.s310、根据当前接收的触发时间戳和曝光时间戳,确定当前接收的图像帧对应的图像曝光时长。
98.s320、根据图像曝光时长和预设曝光时长之间的相对大小关系,确定当前接收的图像帧是否正常曝光。
99.s330、若当前接收的图像帧曝光异常,则根据接收时间戳和触发时间戳,确定当前接收的图像帧对应的图像采集时长。
100.触发时间戳和曝光时间是戳影响确定图像帧曝光是否正常曝光的关键要素。在图像帧曝光异常的情况下,需要进一步明确曝光时间戳和触发时间戳中哪项丢失。
101.s340、若触发时间戳早于接收时间戳,且图像采集时长小于预设采集时长,则根据当前接收的触发时间戳、接收时间戳和曝光时间戳确定当前接收的图像帧的同步时间戳。
102.可以理解的是,在触发时间戳与接收时间戳实际对应的情况下,触发时间戳理论上需要早于接收时间戳,还需要保证由触发时间戳和接收时间戳确定的图像采集时长小于预设采集时长。也就是说,只有触发时间戳早于接收时间戳,且图像采集时长小于预设采集时长的情况下,触发时间戳才可能与当前图像帧实际对应,至于触发时间戳是否确实与当前图像帧实际对应,还需要结合当前接收的触发时间戳、曝光时间戳与接收时间戳之间的相对大小关系,进一步确定。
103.在一个可选的实施例中,根据当前接收的触发时间戳、接收时间戳和曝光时间戳确定当前接收的图像帧的同步时间戳,包括:
104.若曝光时间戳早于触发时间戳,则定义当前接收的图像帧的同步时间戳为t,定义当前接收的触发时间戳为t1,t通过以下公式计算得到:
105.t=t1+(t
ζ
*t
ε
+t
δ
)
106.式中,t
ζ
为图像采集模块的唤醒时间;t
ε
为图像采集模块输入一个脉冲的时间;t
δ
为图像采集模块扫描一行像素的时间;
107.否则,则将当前接收的图像帧确定为上一次接收的图像帧,根据上一次接收的触发时间戳、曝光时间戳和接收时间戳,重新确定上一次接收的图像帧的同步时间戳。
108.可以知道的是,在曝光时间戳和触发时间戳均与当前接收的图像帧实际对应的情况下,曝光时间戳应该晚于触发时间戳。若曝光时间戳早于触发时间戳,可以确定曝光异常是由于曝光时间戳丢失造成的,当前接收的触发时间戳与当前接收的图像帧实际对应,当前接收的触发时间戳可以用于确定当前接收的图像帧的同步时间戳。可选的,在触发时间戳的基础上叠加预设曝光时长确定同步时间戳,可选的,以t
ζ
*t
ε
+t
δ
表示预设曝光时长。其中,t
ζ
与图像采集模块的曝光唤醒参数相关,曝光唤醒参数为正整数。曝光唤醒参数与图像
采集模块相关,不同图像采集模块的曝光唤醒参数可能存在差异,在这里不作限定。示例性的,曝光唤醒参数可以为61396。其中,t
ε
为图像采集模块输入一个脉冲的时间。t
δ
为图像采集模块扫描一行像素点所需要的时间,t
δ
可以通过如下公式确定,t
δ
=row
×
tpclk,其中,row为当前图像帧一行中包括的像素点数目,tpclk为图像采集模块扫描一个像素点所需要的时间。为了便于表达,将上述情况确定为情况341。
109.在步骤s340所在分支下,还包括与情况341相对的情况342。情况342为:
110.否则,图像曝光异常,图像采集时长小于预设采集时长,且曝光时间戳晚于触发时间戳的情况,可能是触发时间戳以及图像帧同时丢失造成的。这种情况下,将当前接收的图像帧确定为上一次接收的图像帧,根据上一次接收的触发时间戳、曝光时间戳和接收时间戳,重新确定上一次接收的图像帧的同步时间戳。
111.s350、若触发时间戳早于接收时间戳,且图像采集时长大于等于预设采集时长,根据接收时间戳和曝光时间戳确定当前接收的图像帧的同步时间戳。
112.在触发时间戳早于接收时间戳的情况下,若图像采集时长大于等于预设采集时长,表明触发时间戳不与接收时间戳实际对应,触发时间戳不能用于为当前图像帧确定同步时间戳。这种情况下,可以根据接收时间戳和曝光时间戳为当前接收的图像帧确定同步时间戳。具体的,可以根据接收时间戳和曝光时间戳之间的相对关系,确定曝光时间戳是否与当前接收的图像帧实际对应。
113.在一个可选的实施例中,根据接收时间戳和曝光时间戳确定当前接收的图像帧的同步时间戳,包括:若曝光时间戳早于接收时间戳,且图像传输时长小于等于预设传输时长,则将当前接收的曝光时间戳确定为当前接收的图像帧的同步时间戳;否则,则定义当前接收的图像帧的同步时间戳为t,定义接收时间戳为t3,t通过以下公式计算得到:
114.t=t
3-t
λ
115.式中,t
λ
为图像采集模块从曝光结束到图像输出完成的时间。
116.可以知道的是,只有在曝光时间戳早于接收时间戳的情况下,曝光时间戳才可能与当前图像帧实际对应,至于曝光时间戳是否与接收时间戳实际对应,还需要结合图像传输时间进行判断。具体的,在曝光时间戳早于接收时间戳,且图像传输时长小于等于预设传输时长的情况下,可以确定当前接收的曝光时间戳与当前图像帧实际对应,表明当前接收的曝光时间戳可以用于为当前图像帧确定同步时间戳。具体的,将当前接收的曝光时间戳确定为当前接收的图像帧的同步时间戳。为了便于表达,将上述情况确定为情况351。
117.在步骤s350所在分支下,还包括与情况351相对的情况352。情况352为:否则,表明当前接收的曝光时间戳不与当前图像帧实际对应,也就是当前接收的曝光时间戳和触发时间戳均不能用于为当前图像帧确定同步时间戳。可以知道的是,接收时间戳与当前图像帧实际对应,这种情况下,可以根据接收时间戳为当前图像帧确定同步时间戳。基于此,可以利用接收时间戳反推当前图像帧的曝光时间戳,可选的,利用当前图像帧的接收时间戳减去预设传输时长确定同步时间戳。可选的,根据预设传输时长确定t
λ
。其中,t
λ
为图像采集模块从曝光结束到图像输出完成的时间。
118.s360、若触发时间戳晚于接收时间戳,将当前接收的图像帧确定为上一次接收的图像帧,根据上一次接收的触发时间戳、曝光时间戳和接收时间戳,重新确定上一次接收的图像帧的同步时间戳。
119.触发时间戳晚于接收时间戳,表明触发时间戳与当前图像帧并不实际对应。将当前接收的图像帧确定为上一次接收的图像帧,根据上一次接收的触发时间戳和接收时间戳,重新确定上一次接收的图像帧的同步时间戳。
120.值得注意的是,步骤340到步骤360为并列关系,并不具备先后逻辑关系,在实际应用过程中,则根据数据丢失情况择一执行。
121.本技术技术方案,在根据曝光时间戳和触发时间戳确定当前接收的图像帧属于异常曝光的前提下,根据触发时间戳和接收时间戳的前后关系,结合图像采集时长,为当前接收的图像帧确定同步时间戳,提出了一种适用于当前图像帧曝光异常情况的同步时间戳确定方法,为同步时间戳的确定提供了一种容错机制,保证了同步时间戳的准确性,并提高了同步时间戳确定方法的鲁棒性。
122.可以知道的是,受到电磁环境、网络状态和系统负荷等客观因素,图像帧、触发时间戳和曝光时间戳可能会发生丢包情况。因此,数据处理器在当前时间窗口内接收到的曝光时间戳和触发时间戳,可能并不与当前时间窗口接收到的图像帧实际对应。利用与当前接收的图像帧实际对应的时间戳信息,为当前接收的图像帧确定同步时间戳,可以保证同步时间戳的准确性。而实施例二和实施例三描述了在不同数据丢失情况下,为图像帧确定同步时间戳的方法。为了便于理解,下面将以图像帧、触发时间戳以及曝光时间戳不同的丢失情况为例,对实施例二和实施例三所描述的图像帧的同步时间戳的确定方法进行进一步说明。
123.假设图像采集模块依次产生了2次图像帧(设为图像1和图像2),由此数据处理器会有6个时间戳,分别是图像1对应的触发时间戳(设为1t1),图像1对应的曝光时间戳(设为1t2),图像1对应的接收时间戳(设为1t3),图像2对应的触发时间戳(设为2t1),图像2对应的曝光时间戳(设为2t2),图像2对应的接收时间戳(设为2t3)。假设预设曝光时长、预设传输时长和预设采集时长均根据对应系统的正常工作情况进行设置,其中,预设曝光时长、预设传输时长和预设采集时长均大于0。在时间戳信息以及图像帧未发生丢包的情况下,数据处理器两次的接收数据分别是(1t1,1t2,1t3,图像1)和(2t1,2t2,2t3,图像2)。此外,上述6个时间戳将时间先后顺序上存在以下约束关系:
124.1t1《1t2《1t3《2t1《2t2《2t3125.基于时间戳和/或图像帧的丢包情况,数据处理器可能会存在以下接收事况:
126.事况1:没有数据发生丢包,数据处理器最新接收的数据为:2t1,2t2,2t3,图像2;
127.事况2:图像2丢包,数据处理器最新接收的数据为:2t1,2t2,1t3,图像1;
128.事况3:2t1丢包,数据处理器最新接收的数据为:1t1,2t2,2t3,图像2;
129.事况4:2t2丢包,数据处理器最新接收的数据为:2t1,1t2,2t3,图像2;
130.事况5:2t1和图像2丢包,数据处理器最新接收的数据为:1t1,2t2,1t3,图像1;
131.事况6:2t2和图像2丢包,数据处理器最新接收的数据为:2t1,1t2,1t3,图像1;
132.事况7:2t1和2t2丢包,数据处理器最新接收的数据为:1t1,1t2,2t3,图像2。
133.下面针对各种事况,结合实施例2和实施例3进行具体分析:
134.事况1:由于没有数据发生丢包,2t1,2t2和2t3均与图像2相对应,即0《2t
2-2t1≤预设曝光时长,0《2t
3-2t2≤预设传输时长。其中,2t
2-2t1表示图像曝光时长,2t
2-2t1≤预设曝光时长,为图像曝光时长小于等于预设曝光时长,当前接收的图像帧曝光正常;2t
3-2t2表示
图像传输时长,2t
3-2t2≤预设传输时长,表示图像传输时长小于等于预设传输时长,0《2t
2-2t1以及0《2t
3-2t2分别表示当前接收的触发时间戳早于曝光时间戳,曝光时间戳早于接收时间戳。这种情况下可以将曝光时间戳(2t2)确定为图像2的同步时间戳。对应于实施例二中步骤s240所在的分支。
135.事况2:由于图像2丢包,数据处理器最新接收的数据为(2t1,2t2,1t3,图像1)中,与图像1对应的时间戳只有1t3,无法通过2t1,2t2确定图像1的同步时间戳。因此,可以根据上一次接收的触发时间戳(1t1)、曝光时间戳(1t2)和接收时间戳(1t3),重新确定图像1的同步时间戳。而在实施例二和实施例三中,体现为0<2t
2-2t1≤预设曝光时长,2t
2-2t1表示图像曝光时长,2t
2-2t1≤预设曝光时长,为图像曝光时长小于等于预设曝光时长,当前接收的图像帧曝光正常;1t
3-2t2<0,其中,1t
3-2t2<0表示当前接收的接收时间戳1t3早于当前接收到曝光时间戳2t2。对应于实施例二中步骤s260所在的分支。
136.事况3:由于2t1丢包,数据处理器最新接收的数据为(1t1,2t2,2t3,图像2)中,与图像2对应的时间戳有2t2和2t3。因此,可以将曝光时间戳(2t2)确定为图像2的同步时间戳。而在实施例二和实施例三中,体现为2t
2-1t1>预设曝光时长,2t
3-1t1≥预设采集时长,0<2t
3-2t2≤预设传输时长,其中,2t
2-1t1表示图像曝光时长,2t
2-1t1>预设曝光时长,表示图像采集时长大于预设曝光时长,当前接收到的图像帧曝光异常;2t
3-1t1表示图像采集时长,2t
3-1t1≥预设采集时长,表示图像采集时长大于等于预设采集时长;0<2t
3-2t2表示曝光时间戳早于接收时间戳;2t
3-2t2表示图像传输时长,2t
3-2t2≤预设传输时长,表示图像传输时长小于等于预设传输时长。对应于实施例三中步骤s350所在的分支。具体对应于步骤s350分支下的情况351。具体的,情况351为:若曝光时间戳早于接收时间戳,且图像传输时长小于等于预设传输时长,可以确定曝光时间戳与当前接收的图像帧实际对应,曝光异常是因为触发时间戳丢失造成的,将曝光时间戳作为当前接收的图像帧的同步时间戳;
137.事况4:由于2t2丢包,数据处理器最新接收的数据为(2t1,1t2,2t3,图像2)中,与图像2对应的时间戳有2t1和2t3。因此,可以根据触发时间戳(2t1)确定图像2的同步时间戳。而在实施例二和实施例三中,体现为|1t
2-2t1|>预设曝光时长,1t
2-2t1<0,0<2t
3-2t1<预设采集时长,1t2<2t3,值得注意的是,|1t
2-2t1|表示图像曝光时长,|1t
2-2t1|>预设曝光时长,表示图像曝光时长大于预设曝光时长,当前图像帧曝光异常。1t
2-2t1<0表示曝光时间戳1t2早于触发时间戳2t1。2t
3-2t1表示图像采集时长,2t
3-2t1<预设采集时长,图像采集时长小于预设采集时长;0<2t
3-2t1表示当前接收的触发时间戳2t1早于接收时间戳2t3,对应实施例三中步骤s340所在的分支。具体的,对应于步骤s340分支下的情况341。具体的,情况341为:若曝光时间戳早于触发时间戳,可以确定曝光异常是因为曝光时间戳丢失造成的,这种情况下,当前接收的触发时间戳与当前接收的图像帧实际对应。可以根据当前接收的触发时间戳确定当前接收的图像帧的同步时间戳。
138.事况5:由于2t1和图像2丢包,数据处理器最新接收的数据为(1t1,2t2,1t3,图像1),与图像1对应的时间戳有1t1和1t3,无法通过2t2和确定图像1的同步时间戳。因此,可以根据上一次接收的触发时间戳(1t1)、曝光时间戳(1t2)和接收时间戳(1t3),重新确定图像1的同步时间戳。而在实施例二和实施例三种中,体现为2t
2-1t1>预设曝光时长,0<1t
3-1t1<预设采集时长,1t1<2t2,其中,2t
2-1t1表示图像曝光时长,2t
2-1t1>预设曝光时长,表示图像曝光时长大于预设曝光时长,当前接收的图像帧曝光异常;1t
3-1t1表示图像采集时长,
1t
3-1t1<预设采集时长,表示图像采集时长小于预设采集时长,1t1<2t2,即当前接收的触发时间戳1t1早于当前接收的曝光时间戳2t2,对应实施例三中步骤s340所在的分支,具体的可以对应步骤s340所在分支的情况342。
139.事况6:由于2t2和图像2丢包,数据处理器最新接收的数据为(2t1,1t2,1t3,图像1),图像1对应的时间戳有1t2和1t3。因此,可以根据上一次接收的触发时间戳(1t1)、曝光时间戳(1t2)和接收时间戳(1t3),重新确定图像1的同步时间戳。而在实施例二和实施例三种中,体现为1t
2-2t1<0,且1t
3-2t1<0,其中,1t
2-2t1<0表示当前接收的曝光时间戳早于当前接收的触发时间戳,1t
3-2t1<0表示接收时间戳早于当前接收的触发时间戳,对应实施例三中步骤s360所在的分支。
140.事况7:由于2t1和2t2丢包,数据处理器最新接收的数据为(1t1,1t2,2t3,图像2),图像2对应的时间戳只有2t3,没法通过1t1,1t2确定图像2的同步时间戳。因此,可以根据接收时间戳(2t3)确定图像2的同步时间戳。而在实施例二和实施例三种中,体现为0《1t
2-1t1≤预设曝光时长,2t
3-1t2>预设传输时长,其中,1t
2-1t1表示图像曝光时长,1t
2-1t1≤预设曝光时长,表示图像曝光时长小于等于预设曝光时长;0《1t
2-1t1表示曝光时间戳晚于触发时间戳;2t
3-1t2表示图像传输时长,2t
3-1t2>预设传输时长,表示曝光时间戳大于预设传输时长,同时表示曝光时间戳早于接收时间戳。对应于实施例二中步骤s250所在的分支。
141.需要说明的是,上述的场景仅仅属于假设场景,用于说明本技术在各种时间戳和/或图像帧的丢包情况下,如何确定图像帧的同步时间戳。上述场景并不作为本技术的保护范围的一种限定,本技术中的决策方式也不仅限用于上述假设场景中。只要符合本技术中不同的判断条件,便可以通过本技术确定图像帧对应的同步时间戳。
142.实施例四
143.图5是本技术实施例四提供的图像帧的时间戳确定装置的结构示意图,本实施例可适用于多传感器融合场景下,为当前图像帧确定同步时间戳的情况。装置可由软件和/或硬件实现,并可集成于智能终端等数据处理器中。
144.如图5所示,该装置可以包括:图像曝光时长确定模块510、曝光情况确定模块520、第一同步时间戳确定模块530和第二同步时间戳确定模块540。
145.图像曝光时长确定模块510,用于根据当前接收的触发时间戳和曝光时间戳,确定当前接收的图像帧对应的图像曝光时长;
146.曝光情况确定模块520,用于根据图像曝光时长和预设曝光时长之间的相对大小关系,确定当前接收的图像帧是否正常曝光;
147.第一同步时间戳确定模块530,用于若当前接收的图像帧曝光正常,则根据接收时间戳和曝光时间戳,确定当前接收的图像帧对应的图像传输时长;根据图像传输时长和预设传输时长之间的相对大小关系,为当前接收的图像帧确定同步时间戳;
148.第二同步时间戳确定模块540,用于若当前接收的图像帧曝光异常,则根据接收时间戳和触发时间戳,确定当前接收的图像帧对应的图像采集时长;根据图像采集时长和预设采集时长之间的相对大小关系,为当前接收的图像帧确定同步时间戳。
149.本技术实施例的技术方案通过根据当前图像帧的触发时间戳和曝光时间戳,确定当前图像帧是否正常曝光;基于当前图像帧的不同曝光情况,选择不同确定方式为当前图像帧确定同步时间戳。本技术为确定同步时间戳提供了一种容错机制,即使在时间戳信息
或者图像帧信息丢包的情况下,利用本技术提供的图像帧的时间戳确定方法也可以为当前图像帧确定准确的同步时间戳,有效提高了同步时间戳的准确性,可以有效避免因同步时间戳准确造成无法进行数据融合,或者数据融合结果错误的情况出现。
150.可选的,第一同步时间戳确定模块530,包括:第一同步时间戳确定子模块,用于若曝光时间戳早于接收时间戳,且图像传输时长小于等于预设传输时长,则将当前接收的曝光时间戳确定为当前接收的图像帧的同步时间戳;第二同步时间戳确定子模块,用于若曝光时间戳早于接收时间戳,且图像传输时长大于预设传输时长,则根据接收时间戳确定当前接收的图像帧的同步时间戳;第三同步时间戳确定子模块,用于若曝光时间戳晚于接收时间戳,将当前接收的图像帧确定为上一次接收的图像帧,根据上一次接收的触发时间戳、曝光时间戳和接收时间戳,重新确定上一次接收的图像帧的同步时间戳。
151.可选的,第二同步时间戳确定子模块,具体用于定义当前接收的图像帧的同步时间戳为t,定义接收时间戳为t3,t通过以下公式计算得到:
152.t=t
3-t
λ
153.式中,t
λ
为图像采集模块从曝光结束到图像输出完成的时间。
154.可选的,第二同步时间戳确定模块540,包括:第四同步时间戳确定子模块,用于若触发时间戳早于接收时间戳,且图像采集时长小于预设采集时长,则根据当前接收的触发时间戳、接收时间戳和曝光时间戳确定所述当前接收的图像帧的同步时间戳;第五同步时间戳确定子模块,用于若触发时间戳早于接收时间戳,且图像采集时长大于等于预设采集时长,根据接收时间戳和曝光时间戳确定当前接收的图像帧的同步时间戳;第六同步时间戳确定子模块,用于若触发时间戳晚于接收时间戳,将当前接收的图像帧确定为上一次接收的图像帧,根据上一次接收的触发时间戳、曝光时间戳和接收时间戳,重新确定上一次接收的图像帧的同步时间戳。
155.可选的,第四同步时间戳确定子模块,包括:第一同步时间戳确定单元,用于若所述曝光时间戳早于所述触发时间戳,则定义当前接收的图像帧的同步时间戳为t,定义当前接收的触发时间戳为t1,t通过以下公式计算得到:
156.t=t1+(t
ζ
*t
ε
+t
δ
)
157.式中,t
ζ
为图像采集模块的唤醒时间;t
ε
为图像采集模块输入一个脉冲的时间;t
δ
为图像采集模块扫描一行的时间。第二同步时间戳确定单元,用于否则,则将当前接收的图像帧确定为上一次接收的图像帧,根据上一次接收的触发时间戳、曝光时间戳和接收时间戳,重新确定上一次接收的图像帧的同步时间戳。
158.可选的,第五同步时间戳确定子模块,包括:第一同步时间戳确定单元,用于若曝光时间戳早于接收时间戳,且图像传输时长小于等于预设传输时长,则将当前接收的曝光时间戳确定为当前接收的图像帧的同步时间戳;第二同步时间戳确定单元,否则,则定义当前接收的图像帧的同步时间戳为t,定义接收时间戳为t3,t通过以下公式计算得到:
159.t=t
3-t
λ
160.式中,t
λ
为图像采集模块从曝光结束到图像输出完成的时间。
161.可选的,装置还包括:偏移地址确定模块,用于在为当前接收的图像帧确定同步时间戳之后,根据当前接收的图像帧的起始地址和当前接收的图像帧的数据大小,确定当前接收的图像帧的偏移地址;同步时间戳写入模块,用于基于偏移地址,将同步时间戳写入当
前接收的图像帧。
162.发明实施例所提供的图像帧的时间戳确定装置可执行本技术任意实施例所提供的图像帧的时间戳确定方法,具备执行图像帧的时间戳确定方法相应的性能模块和有益效果。
163.本公开的技术方案中,所涉及的用户信息的收集、存储、使用、加工、传输、提供和公开等,均符合相关法律法规的规定,且不违背公序良俗。
164.实施例五
165.图6示出了可以用来实施的实施例的数据处理器610的结构示意图。数据处理器610包括至少一个处理器611,以及与至少一个处理器611通信连接的存储器,如只读存储器(rom)612、随机访问存储器(ram)613等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器611可以根据存储在只读存储器(rom)612中的计算机程序或者从存储单元618加载到随机访问存储器(ram)613中的计算机程序,来执行各种适当的动作和处理。在ram 613中,还可存储数据处理器610操作所需的各种程序和数据。处理器611、rom 612以及ram 613通过总线614彼此相连。输入/输出(i/o)接口615也连接至总线614。
166.数据处理器610中的多个部件连接至i/o接口615,包括:输入单元616,例如键盘、鼠标等;输出单元617,例如各种类型的显示器、扬声器等;存储单元618,例如磁盘、光盘等;以及通信单元619,例如网卡、调制解调器、无线通信收发机等。通信单元619允许数据处理器610通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
167.处理器611可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器611的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。处理器611执行上文所描述的各个方法和处理,例如图像帧的时间戳确定方法。
168.在一些实施例中,图像帧的时间戳确定方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元618。在一些实施例中,计算机程序的部分或者全部可以经由rom 612和/或通信单元619而被载入和/或安装到数据处理器610上。当计算机程序加载到ram 613并由处理器611执行时,可以执行上文描述的图像帧的时间戳确定方法的一个或多个步骤。备选地,在其他实施例中,处理器611可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行图像帧的时间戳确定方法。
169.本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、现场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、复杂可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
170.用于实施本技术的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程图像帧的时间
戳确定装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
171.在本技术的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
172.为了提供与用户的交互,可以在数据处理器上实施此处描述的系统和技术,该数据处理器具有:用于向用户显示信息的显示装置(例如,crt(阴极射线管)或者lcd(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给数据处理器。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
173.可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为图像帧的时间戳确定服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(lan)、广域网(wan)、区块链网络和互联网。
174.计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与vps服务中,存在的管理难度大,业务扩展性弱的缺陷。
175.应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本技术中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本技术的技术方案所期望的结果,本文在此不进行限制。
176.上述具体实施方式,并不构成对本技术保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本技术的精神和原则之内所作的修改、等同替换和改进等,均应包含在本技术保护范围之内。