本技术涉及一种固态成像元件、成像装置和固态成像元件的控制方法。更具体地,本技术涉及一种包括用于对光子数进行计数的光子计数器的固态成像元件、成像装置和固态成像元件的控制方法。
背景技术:
通常,在成像装置等中使用了用于拍摄图像数据的固态成像元件。例如,提出了设置有单光子雪崩二极管(spad)、光子计数器、阈值多路复用器电路和计时器的固态成像元件(例如,参照专利文献1)。这里,spad是一种雪崩光电二极管,其足够灵敏以检测是否入射了一个光子。在该固态成像元件中,光子计数器对曝光期间的光子数进行计数并生成计数值。计时器继续将表示计时器值的时间信息传输给存储器,直到曝光时段结束。此外,阈值多路复用器电路监视计数值并将计数值在曝光时段结束之前已经达到预定阈值的时间点处的时间信息存储在存储器中。将该时间信息作为像素值输出,并且像素阵列外部单元将像素值转换成曝光时间中的测量次数,从而可以获得等于或大于像素中的阈值的计数值信息。
引用列表
专利文献
专利文献1:us2012/057059a
技术实现要素:
发明要解决的问题
在上面描述的固态成像元件中,计时器在每次在曝光时段内更新计时器值时将时间信息传输到每个像素内的存储器。因此,在计数值在曝光时段内未达到预定阈值或达到阈值的时间较长的低照度下,存在时间信息从计时器向存储器的传输次数增多并且计时器和存储器之间的传输路径的功耗增大的问题。
本技术是鉴于这样的情况完成的,并且其目的是降低测量时间的固态成像元件中功耗。
问题的解决方案
为了解决上面描述的问题而完成了本技术,并且本技术的第一方面是一种固态成像元件和固态成像元件的控制方法,该固态成像元件包括:计数单元,其配置成对预定曝光时段内光子的入射次数进行计数并输出计数值;计数控制单元,其配置成执行在所述预定曝光时段过去之前所述计数值达到预定值的情况下停止所述计数单元的控制以及时间信息的请求;计时单元,其配置成测量时间并响应于所述请求输出所述时间信息;和估计单元,其配置成基于所述输出的时间信息估计所述预定曝光时段内光子的入射次数。这产生了响应所述请求从计时单元输出时间信息的效果。
此外,在第一方面中,在所述时间信息的请求中,所述计数控制单元可以向所述计时单元输出请求所述时间信息的请求,并且所述计数单元和所述计数控制单元可以布置在以二维网格的方式排列的多个像素电路中的每一个像素电路中。这产生了响应于每个像素电路的请求的输出而输出时间信息的效果。
此外,在第一方面中,所述计时单元可以将表示由所述多个像素电路中的任意一个像素电路输入所述请求的时刻或从曝光开始到输入所述请求时的时间的信息作为所述时间信息输出。
此外,在第一方面中,所述预定值可以包括用于限制所述计数值的极限值和表示达到所述极限值之前的所述计数值的紧接在前的值,所述计数控制单元可以执行在从所述计数值达到所述紧接在前的值时到所述计数值达到所述极限值时的时段内向所述计时单元连续输出所述请求的控制和当所述计数值达到所述极限值时停止所述计数单元的控制,所述计时单元可以将表示输入所述请求的时段内的时刻中的每个时刻的信息作为所述时间信息输出,并且所述估计单元可以基于所述计数值达到所述极限值时的所述时间信息估计所述入射次数。这产生了在从计数值达到紧接在前的值时到计数值达到极限值时的时段内连续输出时间信息的效果。
此外,在第一方面中,所述计时单元可以包括各自配置成测量所述时间并生成所述时间信息的多个时间信息生成单元,并且所述多个像素电路可以分别连接到彼此不同的所述时间信息生成单元。这产生了通过针对每个像素电路布置的时间信息生成单元来测量时间的效果。
此外,在第一方面中,所述计时单元可以包括各自配置成测量所述时间并生成所述时间信息的多个时间信息生成单元,并且各自包括沿预定方向排列的预定数量的所述像素电路的多条线可以分别连接到彼此不同的所述时间信息生成单元。这产生了通过针每条线布置的时间信息生成单元来测量时间的效果。
此外,在第一方面中,所述计时单元可以包括配置成测量所述时间并生成所述时间信息的时间信息生成单元,并且所述多个像素电路可以共同连接到所述时间信息生成单元。这产生了通过由所有的像素电路共享的时间信息生成单元来测量时间的效果。
此外,在第一方面中,可以进一步地包括:光电二极管,其配置成检测有无一个光子的入射;和电阻器,其配置成在每次检测到所述光子的入射时使所述光电二极管的一端的电位恢复到初始状态,并且所述计数单元可以对所述一端的电位由于所述有无光子的入射的检测而变化的次数进行计数。这产生了对光电二极管的一端电位改变的次数进行计数的效果。
此外,在第一方面中,所述光电二极管可以布置在光接收芯片上,并且所述电阻器、所述计数单元、所述计数控制单元和所述估计单元可以布置在层叠在所述光接收芯片上的逻辑芯片上。这产生了通过与电阻器、计数控制单元和估计单元一起布置在逻辑芯片上的计数单元对光子数进行计数的效果。
此外,在第一方面中,所述光电二极管和所述电阻器可以布置在光接收芯片上,并且所述计数单元、所述计数控制单元和所述估计单元可以布置在层叠在所述光接收芯片上的逻辑芯片上。这产生了通过与计数控制单元和估计单元一起布置在逻辑芯片上的计数单元对光子数进行计数的效果。
此外,在第一方面中,所述光电二极管可以布置在光接收芯片上,所述计数单元、所述计数控制单元和所述估计单元可以布置在层叠在所述光接收芯片上的逻辑芯片上,并且所述计时单元可以布置在层叠在所述逻辑芯片上的计时芯片上。这产生了通过层叠在计时芯片上的计时单元输出时间信息的效果。
此外,本技术的第二方面是一种成像装置,其包括:计数单元,其配置成对预定曝光时段内光子的入射次数进行计数并输出计数值;计数控制单元,其配置成执行在所述预定曝光时段过去之前所述计数值达到预定值的情况下停止所述计数单元的控制以及时间信息的请求;计时单元,其配置成测量时间并响应于所述请求输出所述时间信息;估计单元,其配置成基于所述输出的时间信息估计所述预定曝光时段内光子的入射次数并输出估计值;和记录单元,其配置成记录从所述估计值生成的图像数据。这产生了响应于请求从计时单元输出时间信息并从时间信息估计估计值的效果。
发明效果
根据本技术,在测量时间的固态成像元件中,能够获得可以降低功耗的优益效果。需要指出的是,这里描述的效果不一定是限制性的,并且可以显示出本公开中描述的任意效果。
附图说明
图1是示出了根据本技术第一实施方案的成像装置的配置示例的框图。
图2是示出了根据本技术第一实施方案的固态成像元件的层叠结构的示例的图。
图3是示出了根据本技术第一实施方案的光接收芯片的配置示例的平面图。
图4是示出了根据本技术第一实施方案的逻辑芯片的配置示例的框图。
图5是示出了根据本技术第一实施方案的逻辑阵列单元和计时单元的配置示例的框图。
图6是示出了根据本技术第一实施方案的时间信息生成单元的配置示例的框图。
图7是示出了根据本技术第一实施方案的像素电路的配置示例的电路图。
图8是示出了当使根据本技术第一实施方案的阳极和阴极反转时像素电路的配置示例的电路图。
图9是示出了根据本技术第一实施方案的光子计数器的操作示例的图。
图10是示出了根据本技术第一实施方案的计数控制单元的操作示例的图。
图11是示出了根据本技术第一实施方案的信号处理单元的操作示例的图。
图12是示出了根据本技术第一实施方案的成像装置的操作示例的时序图。
图13是示出了根据本技术第一实施方案的像素电路和计时单元的操作示例的时序图。
图14是示出了根据本技术第一实施方案的计数值的变化的示例的图。
图15是根据本技术第一实施方案的像素电路和计时单元的简化图。
图16是示出了根据本技术第一实施方案的成像装置的操作示例的流程图。
图17是示出了根据本技术第一实施方案的计数处理的示例的流程图。
图18是示出了根据本技术第一实施方案的变形例的像素电路的配置示例的电路图。
图19是示出了根据本技术第二实施方案的时间信息生成单元的配置示例的框图。
图20是示出了根据本技术第二实施方案的像素电路和计时单元的操作示例的时序图。
图21是示出了根据本技术第三实施方案的计数控制单元的操作示例的图。
图22是示出了根据本技术第三实施方案的像素电路和计时单元的操作示例的时序图。
图23是示出了根据本技术第四实施方案的逻辑阵列单元和计时单元的配置示例的框图。
图24是示出了根据本技术第五实施方案的固态成像元件的层叠结构的示例的图。
图25是示出了根据本技术第五实施方案的逻辑芯片的配置示例的框图。
图26是示出了根据本技术第五实施方案的计时芯片的配置示例的平面图。
图27是示出了车辆控制系统的示意性配置示例的框图。
图28是示出了成像单元的安装位置的示例的说明图。
具体实施方式
以下,将描述实施本技术的方式(以下称为实施方案)。将根据以下顺序进行描述。
1.第一实施方案(计时单元响应于请求输出时间信息的示例)
2.第二实施方案(计时单元响应于请求连续输出时间信息的示例)
3.第三实施方案(计时单元响应于从紧接在前的值到极限值的请求输出时间信息的示例)
4.第四实施方案(时间信息生成单元被所有线共享并且计时单元响应于请求输出时间信息的示例)
5.第五实施方案(电路分布并布置在三个芯片上并且计时单元响应于请求输出时间信息的示例)
6.移动体的应用示例
<1.第一实施方案>
[成像装置的配置示例]
图1是示出了根据本技术实施方案的成像装置100的配置示例的框图。成像装置100拍摄图像数据,并且包括成像透镜110、固态成像元件200、记录单元120和成像控制单元130。例如,作为成像装置100,假设智能手机、数码相机、个人计算机、车载相机或物联网(iot:internetofthings)相机。
成像透镜110聚集入射光并将入射光引导到固态成像元件200。固态成像元件200在成像控制单元130的控制下拍摄图像数据。固态成像元件200将所拍摄的图像数据经由信号线209提供给记录单元120。记录单元120记录图像数据。
成像控制单元130使固态成像元件200拍摄图像数据。例如,成像控制单元130将如垂直同步信号等同步信号、用于控制曝光时段的曝光控制信号和曝光时间经由信号线139提供给固态成像元件200。
需要指出的是,成像装置100可以进一步地包括接口并且通过接口将图像数据传输到外部,或可以进一步地包括显示单元并且在显示单元上显示图像数据。
[固态成像元件的配置示例]
图2是示出了根据本技术实施方案的固态成像元件200的层叠结构的示例的图。固态成像元件200包括光接收芯片201和层叠在光接收芯片201上的逻辑芯片202。用于传输信号的信号线设置在这些芯片之间。
[光接收芯片的配置示例]
图3是示出了根据本技术实施方案的光接收芯片201的配置示例的平面图。光接收芯片201设置有光接收单元210,并且光接收单元210设置有呈二维网格状的多个光接收电路220。光接收电路220的详细情况将在后面描述。
[逻辑芯片的配置示例]
图4是示出了根据本技术实施方案的逻辑芯片202的配置示例的框图。在逻辑芯片202上,布置有垂直控制单元230、逻辑阵列单元260、水平控制单元240、信号处理单元250和计时单元290。此外,在逻辑阵列单元260中,针对每一个光接收电路220布置有逻辑电路270。这些逻辑电路270中的每一个经由信号线连接到对应的光接收电路220。包括光接收电路220和与光接收电路220相对应的逻辑电路270的电路用作在图像数据中生成一个像素的像素信号的像素电路。
然后,将垂直同步信号输入到垂直控制单元230,并且将水平同步信号输入到水平控制单元240。将来自成像控制单元130的曝光控制信号输入到逻辑阵列单元260。将曝光控制信号输入到计时单元290。
以下,沿预定方向(如水平方向)排列的一组像素电路(光接收电路220和逻辑电路270)称为“行”或“线”,并且沿与行垂直的方向排列的一组像素电路称为“列”。
垂直控制单元230与垂直同步信号同步地按顺序选择行。逻辑电路270对曝光时段内光子的入射次数进行计数,并将表示计数值的信号作为像素信号输出到信号处理单元250。水平控制单元240与水平同步信号同步地按顺序选择列并输出像素信号。
信号处理单元250对包括像素信号的图像数据执行如滤波处理等预定信号处理。信号处理单元250将处理过的图像数据输出到记录单元120。此外,将来自成像控制单元130的曝光时间输入到信号处理单元250。此外,信号处理单元250估计曝光时段内光子的入射次数。估计方法的详细情况将在后面描述。
计时单元290根据曝光控制信号测量曝光时段内的相对时间。计时单元290将表示所测量的时间的时间信息输出到逻辑电路270中的每一个。
[计时单元的配置示例]
图5是示出了根据本技术第一实施方案的逻辑阵列单元260和计时单元290的配置示例的框图。在逻辑阵列单元260中,逻辑电路270以二维网格的方式布置。然后,水平信号线298和299针对包括沿水平方向排列的逻辑电路270的每一行进行布线。此外,在计时单元290中,针对每一行布置时间信息生成单元291。时间信息生成单元291经由水平信号线298和299连接到对应的行(换句话说,对应的线)的逻辑电路270(像素电路)。
假设逻辑电路270的行的数量是n,则设置n条水平信号线298、n条水平信号线299和n个时间信息生成单元291。
逻辑电路270在预定时刻生成请求时间信息tc的请求req,并经由对应的水平信号线298将请求req输出到时间信息生成单元291。
时间信息生成单元291测量时间并响应于请求req生成且输出时间信息tc。时间信息生成单元291测量由曝光控制信号表示的曝光时段内的相对时间。然后,当输入请求req时,时间信息生成单元291生成指示当时时间的信息作为时间信息tc,并经由水平信号线299将时间信息tc输出到对应的行的逻辑电路270(像素电路)中的每一个。
[时间信息生成单元的配置示例]
图6是示出了根据本技术第一实施方案的时间信息生成单元291的配置示例的框图。时间信息生成单元291包括计时电路292和传输单元293。
计时电路292在由曝光控制信号表示的曝光时段内测量该曝光时段内的相对时间。例如,计时电路292由计数器构成。计时电路292在每次测量时间时将表示所测量的时间的计时器值提供给传输单元293。
传输单元293响应于请求req输出时间信息。例如,传输单元293包括开关294。开关294根据请求req打开和关闭计时电路292和对应的逻辑电路270之间的路径。在没有输入来自逻辑电路270的请求req的情况下,开关294处于断开状态并且不输出时间信息。另一方面,在输入请求req的情况下,开关294切换到闭合状态,并将指示计时电路292的计时器值的信息作为时间信息tc输出到对应的逻辑电路270中的每一个。
[像素电路的配置示例]
图7是示出了根据本技术第一实施方案的像素电路300的配置示例的电路图。像素电路300包括光接收电路220和逻辑电路270。光接收电路220包括电阻器221和光电二极管222。此外,逻辑电路270包括反相器271、光子计数器273、计数控制单元274、开关275、时间信息存储单元277和开关278。
光电二极管222对入射光进行光电转换并输出光电流。光电二极管222的阴极经由电阻器221连接到电源电位的端子,光电二极管222的阳极连接到比电源电位低的电位gnd1的端子(如接地端子)。因此,向光电二极管222施加反向偏压。此外,光电流沿着从光电二极管222的阴极到阳极的方向流动。
例如,作为光电二极管222,使用能够通过放大光电流来检测是否存在一个光子的入射的雪崩光电二极管。此外,在雪崩二极管中,特别期望使用spad。
电阻器221的一端连接到电源电位的端子,电阻器221的另一端连接到光电二极管222的阴极。每次检测到光子的入射时,光电流流过电阻器221,并且光电二极管222的阴极电位下降到低于电源电位的初始状态的值。
反相器271使光电二极管222的阴极电位的信号反相并将反相的信号作为脉冲信号输出到光子计数器273。反相器271在阴极电位高于预定值的情况下输出低电平脉冲信号,并且在阴极电位等于或低于预定值的情况下输出高电平脉冲信号。此外,连接反相器271的接地侧的电位gnd2不同于光接收电路220中的电位gnd2。
光子计数器273对曝光时段内输出高电平脉冲信号的次数进行计数。该计数值表示光电二极管222一端的电位(阴极电位等)由于有无光子入射的检测而变化的次数。假设脉冲数量与入射光子的实际数量的比率为1/10,则每次入射10个光子时进行一次计数。
光子计数器273在曝光开始时将计数值cnt设定为初始值(例如,“0”),并且在曝光时段内执行计数。例如,该计数值在每次输出脉冲信号时递增。即,执行递增计数。然后,光子计数器273在曝光结束时或在计数控制单元274的控制下停止计数,并将计数值cnt输出到计数控制单元274和开关275。
需要指出的是,光子计数器273是权利要求书中描述的计数单元的示例。此外,光子计数器273执行递增计数,但是也可以执行递减计数代替递增计数。
在计数值cnt达到预定极限值的情况下,计数控制单元274执行停止光子计数器273的控制并输出请求时间信息tc的请求req。在递增计数的情况下,上限值lim用作极限值。上限值lim是等于或小于可以由光子计数器273计数的最大值的值,并预先设定在寄存器等中。例如,在8位计数器用作光子计数器273的情况下,将等于或小于“255”(如“254”或“255”)的值设定为上限值lim。
计数控制单元274判定在曝光时段内计数值cnt是否达到上限值lim,并将判定结果dec输出到光子计数器273、开关275和信号处理单元250。此外,在曝光时段内计数值cnt达到上限值lim的情况下,计数控制单元274生成请求req并将请求req输出到时间信息存储单元277和计时单元290。需要指出的是,在执行递减计数的情况下,使用下限值代替上限值。
当生成请求req时,时间信息存储单元277响应于请求取得并存储由计时单元290生成的时间信息tc。寄存器或存储器用作时间信息存储单元277。
此外,在计数值cnt达到预定极限值的情况下,信号处理单元250估计表示曝光时段内光子的入射次数的计数值,并将估计的计数值作为估计值est输出。信号处理单元250使用来自成像控制单元130的曝光时间te、时间信息存储单元277中存储的时间信息tc和上限值lim根据以下表达式获得估计值est。然后,信号处理单元250将估计值est输出到开关275。需要指出的是,信号处理单元250是权利要求书中描述的估计单元的示例。
est=lim×(te/tc)...表达式1
开关275根据判定结果dec选择计数值cnt和估计值est中的一个。在计数值cnt达到预定极限值的情况下,该开关275选择估计值est并将估计值est作为输出值out输出到开关278。另一方面,在计数值cnt没有达到预定极限值的情况下,开关275选择计数值cnt并将计数值cnt作为输出值out提供给开关278。
在水平控制单元240的控制下,开关278将输出值out的信号作为像素信号输出到信号处理单元250。
需要指出的是,虽然光电二极管222的阴极连接到电阻器221,但是如图8中示出的,阳极可以连接到电阻器221。
图9是示出了根据本技术第一实施方案的光子计数器的操作示例的图。将曝光控制信号和判定结果dec输入到光子计数器273。这里,例如,将“1”设定成曝光时段内的曝光控制信号,而将“0”设定成曝光时段外的曝光控制信号。此外,例如,在计数值cnt达到上限值lim的情况下,将“1”设定成判定结果dec,而在计数值cnt小于上限值lim的情况下,将“0”设定成判定结果dec。
在曝光控制信号为“0”(即,曝光时段外)的情况下,光子计数器273停止计数操作,而与判定结果dec的值无关。另一方面,在曝光控制信号为“1”(即,曝光时段内)的情况下,当判定结果dec为“0”(即,计数值cnt小于上限值lim)时,光子计数器273连续执行计数操作。然而,当判定结果dec为“1”(即,计数值cnt是上限值lim)时,光子计数器273停止计数操作。
图10是示出了根据本技术第一实施方案的计数控制单元274的操作示例的图。在计数值cnt小于上限值lim的情况下,计数控制单元274输出“0”的判定结果dec以使光子计数器273连续执行计数操作,并设定“0”为请求req。
另一方面,在计数值cnt是上限值lim的情况下,计数控制单元274输出“1”的判定结果dec以使光子计数器273停止计数操作,并输出“1”的请求req来请求时间信息tc。
图11是示出了根据本技术第一实施方案的信号处理单元250的操作示例的图。在判定结果dec为“0”(即,计数值cnt小于上限值lim)的情况下,信号处理单元250停止估计值的计算,而不执行计算。另一方面,在判定结果dec为“1”(即,计数值cnt是上限值lim)的情况下,信号处理单元250使用表达式1计算估计值est。
图12是示出了根据本技术第一实施方案的成像装置100的操作示例的时序图。从垂直同步信号vsync的上升时刻t0到下一个上升时刻t4的时段对应于垂直同步信号vsync的周期。曝光时段设定在该周期内。
例如,成像控制单元130将周期中从时刻t1到时刻t3的时段设定为曝光时段,并在曝光时段内将曝光控制信号设定为高电平。然后,光子计数器273在曝光时段内操作并对计数值cnt进行计数。然后,当计数值cnt在曝光时段内的时刻t2达到上限值lim时,计数控制单元274使光子计数器273停止计数。在操作停止时,光子计数器273将计数值设定为初始值。
此外,在垂直同步信号vsync的下一个上升时刻t4之后,成像控制单元130将周期内从时刻t5到时刻t6的时段设定为曝光时段。在曝光时段内,光子计数器273操作并对计数值cnt进行计数。由于在该曝光时段内计数值cnt没有达到上限值lim,所以光子计数器273在曝光时段结束时停止计数操作。
如上面描述的,光子计数器273在曝光时段内当计数值cnt达到上限值lim时停止计数。这里,一般来说,随着计数次数增加,计数器的功耗变大。因此,光子计数器273在曝光时段中间停止计数,从而与不停止而继续计数的情况相比降低了功耗。然而,在曝光时段中间停止计数的情况下,此时的计数值cnt(即,上限值lim)不同于对计数值cnt进行计数直到曝光时段结束才停止的情况下的值,并且不再是与曝光时段内的曝光量相对应的值。因此,信号处理单元250估计曝光时段结束时的计数值。
图13是示出了根据本技术第一实施方案的像素电路300和计时单元290的操作示例的时序图。在从时刻t1到t3的曝光时段内,计时单元290中的计时电路292测量时间并与计时信号等同步地更新表示时间的计时器值。
当计数值cnt在曝光时段的时刻t2达到上限值lim时,像素电路300中的计数控制单元274在预定脉冲时段内输出高电平请求req。
然后,当输入请求req时,计时单元290中的传输单元293在从时刻t2起经过了延迟时间dt的时刻t21输出时间信息tc。这里,延迟时间dt是由请求req从像素电路300经由水平信号线298传输到计时单元290的传输延迟或传输单元293中电路的操作时间引起的。
如上面描述的,计时单元290仅仅在输入请求req时输出时间信息tc。因此,与在曝光时段内继续输出时间信息tc的情况相比,减少了时间信息tc的传输次数并且可以降低计时单元290的功耗。
图14是示出了根据本技术第一实施方案的计数值的变化示例的图。在图14中,纵轴表示计数值cnt,横轴表示计数时间。时刻t1是曝光开始时间,而时刻t3是曝光结束时间。从时刻t1到t3的时间对应于曝光时间te。
在时刻t1,光子计数器273开始计数,并且计数值cnt随着时间的推移而增大。在曝光时段内几乎没有照度变化的情况下,计数值cnt的增大速度变得基本上恒定,并且照度越高增大速度越快。然后,假设在时刻t2计数值cnt达到上限值lim。在该时刻t2,光子计数器273停止计数。
然后,信号处理单元250将从时刻t1到t2的时间tc、曝光时间te和上限值lim代入表达式1,并计算曝光结束时的计数值作为估计值est。上面描述的时间信息可以是表示输入请求的时刻(时刻t2等)的信息或可以是表示从曝光开始到输入请求时的时间(tc等)的信息。
在可以由光子计数器273计数的最大值是上限值lim的情况下,即使在接收超过与上限值lim相对应的光量的光量的情况下,固态成像元件200也可以根据曝光量估计计数值。
另一方面,假设在曝光时段内不停止计数的比较例,在比较例中,如果曝光量较大,则有可能不能获得准确的计数值。例如,在使用8位计数器的情况下,当接收超过与“255”相对应的光量的光量时,在比较例中,计数值溢出并成为不准确的值。为了避免溢出,可以使用具有足够多的位数的计数器。然而,随着位数变多,计数器的功耗、电路规模和成本增加,这是不期望的。
另一方面,在固态成像元件200中,信号处理单元250使用表达式1估计曝光结束时的计数值。因此,可以扩大动态范围。此外,由于具有多位数的计数器的使用不是必要的,所以可以降低功耗等。
此外,通过使上限值lim变小,可以降低功耗。然而,估计值est的误差反而变得更大。通过权衡降低功耗的优点和降低估计值est的精度的缺点来确定上限值lim的值。
图15是根据本技术第一实施方案的像素电路300和计时单元290的简化图。
光子计数器273对曝光时段内光子的入射次数进行计数并将所测量的次数作为计数值cnt输出。在曝光时段过去之前计数值cnt达到上限值lim的情况下,计数控制单元274根据判定结果dec使光子计数器273停止,并输出请求时间信息tc的请求req。
然后,计时单元290响应于请求req输出时间信息tc。时间信息存储单元277取得并存储时间信息tc,并且信号处理单元250使用表达式1从时间信息tc等获得估计值est。
[像素电路的操作示例]
图16是示出了根据本技术第一实施方案的像素电路300的操作示例的流程图。例如,当执行用于拍摄图像数据的预定应用时,开始该操作。
像素电路300判定曝光开始时间是否已经过去(步骤s901)。
在曝光开始时间已经过去的情况下(步骤s901:是),像素电路300执行对计数值cnt进行计数的计数处理(即,光子计数)(步骤s910)。在时间为曝光开始时间之前的情况下(步骤s901:否)或在步骤s910之后,像素电路300重复步骤s901及随后的步骤。
图17是示出了根据本技术第一实施方案的计数处理示例的流程图。像素电路300中的光子计数器273对光子数进行计数(步骤s911),并且计数控制单元274判定计数值cnt是否已经达到上限值lim(步骤s912)。
在计数值cnt已经达到上限值lim的情况下(步骤s912:是),光子计数器273停止计数并且计数控制单元274根据请求req获得时间信息(步骤s913)。此外,信号处理单元250估计曝光结束时的计数值(步骤s914)。
另一方面,在计数值cnt小于上限值lim的情况下(步骤s912:否),光子计数器273判定该时间是否为曝光结束时间(步骤s915)。在该时间为曝光结束时间之前的情况下(步骤s915:否),光子计数器273重复执行步骤s911及随后的步骤。
在该时间为曝光结束时间的情况下(步骤s915:是)或在步骤s914之后,像素电路300终止计数处理。
如上面描述的,根据本技术的第一实施方案,计时单元290响应于来自像素电路300的请求输出时间信息。因此,与在曝光时段内连续输出时间信息的情况相比,可以降低计时单元290的功耗。
[变形例]
在上面描述的第一实施方案中,在光接收芯片201中针对每一个像素布置电阻器221和光电二极管222。然而,存在随着像素的数量越大,光接收芯片201的电路规模越大的问题。根据第一实施方案的变形例的固态成像元件200与第一实施方案的固态成像元件200的不同之处在于在光接收芯片201中仅布置光电二极管222。
图18是示出了根据本技术第一实施方案的变形例的像素电路300的配置示例的电路图。根据第一实施方案的变形例的像素电路300与第一实施方案的像素电路300的不同之处在于在光接收芯片201侧的光接收电路220中仅布置光电二极管222。除了光电二极管222之外的电路和元件布置在逻辑芯片202侧。
如上面描述的,根据本技术第一实施方案的变形例,由于在光接收芯片201上仅布置光电二极管222,所以与在光接收芯片201中布置电阻器221和光电二极管222两者的情况相比,可以减小光接收芯片201的电路规模。
<2.第二实施方案>
在上面描述的第一实施方案中,由于请求req的传输延迟等,在输出请求req的时间和由像素电路300存储的时间之间产生偏差。根据第二实施方案的计时单元290与第一实施方案的计时单元290的不同之处在于连续输出从输出第一个请求req的时间到曝光结束的时间信息tc以抑制延迟。
图19是示出了根据本技术第二实施方案的时间信息生成单元291的配置示例的框图。第二实施方案的时间信息生成单元291与第一实施方案的时间信息生成单元291的不同之处在于包括传输单元295而不是传输单元293。除了请求req之外,也将曝光控制信号输入到传输单元295。
当在曝光时段内从行中任意像素输入请求时,传输单元295开始输出时间信息tc并且继续输出直到曝光结束。
图20是示出了根据本技术第二实施方案的像素电路300和计时单元290的操作示例的时序图。假设在某一行中像素a在曝光时段内的时刻t2输出请求req。该行中的传输单元293在经过了延迟时间dt的时刻t21开始输出时间信息tc。像素a取得并存储时刻t21的时间信息tc。然后,计时单元290输出从时刻t21到曝光结束时的时刻t3中的每个时刻的时间信息tc。
接着,假设,在时刻t21之后的时刻t22,与像素a在相同的行中的像素b输出请求req。像素b取得并存储时刻t22的时间信息tc。
由首先输出请求req的像素a存储的时间从请求req的输出时间延迟了延迟时间dt。然而,此后,连续输出时间信息而与请求req的有无无关。因此,由输出请求req的像素b存储的时间从请求req的输出时间起几乎不会延迟。
如上面描述的,根据本技术的第二实施方案,计时单元290从来自任意像素的请求的输入起连续输出时间信息。因此,可以抑制由此后的像素输出请求的时间和像素中存储的时间之间的偏差。
<3.第三实施方案>
在上面描述的第一实施方案中,由于请求req的传输延迟等,在请求req的输出时间(即,计数值达到上限值时的时间)和由像素电路300存储的时间之间产生偏差。根据第三实施方案的像素电路300与第一实施方案的像素电路300的不同之处在于在计数值cnt达到上限值lim之前开始输出时间信息以抑制时间的偏差。
图21是示出了根据本技术第三实施方案的计数控制单元274的操作示例的图。在根据第三实施方案的计数控制单元274中,除了上限值lim之外,还进一步地设定紧接在前的值pre。紧接在前的值pre是表示达到上限值lim之前的计数值cnt的值。例如,在执行递增计数的情况下,将小于上限值lim的值设定为紧接在前的值pre。具体地,当上限值lim是“255”时,将“250”等设定为紧接在前的值pre。需要指出的是,在执行递减计数的情况下,将大于下限值的值设定为紧接在前的值pre。
在计数值cnt小于紧接在前的值pre的情况下,计数控制单元274输出“0”的判定结果dec和“0”的请求req。此外,在计数值cnt等于或大于紧接在前的值pre且小于上限值lim的情况下,计数控制单元274输出“0”的判定结果dec和“1”的请求req。然后,在计数值cnt达到上限值lim的情况下,计数控制单元274输出“1”的判定结果dec和“0”的请求req。
图22是示出了根据本技术第三实施方案的像素电路300和计时单元290的操作示例的时序图。当计数值cnt在曝光时段内的时刻t18达到紧接在前的值pre时,计数控制单元274输出高电平请求req。然后,当计数值cnt在时刻t2达到上限值lim时,计数控制单元274将请求req设定为低电平并停止输出。即,从时刻t18到时刻t2连续输出请求req。
在从时刻t18起经过了延迟时间dt之后的时刻t19,计时单元290中的传输单元293开始输出时间信息。然后,在从时刻t2起经过了延迟时间dt之后的时刻t21,传输单元293停止时间信息的输出。即,在将请求req输入到计时单元290的时段内的每个时刻,输出时间信息。
此外,时间信息存储单元277在请求req下降时的时刻t2存储时间信息。从时刻t2之前的时刻t19到时刻t2之后的时刻t21连续输出时间信息。因此,由时间信息存储单元277存储的时间从计数值cnt达到上限值lim的时间起几乎不会延迟。
如上面描述的,根据本技术的第三实施方案,从计数值达到紧接在前的值时到计数值达到上限值时,计数控制单元274连续输出请求。因此,在所述时段内,计时单元290可以连续输出时间信息。因此,时间信息存储单元277可以在时间信息的输出期间取得并存储计数值达到上限值的时间。因此,可以抑制由时间信息存储单元277存储的时间和计数值达到上限值时的时间之间的偏差。
<4.第四实施方案>
在上面描述的第一实施方案中,针对计时单元290中的每一行布置时间信息生成单元291。然而,随着行的数量越大,时间信息生成单元291的数量越大,并且电路规模和成本可能会增加。根据第四实施方案的固态成像元件200与第一实施方案的固态成像元件200的不同之处在于所有的行共享一个时间信息生成单元291。
图23是示出了根据本技术第四实施方案的逻辑阵列单元260和计时单元290的配置示例的框图。根据第四实施方案的计时单元290与第一实施方案的计时单元290的不同之处在于仅保持一个时间信息生成单元291。时间信息生成单元291连接到所有行并由所有行(即,所有像素)共享。
如上面描述的,根据本技术的第四实施方案,所有行共享一个时间信息生成单元291。因此,与针对每一行布置时间信息生成单元291的情况相比,可以减小电路规模和计时单元290的成本。
<5.第五实施方案>
在上面描述的第一实施方案中,在固态成像元件200中,电路和元件分布并布置在两个芯片(光接收芯片201和逻辑芯片202)上。然而,随着像素的数量越大,芯片的电路规模和面积可能会越大。根据第五实施方案的固态成像元件200与第一实施方案的固态成像元件200的不同之处在于电路等分布并布置在三个芯片上。
图24是示出了根据本技术第五实施方案的固态成像元件200的层叠结构的示例的图。根据第五实施方案的固态成像元件200与第一实施方案的固态成像元件200的不同之处在于进一步地包括层叠在逻辑芯片202上的计时芯片203。
图25是示出了根据本技术第五实施方案的逻辑芯片202的配置示例的框图。根据第五实施方案的逻辑芯片202与第一实施方案的逻辑芯片202的不同之处在于没有布置计时单元290。
图26是示出了根据本技术第五实施方案的计时芯片203的配置示例的平面图。计时单元290布置在计时单元203中。在计时单元290中,针对每个像素电路300布置时间信息生成单元291。这些时间信息生成单元291一对一地连接到对应的像素电路300。
需要指出的是,固态成像元件200中的电路分布并布置在三个芯片上。然而,可以配置四个以上芯片,并且电路可以分布并布置在这四个芯片上。
如上面描述的,根据本技术的第五实施方案,固态成像元件200中的电路分布并布置在三个芯片上。因此,与将电路分布并布置在两个芯片上的情况相比,可以减小芯片的电路规模和面积。
<6.移动体的应用示例>
根据本公开的技术(本技术)可以应用于各种产品。例如,根据本公开的技术可以实现为安装在包括汽车、电动汽车、混合动力电动汽车、摩托车、自行车、个人移动装置、飞机、无人机、船和机器人等任何一种类型的移动体上的装置。
图27是示出了作为可以应用根据本公开的技术的移动体控制系统的示例的车辆控制系统的示意性配置示例的框图。
车辆控制系统12000包括通过通信网络12001连接的多个电子控制单元。在图27示出的示例中,车辆控制系统12000包括驱动系统控制单元12010、车身系统控制单元12020、车外信息检测单元12030、车内信息检测单元12040和综合控制单元12050。此外,作为综合控制单元12050的功能配置,示出了微型计算机12051、声音图像输出单元12052和车载网络接口(i/f)12053。
驱动系统控制单元12010根据各种程序控制与车辆的驱动系统相关的装置的操作。例如,驱动系统控制单元12010用作以下装置的控制装置:如内燃机或驱动电机等用于产生车辆的驱动力的驱动力产生装置;用于将驱动力传递到车轮的驱动力传递机构;调整车辆的转向角的转向机构;产生车辆的制动力的制动装置等。
车身系统控制单元12020根据各种程序控制装备在车身上的装置的操作。例如,车身系统控制单元12020充当以下装置的控制装置:无钥匙进入系统、智能钥匙系统、自动车窗装置以及如前照灯、后照灯、刹车灯、转向信号灯和雾灯等各种灯。在这种情况下,可以将从替代钥匙的移动设备发送的无线电波或各种开关的信号输入到车身系统控制单元12020。车身系统控制单元12020接收无线电波或信号的输入,并且控制门锁装置、自动车窗装置、灯等。
车外信息检测单元12030检测安装了车辆控制系统12000的车辆的外部的信息。例如,成像单元12031连接到车外信息检测单元12030上。车外信息检测单元12030使得成像单元12031拍摄车辆外部的图像,并且接收拍摄到的图像。车外信息检测单元12030可以基于接收到的图像对人、车辆、障碍物、标志或路面上的字符等执行物体检测处理或距离检测处理。
成像单元12031是接收光并且根据光的光接收量输出电信号的光学传感器。成像单元12031可以输出电信号作为图像,并且可以输出电信号作为距离测量信息。此外,由成像单元12031接收到的光可以是可见光或可以是如红外光等的不可见光。
车内信息检测单元12040检测车辆内部的信息。例如,检测驾驶员的状态的驾驶员状态检测单元12041连接到车内信息检测单元12040。例如,驾驶员状态检测单元12041包括拍摄驾驶员的相机,并且车内信息检测单元12040可以基于从驾驶员状态检测单元12041输入的检测信息计算驾驶员的疲劳程度或集中程度,或可以判定驾驶员是否在方向盘上睡着。
微型计算机12051基于车外信息检测单元12030或车内信息检测单元12040获得的车辆外部和内部的信息计算驱动力产生装置、转向机构或制动装置的控制目标值,并且可以向驱动系统控制单元12010输出控制指令。例如,微型计算机12051可以执行协同控制以实现高级驾驶员辅助系统(adas)的功能,该功能包括车辆的碰撞避免或撞击减轻、基于车间距离的跟车行驶、车速保持行驶、车辆的碰撞警告和车辆的车道偏离警告等。
此外,微型计算机12051基于车外信息检测单元12030或车内信息检测单元12040获得的车辆周围的信息控制驱动力产生装置、转向机构或制动装置等以执行旨在实现不依赖驾驶员的操作的自主行驶的自动驾驶等的协同控制。
此外,微型计算机12051可以基于车外信息检测单元12030获得的车辆外部的信息向车身系统控制单元12020输出控制指令。例如,微型计算机12051可以根据车外信息检测单元12030检测到的前方车辆或对向车辆的位置通过控制前照灯并且将远光灯切换为近光灯等来执行旨在实现无眩光的协同控制。
声音图像输出单元12052将声音和图像中的至少一种的输出信号传输到输出装置,该输出装置能够在视觉上和听觉上向车辆的乘客或车辆的外部通知信息。在图27的示例中,作为输出装置,示例性地示出了音频扬声器12061、显示单元12062和仪表面板12063。例如,显示单元12062可以包括车载显示器和平视显示器中的至少一者。
图28是示出了成像单元12031的安装位置的示例的图。
在图28中,作为成像单元12031,包括成像单元12101、12102、12103、12104和12105。
例如,成像单元12101、12102、12103、12104和12105设置在车辆12100的前鼻、侧视镜、后保险杠或后门以及车内挡风玻璃的上部等位置。设置在前鼻上的成像单元12101和设置在车内挡风玻璃的上部的成像单元12105主要获取车辆12100的前方图像。设置在侧视镜上的成像单元12102和12103主要获取车辆12100的侧面的图像。设置在后保险杠或后门上的成像单元12104主要获取车辆12100的后面的图像。设置在车内挡风玻璃的上部的成像单元12105主要用于检测前方车辆、行人、障碍物、交通信号灯、交通标志或车道等。
需要指出的是,图28示出了成像单元12101到12104的成像范围的示例。成像范围12111表示设置在前鼻上的成像单元12101的成像范围,成像范围12112和12113分别表示设置在侧视镜上的成像单元12102和12103的成像范围,以及成像范围12114表示设置在后保险杠或后门上的成像单元12104的成像范围。例如,通过叠加成像单元12101到12104拍摄的图像数据可以获得从上方观察到的车辆12100的俯瞰图像。
成像单元12101到12104中至少一个可以具有获得距离信息的功能。例如,成像单元12101到12104中的至少一个可以是包括多个图像传感器的立体相机,或可以是具有用于相位差检测的像素的图像传感器。
例如,微型计算机12051基于从成像单元12101到12104中获得的距离信息,获得到成像范围12111到12114中的三维物体的距离以及距离的时间变化(相对于车辆12100的相对速度),从而将在行驶路径上并且以预定的速度(例如,等于或大于0km/h)在与车辆12100大致相同的方向上行驶的最接近车辆12100的三维物体提取为前方车辆。此外,微型计算机12051可以预先设定与前方车辆之间要确保的车间距离,并且执行自动制动控制(包括跟车停止控制)和自动加速控制(包括跟车启动控制)等。以这种方式,可以执行旨在实现不依赖驾驶员的操作的自主行驶的自动驾驶等的协同控制。
例如,微型计算机12051基于从成像单元12101到12104获得的距离信息将关于三维物体的三维物体数据提取并且分类为两轮车辆、普通车辆、大型车辆、行人和如电线杆等其他三维物体的三维物体数据,并且可以使用这些数据用于自动避开障碍物。例如,微型计算机12051将车辆12100周围的障碍物区分为由车辆12100的驾驶员视觉上可以识别的障碍物和由驾驶员视觉上无法识别的障碍物。然后,微型计算机12051判定表示与每一个障碍物碰撞的风险的碰撞风险,并且在碰撞风险为设定值或高于设定值并且存在碰撞可能的情况下,微型计算机12051可以通过经由音频扬声器12061或显示单元12062向驾驶员输出警告并且通过驱动系统控制单元12010执行强制减速或避让转向来执行碰撞避免的驾驶辅助。
成像单元12101到12104中的至少一个可以是检测红外光的红外相机。例如,微型计算机12051判定在成像单元12101到12104的拍摄图像中是否存在行人,从而识别行人。例如,通过提取在作为红外相机的成像单元12101到12104的拍摄图像中的特征点的过程和通过对表示物体轮廓的一系列特征点进行图案匹配处理并且判断是否是行人的过程进行这种行人的识别。例如,当微型计算机12051判定在成像单元12101到12104的拍摄图像中存在行人并且识别出行人时,声音图像输出单元12052使显示单元12062叠加并且显示用于强调所识别出的行人的方形轮廓线。此外,声音图像输出单元12052可以使显示单元12062在期望的位置显示表示行人灯的图标。
已经描述了可以应用根据本公开的技术的车辆控制系统的示例。例如,根据本公开的技术能够适用于上述配置中的成像单元12031。具体地,图1中的成像装置100可以应用于成像单元12031。通过将根据本公开技术应用于成像单元12031,可以降低包括成像单元12031的系统的功耗。
需要指出的是,上面描述的实施方案描述了用于实现本技术的示例,并且实施方案中的事项与用来具体说明权利要求书中的发明的事项分别具有对应关系。类似地,用来具体说明权利要求书中的发明的事项与给出相同名称的本技术的实施方案中的事项分别具有对应关系。然而,本技术不限于所述实施方案,并且可以在不偏离本技术的要旨的情况下通过对实施方案应用各种变形来实现。
需要指出的是,在本说明书中描述的效果仅仅是示例,并且不受限制,并且可以显示出其他效果。
需要指出的是,本技术也可以具有以下配置。
(1)一种固态成像元件,包括:
计数单元,其配置成对预定曝光时段内光子的入射次数进行计数并输出计数值;
计数控制单元,其配置成执行在所述预定曝光时段过去之前所述计数值达到预定值的情况下停止所述计数单元的控制以及时间信息的请求;
计时单元,其配置成测量时间并响应于所述请求输出所述时间信息;和
估计单元,其配置成基于所述输出的时间信息估计所述预定曝光时段内光子的入射次数。
(2)根据(1)所述的固态成像元件,其中
在所述时间信息的请求中,所述计数控制单元向所述计时单元输出请求所述时间信息的请求,并且
所述计数单元和所述计数控制单元布置在以二维网格的方式排列的多个像素电路中的每一个像素电路中。
(3)根据(2)所述的固态成像元件,其中
所述计时单元将表示由所述多个像素电路中的任意一个像素电路输入所述请求的时刻或从曝光开始到输入所述请求时的时间的信息作为所述时间信息输出。
(4)根据(2)所述的固态成像元件,其中
所述预定值包括用于限制所述计数值的极限值和表示达到所述极限值之前的所述计数值的紧接在前的值,
所述计数控制单元执行在从所述计数值达到所述紧接在前的值时到所述计数值达到所述极限值时的时段内向所述计时单元连续输出所述请求的控制和当所述计数值达到所述极限值时停止所述计数单元的控制,
所述计时单元将表示输入所述请求的时段内的时刻中的每个时刻的信息作为所述时间信息输出,并且
所述估计单元基于所述计数值达到所述极限值时的所述时间信息估计所述入射次数。
(5)根据(1)到(4)中任一项所述的固态成像元件,其中
所述计时单元包括各自配置成测量所述时间并生成所述时间信息的多个时间信息生成单元,并且
所述多个像素电路分别连接到彼此不同的所述时间信息生成单元。
(6)根据(1)到(4)中任一项所述的固态成像元件,其中
所述计时单元包括各自配置成测量所述时间并生成所述时间信息的多个时间信息生成单元,并且
各自包括沿预定方向排列的预定数量的所述像素电路的多条线分别连接到彼此不同的所述时间信息生成单元。
(7)根据(1)到(4)中任一项所述的固态成像元件,其中
所述计时单元包括配置成测量所述时间并生成所述时间信息的时间信息生成单元,并且
所述多个像素电路共同连接到所述时间信息生成单元。
(8)根据(1)到(6)中任一项所述的固态成像元件,进一步地包括:
光电二极管,其配置成检测有无一个光子的入射;和
电阻器,其配置成在每次检测到所述光子的入射时使所述光电二极管的一端的电位恢复到初始状态,其中
所述计数单元对所述一端的电位由于所述有无光子的入射的检测而变化的次数进行计数。
(9)根据(8)所述的固态成像元件,其中
所述光电二极管是雪崩光电二极管。
(10)根据(8)所述的固态成像元件,其中
所述光电二极管布置在光接收芯片上,并且
所述电阻器、所述计数单元、所述计数控制单元和所述估计单元布置在层叠在所述光接收芯片上的逻辑芯片上。
(11)根据(8)所述的固态成像元件,其中
所述光电二极管和所述电阻器布置在光接收芯片上,并且
所述计数单元、所述计数控制单元和所述估计单元布置在层叠在所述光接收芯片上的逻辑芯片上。
(12)根据(8)到(11)中任一项所述的固态成像元件,其中
所述光电二极管布置在光接收芯片上,
所述计数单元、所述计数控制单元和所述估计单元布置在层叠在所述光接收芯片上的逻辑芯片上,并且
所述计时单元布置在层叠在所述逻辑芯片上的计时芯片上。
(13)一种成像装置,包括:
计数单元,其配置成对预定曝光时段内光子的入射次数进行计数并输出计数值;
计数控制单元,其配置成执行在所述预定曝光时段过去之前所述计数值达到预定值的情况下停止所述计数单元的控制以及时间信息的请求;
计时单元,其配置成测量时间并响应于所述请求输出所述时间信息;
估计单元,其配置成基于所述输出的时间信息估计所述预定曝光时段内光子的入射次数并输出估计值;和
记录单元,其配置成记录从所述估计值生成的图像数据。
(14)一种固态成像元件的控制方法,所述方法包括:
计数过程,对预定曝光时段内光子的入射次数进行计数并输出计数值;
计数控制过程,执行在所述预定曝光时段过去之前所述计数值达到预定值的情况下停止所述计数单元的控制以及时间信息的请求;
计时过程,测量时间并响应于所述请求输出所述时间信息;和
估计过程,基于所述输出的时间信息估计所述预定曝光时段内光子的入射次数。
附图标记列表
100成像装置
110成像透镜
120记录单元
130成像控制单元
200固态成像元件
201光接收芯片
202逻辑芯片
203计时芯片
210光接收单元
220光接收电路
221电阻器
222光电二极管
230垂直控制单元
240水平控制单元
250信号处理单元
260逻辑阵列单元
270逻辑电路
271反相器
272晶体管
273光子计数器
274计数控制单元
275,278,294开关
276估计单元
277时间信息存储单元
290计时单元
291时间信息生成单元
292计时电路
293,295传输单元
300像素电路
12031成像单元