用于数字成像系统中相位检测自动对焦的实时视差上采样
1.本技术要求于2021年7月13日提交美国专利商标局、申请号为 17/373,789、发明名称为“real-time disparity upsampling for phasedetection autofocus in digital imaging systems”的us申请的优先权, 其全部内容通过引用结合在本技术中。
技术领域
2.本公开涉及数字成像系统,并且更具体地,涉及用于数字成像系统中相 位检测自动对焦的实时视差上采样,例如用于智能手机相机和/或其他数码相 机。
背景技术:3.许多电子设备包括数字成像系统。例如,大多数现代智能手机包括一个 或多个数码相机。几乎所有现代数码相机(以及许多其他数字成像系统)都 包括根据各种不同的自动对焦方式实现的自动对焦功能。两种常见的方法分 别是对比度检测自动对焦(cdaf)和相位检测自动对焦(pdaf)。cdaf 的原理是,更高的对比度通常与更好的对焦相关联。因此,cdaf方法通常 涉及测量对比度,调整焦点设置和再次测量对比度的迭代过程,直到找到最 佳焦点设置(例如,形成最高对比度的图像时)。cdaf往往会产生非常清晰 的焦点,但迭代方法往往太慢而无法在应用程序中很好地工作,例如追踪移 动的对象,在视频捕获的过程中的对焦等等。
4.与cdaf相比,pdaf往往倾向于产生明显更快的自动对焦的解决方案。 pdaf的原理是,即使从其捕获图像的视点中的轻微偏移往往也会使得每个 点的相对位置偏移一定量和距离(即视差),这对应于该点与成像系统焦距的 距离。例如,“聚焦”的点可能没有任何视差,较近的点可能显示正(或负) 视差,较远的点可能显示负(或正)视差。因此,pdaf方法通常使用也称 为像素的pdaf传感器形成成像传感器阵列,以从略微不同的视点同时捕获 相同的图像,并且来自不同视点的数据用于计算视差测量。成像系统可以基 于视差测量的量和方向快速将焦点调整到最佳焦点设置。
5.按照惯例,pdaf方法的有效性可能与用于获得不同视点的数据的pdaf 传感器的数量有关。例如,更多数量的pdaf传感器可以为不同的视点提供 更高的数据分辨率,这可以往往为pdaf系统提供更多信息,以执行更准确 的自动对焦。但是,增加传感器的数量也会导致硬件成本增加,处理时间增 加,成像分辨率降低,低光聚焦效率降低和/或其他不良后果。
技术实现要素:6.实施例提供了用于数字成像系统中相位检测自动对焦(pdaf)的实时视 差上采样的系统和方法。例如,成像传感器阵列包括多个物理pdaf传感器, 该物理pdaf传感器提供的pdaf分辨率是成像传感器本身分辨率的一小部 分。通过在上采样位置生成模拟的pdaf传感器,在不依赖于添加物理pdaf 传感器的情况下上采样pdaf分辨率。对于每个上采样位置,实施例可以计 算多个相邻物理pdaf传感器中的每一个的局部视差值和局部对比度值。
可 以通过基于相邻局部对比度值(例如,和附加信息,例如上采样位置和相邻 物理pdaf传感器位置之间的相对距离)加权相邻局部视差值以计算上采样 位置的上采样视差值。上采样位置的上采样视差值可以与物理pdaf传感器 位置的局部视差值组合以生成上采样视差图像以支持pdaf。一些实施例使 用上采样视差值来生成模拟的像素图像值,该模拟的像素图像值将由位于上 采样位置的附加物理pdaf传感器获得。
7.根据一组实施例,提供一种用于在相位检测自动对焦(pdaf)系统中的 实时上采样的方法。所述方法包括:获得指示图像传感器的多个物理相位检 测像素(ppdp)中的每一个的局部视差值的相位检测(pd)视差映射,根据 通过图像传感器获得的原始图像数据计算每个局部视差值,所述图像传感器 包括像素块阵列,每个像素块是各自的光电探测器阵列,其中,所述像素块 的子集用作pd块,对于所述像素块的所述子集中的每一个,通过配置所述 各自的光电探测器阵列的一部分以形成所述多个ppdp中的至少一个,使得 所述多个ppdp中的每一个与所述pd块中的多个ppdp位置中的一个相关联; 基于从所述原始图像数据生成的空间对比度信息,计算所述多个ppdp位置 中的每一个的局部对比度值;识别多个上采样相位检测像素(updp)位置, 每个上采样相位检测像素位置作为在所述pd块以外的各自的所述像素块中 的一个的所述各自的光电探测器阵列中的位置;以及对于所述多个updp位 置中的至少一些中的每一个updp位置:识别所述多个ppdp位置的至少第一 和第二ppdp位置为靠近所述updp位置;至少基于至少所述第一ppdp位置 和所述第二ppdp位置中的每一个的所述局部对比度值计算一组上采样权重; 以及基于所述一组上采样权重和由所述pd视差映射指示的与至少所述第一 ppdp位置和所述第二ppdp位置相关联的所述多个ppdp中的所述局部视差 值,计算所述updp位置的上采样视差值。
8.根据另一组实施例,提供了一种相位检测自动对焦(pdaf)分辨率上采 样系统。所述系统包括:视差映射接口用于,与像素到视差变换器耦合以获 得指示图像传感器的多个物理相位检测像素(ppdp)中的每一个的局部视差 值的相位检测(pd)视差映射,根据通过所述图像传感器获得的原始图像数 据计算每个局部视差值,所述图像传感器包括像素块阵列,每个像素块是各 自的光电检测阵列,其中,所述像素块的子集用作pd块,对于所述像素块 的所述子集中的每一个,通过配置所述各自的光电探测器阵列的一部分以形 成所述多个ppdp中的至少一个,使得所述多个ppdp中的每一个与所述pd 块中的多个ppdp位置中的一个相关联;对比度映射接口用于,与对比度映 射器耦合以基于从所述原始图像数据生成的空间对比度信息,获得所述多个 ppdp位置中的每一个的局部对比度值;视差上采样器,与所述视差映射接口 和所述对比度映射接口耦合,并且包括:权重生成器用于,对于多个updp 位置中对应于所述非pd块中的各自的一个的所述各自的光电探测器阵列内 的物理位置的每个上采样相位检测像素(updp)位置,至少基于确定为靠近 所述updp位置的至少第一ppdp位置和第二ppdp位置中的每一个的所述局 部对比度值,计算一组上采样权重;以及上采样滤波器用于,对于每个updp 位置,基于为所述updp位置计算的所述一组上采样权重和基于由所述pd视 差映射指示的与至少所述第一ppdp位置和所述第二ppdp位置相关联的所述 ppdp中的所述局部视差值,计算所述updp位置的上采样视差值。
9.根据另一组实施例,提供一种用于在相位检测自动对焦(pdaf)系统中 的实时上采样的系统。所述系统包括:一个和多个处理器;以及一种非瞬态 处理器可读存储器,所述非瞬态处理器可读存储器上存储有指令,当执行所 述指令时,使得所述一个或多个处理器
sensor,cis)系统130通信的处理器110。成像传 感器环境100可以用于在任何合适的应用程序上下文中实现数字成像系统。 例如,处理器110,处理器控制系统120和cis系统130都可以在在智能手 机、数码相机、可穿戴设备、可植入设备、笔记本电脑、平板电脑、电子阅 读器、物联网(internet of things,iot)设备,或任何其他合适的上下文中实 现。
19.处理器控制系统120通常旨在表示任何合适的系统以提供成像传感器环 境100的任何合适的特征,而不是cis系统130的特征。例如,在智能电话 中,处理器控制系统120可以包括用于提供电话特征和通信特征、显示特征、 用户交互特征、应用程序处理特征等的子系统。成像传感器环境100的实施 例可以包括一个或多个处理器110。在一些实施例中,一个或多个处理器110 在处理器控制系统120和cis系统130之间共享。在其他实施例中,处理器 控制系统120使用一个或多个处理器110,并且cis系统130具有其自己的 一个或多个专用的处理器110。
20.cis系统130的实施例包括传感器阵列140和传感器控制电路150。如下 所述,传感器阵列140和传感器控制电路150可以经由接口通道145进行通 信。传感器阵列140可以实现为光电探测器元件142的阵列,其可以由任何 合适的光敏组件或组件组实现。在一些实施方式中,每个光电探测器元件142 可以包括被配置为检测一个或多个频带中的光能的光电二极管。例如,光电 探测器元件142实现彩色滤光阵列,使得传感器阵列140可以检测在至少可 见光谱的颜色范围内的光能,并且可以输出相应的电信号。如本文所述,光 电探测器元件142的一部分被实现为相位检测像素以便于相位检测自动对焦 (phase-detection autofocus,pdaf)特征,包括本文所述的那些特征。
21.传感器控制电路150可以包括用于指示传感器阵列140的操作、处理从 传感器阵列140接收的信号以及与其他系统(例如,处理器110)交互的任 何合适的处理器和/或电路。传感器控制电路150的一些实施方式被实现为或 包括具有集成接口组件、存储组件和处理组件的伴随集成电路(integratedcircuit,ic)。例如,传感器控制电路150的处理组件可以包括一个或多个中 央处理单元(central processing units,cpu)、专用集成电路(application-specificintegrated circuits,asic)、专用指令集处理器(application-specificinstruction-set processors,asip)、图形处理单元(graphics processing units, gpu)、物理处理单元(physics processing units,ppu)、数字信号处理器(digitalsignal processors,dsp)、现场可编程门阵列(field-programmable gate array, fpga)、可编程逻辑器件(programmable logic devices,pld)、控制器、微 控制器单元、精简指令集计算机(reduced instruction set computer,risc)处 理器、复杂指令集计算机(complex instruction set computer,cisc)处理器、 微处理器等,或其任何组合。
22.如本文所述,cis系统130被配置为提供新颖的自动对焦特征。自动对 焦特征在数字成像系统中无处不在,许多此类的自动对焦特征是根据对比度 检测自动对焦(contrast detection autofocus,cdaf)方法或相位检测自动对 焦(phase detection autofocus,pdaf)方法实现的。cdaf的原理是,较高 的对比度通常与更好的对焦相关(例如,图像中的模糊边缘可能表现为图像 中较低的整体对比度)。因此,cdaf方法通常涉及测量对比度,调整焦点设 置和再次测量对比度的迭代过程,直到找到最佳焦点设置(例如,形成最高 对比度的图像时)。例如,传感器阵列140获得成像数据,并且成像数据可以 被下采样和高通滤波以获得指示整个图像的对比度水平的对比度图像。cdaf 方法可以通过执行像素的全局
和局部搜索来分析对比度图像,以有效确定图 像的模糊程度。在多个后续迭代中的每一个中,可以调整焦点设置,可以获 得更新的对比度图像,并且可以重新分析更新的对比度图像以确定图像是否 看起来越来越模糊。
23.虽然cdaf可以产生非常清晰的焦点,但它通常有各种限制。一个限制 是,任何单独迭代的对比度信息并不指示图像的离焦程度,或在离焦方向(即, 焦点调整的哪个方向将改善焦点)。因此,cdaf最初可能会在错误的方向上 调整焦点设置,最初会使焦点变差,然后才能检测到错误并改变方向,并且 找到正确的焦点设置需要多次迭代,每次迭代都需进行小的设置更改。此外, 任何特定迭代中的对比度信息可能不指示是否已达到最佳焦点设置。因此, cdaf通常会继续调整焦点,直到它达到最佳焦点设置然后通过最佳焦点, 此时cdaf可以确定焦点再次变差,并且可以通过回溯到最佳焦点设置来响 应。至少出于这些原因,cdaf在许多应用中往往太慢而无法很好地工作, 例如追踪移动的物体、视频捕获期间的对焦等等。例如,cdaf可能会消耗 大约30帧来确定最佳焦点设置,到那时,许多移动的物体的位置将发生变化 并再次失焦。即使使用静态图像捕获,用户也会因为cdaf导致的拍照延迟 而沮丧。
24.pdaf基于与cdaf完全不同的原理,并且往往能比cdaf更快地实现 最佳焦点设置。一般来说,pdaf的工作方式类似于人类深度感知。由于人 的眼睛是水平分离的,每只眼睛看到的图像略有不同(即每只眼睛从略有不 同的视点看到相同的场景)。特别是,当眼睛都聚焦在空间中的特定点时,该 点在左眼和右眼图像中实际位于同一位置。然而,任何距离眼睛更近或更远 的点将往往在一只眼睛的图像中相对于另一只眼睛的图像发生空间偏移。偏 移的量和方向在数学上(例如,几何上)与眼睛之间的间隔和物体与眼睛的 距离(例如,或与焦距)相关。两个视点之间的空间(相位)偏移的量和方 向称为“视差”。
25.pdaf通过配置pdaf传感器从略微不同的视点同时捕获相同的图像, 并使用来自不同视点的数据计算视差测量来利用这一原理。例如,掩模和/或 透镜用于配置一些传感器以检测第一视点,并且配置其他传感器以同时检测 第二视点。通常,不同的视点被配置为左右互补、上下互补等。而不是像cdaf 那样反复尝试不同的设置来找出焦点调整的最佳量和最佳方向,在pdaf方 法中计算的视差测量直接指示焦点调整的量和方向以应用于最佳焦点。
26.图2示出了配置用于pdaf特征的成像传感器阵列140的示例实施方式 的更详细的视图。如上所述,成像传感器阵列140包括诸如光电二极管之类 的光电探测器元件142的阵列。成像传感器阵列140的实施例将光电探测器 元件142布置成像素块210的阵列,使得每个像素块210是n
×
m光电二极 管阵列的实例,其中n和m是正整数。在一些实施方式中,n可以等于m, 使得每个像素块是方形光电二极管阵列。在一些实施方式中,每个像素块210 具有相同数量的光电探测器元件142。在一些实施方式中,每个像素块210 通常可以根据相同的彩色滤光阵列(color filter array,cfa)模式(例如,拜 耳模式等)来布置。
27.如上所述,成像传感器阵列140的像素的一部分被配置为形成pdaf传 感器(在本文中被称为物理相位检测像素,或ppdp 220)。如图所示,像素 块210的子集是pd块212,指示每个pd块212包括至少一个ppdp 220。不 是pd块212的其他像素块210被指示为非pd块214。在所示配置中,像素 块210的六分之一是pd块212,而像素块210的其余六分之五是非pd块214。 如图所示,每个非pd块214根据所谓的“hexd-w”块布置,使得每个都是 遵循“rggbw”cfa模式(红色、绿色、绿色、蓝色、白色)的16
×
16光 电探测器阵列(即256像素)。
28.每个pd块212可以以与非pd块214基本相同的方式布置,除了每个 pd块212中的光电探测器元件142中的一些被配置为形成ppdp 220。如图 所示,每个pd块212被实现为hexd-w块,其光电探测器元件142中的16 个被配置为形成四个ppdp 220。在一些实施方式中,每个ppdp 220通过在 光电探测器元件142的方形分组顶部实现片上透镜(on-chip lens,ocl)226 而形成。ocl 226被配置为从ppdp 220的角度形成多个视点。在所示配置中, 每个ppdp 220包括设置在光电探测器元件142的2x2分组上的2x2 ocl226, 从而有效地形成2x1左视点元素222和2x1右视点元素224。
29.以上描述遵循将单个ppdp 220称为光电检测器元件142的2x2分组的惯 例,在其上布置有2x2 ocl226。其他实施例能够以其他方式实现ppdp 220, 和/或关于ppdp 220可以遵循其他惯例。例如,用于pd感测的每个光电探 测器元件142可被独立地称为ppdp 220,使得如图所示的实施方式可以被视 为具有其上布置有2x2 ocl 226的四个ppdp 220的分组。在其他实施方式中, 2x1 ocl 226设置在两个光电探测器元件142的分组上方,并且具有其2x1ocl 226的两个光电探测器元件142的每个分组被称为ppdp 220。在其他实 施方式中,ppdp 220通过使用金属屏蔽(或任何合适的不透明物质)来阻挡 某些光电探测器元件142或光电探测器元件142的部分而形成。本文所述的 技术通常可以在不依赖或不需要ppdp 220实施方式的任何特定的类型、任何 特定的成像传感器阵列140尺寸等的情况下运行。
30.如上所述,pdaf方法涉及使用来自pdaf传感器(即,来自ppdp 220) 的数据计算视差测量。计算视差测量涉及复杂的计算,包括准确的模式识别 和不同视点之间的匹配。按照惯例,pdaf方法的有效性可能与用于获得不 同视点数据的pdaf传感器的数量有关。更多的pdaf传感器可以为不同视 点的模式匹配和视差计算提供更高的数据分辨率,这往往可以为pdaf系统 提供更多的信息,以执行更准确的自动对焦。例如,一些常规的pdaf方法 将大约百分之五到十的成像传感器阵列140像素配置为ppdp 220,而其他的 常规方法已将高达百分之百的成像传感器阵列140像素配置为ppdp 220。虽 然如此大量的ppdp 220提供了某些特征,但是增加ppdp 220的数量也会导 致硬件成本增加,处理时间增加,成像分辨率降低,低光聚焦效率降低和/或 其他不良后果。例如,使用大量的ocl形成大量的ppdp 220可能相对昂贵 且制造复杂,可替代地,使用大量的金属屏蔽来形成大量的ppdp 220会减少 到达光电探测器元件142的光量并且会降低成像质量。
31.一些实施方式可以包括对在成像传感器阵列140中的ppdp 220的实际数 量的附加限制。再参考图1,图示的成像传感器环境100示出了经由接口通 道145与成像传感器阵列140通信的传感器控制电路150,并且可以在传感 器阵列140中实现的常规ppdp 220的最大数量可能受到接口通道145的速度 和/或带宽的限制。在一个示例实施方式中,成像传感器阵列140具有数千万 个光电探测器元件142(例如,42兆像素传感器阵列),并且成像传感器阵列 140经由相对低的带宽接口通道145(例如,移动行业处理器接口,或) 与传感器控制电路150的伴随ic通信。在这样的实施方式中,被实现为ppdp 220的像素的每个额外百分比可以导致数十万个额外的ppdp 220输出通过接 口通道145进行通信。
32.出于这些和其他原因,本文所述的实施例被假定为具有相对低百分比的 ppdp 220。例如,在图2所示的实施方式中,成像传感器阵列140的像素块 210中只有六分之一是
pd块212,并且图2的每个pd块212仅使用其256 个光电探测器元件142中的16个来形成ppdp 220。因此,在所示实施方式 中,仅大约百分之一的光电探测器元件142被用于形成ppdp 220。如上所述, 尽管实现ppdp 220的如此小的百分比在成本、可制造性、数据通信等方面是 可取的,ppdp 220的相对较小的百分比还提供用于执行pdaf的相对较低的 分辨率数据。
33.如本文所述,实施例提供了有效地增加pdaf数据分辨率而不增加ppdp220的数量的新颖的pdaf方法。图3示出了根据本文所述的各种实施例的 说明性的pdaf分辨率上采样系统300的框图。pdaf分辨率上采样系统300 被配置用于实时、对比度加权的视差上采样以有效地增加可用于执行pdaf 的有用的相位检测(pd)信息的量。pdaf分辨率上采样系统300的实施例 可以使用一个或多个处理器来实现。例如,pdaf分辨率上采样系统300可 以在与成像传感器阵列140耦合的伴随ic中实现,例如通过图1的cis系统 130的传感器控制电路150。在这样的实施方式中,pdaf分辨率上采样系统 300包括一个或多个存储器(未明确示出),该一个或多个存储器包括存储在 其上的指令,当指令被执行时,使得一个或多个处理器执行本文所述的各种 功能。例如,这样的指令可以以固件、状态机和/或任何其他合适的方式来实 现。
34.如图所示,pdaf分辨率上采样系统300包括至少视差上采样器340。在 一些实施例中,pdaf分辨率上采样系统300还包括像素到视差变换器310、 对比度映射器320、视差到像素变换器360和/或输出子系统380。就上下文 而言,成像传感器阵列140被示为输出原始图像数据305。原始图像数据305 可以包括对应于成像传感器阵列140中所有光电二极管的检测输出的像素图 像值。例如,在使用2
×
2块(即,四个)光电探测器实现每个ppdp 220的 实施例中,原始图像数据305可以包括四个对应的像素图像值。在一些实施 方式中,原始图像数据305包括成像传感器阵列140中的每个光电探测器的 个体数据。在其他实施方式中,来自成像传感器阵列140的传感器输出通过 像素合并或一些其他下采样类型的操作而减少。例如,基于用于实现成像传 感器阵列140的cfa模式,可以在作为原始图像数据305的一部分被输出之 前将相同颜色的像素合并在一起。类似地,可以组合和/或重新配置来自多个 光电探测器的像素图像值以生成符合特定标准的输出,例如通过变换为标准 的rgb输出以通过mipi接口传送。
35.像素到视差变换器310的实施例可以使用原始图像数据305来生成成像 传感器阵列140的ppdp 220的视差值的映射。如图所示,像素到视差变换器 310的实施例可以包括局部视差计算器315。局部视差计算器315可以接收和 /或获得ppdp位置312的映射(例如,列表),并且基于计算由ppdp 220在 该ppdp位置312中检测到的不同视点之间的相移(例如,空间偏移)来计 算ppdp位置312中的每一个的每个ppdp 220的视差。每个ppdp 220使用 ocl或其他光学组件以在其组件光电探测器处有效地接收多个视点。例如, 参考图2所述,每个ppdp 220可以包括一个或多个左视点元素222和一个或 多个右视点元素224。在一些实施方式中,对同一个视点有贡献的光电探测 器可以合并在一起。例如,每个ppdp 220可以为每个视点输出单个像素图像 值(例如,单个左视点像素图像值和单个右视点像素图像值)。多视点像素图 像值可以用于计算视点之间的空间偏移的量。例如,来自跨成像传感器阵列 140的所有ppdp 220的所有左视点像素图像值可用于生成左视点图像,并且 来自跨成像传感器阵列140的所有ppdp 220的所有右视点像素图像值可用于 生成右视点图像。在
左视点图像和右视点图像之间执行模式和/或模板匹配和 /或其他图像处理以找到用于确定局部空间偏移的量和方向(即,视差量)的 共同特征。
36.在一些实施例中,局部视差计算器315可以配置有特定设置(例如,模 板大小、搜索范围等),并且可以使用绝对差和(sum-of-absolute-difference, sad)操作来获得每个ppdp位置312处的视差值。一些实施例进一步执行 置信水平检查。例如,可以对计算出的sad曲线执行质量检查,以确保有效 的视差输出。在一些实施方式中,评估各种条件以确定sad曲线是否通过置 信水平检查,例如:确定对应于sad曲线计算的sad向量长度至少为最小 长度(例如,暗示最小搜索范围)、确定sad曲线具有局部最小值(例如, 并且仅有一个局部最小值)、确定sad曲线的局部最小值位于或接近sad曲 线的中间(例如,局部最小值不是前两个或后两个sad值之一)、确定局部 最小值与其最近邻之间的sad值差大于预确定的(例如,可配置的)阈值。 一些实施方式通过使用应用于计算出的sad曲线的曲线拟合技术导出子像 素精度中的视差来执行子像素内插。例如,曲线拟合可以以子像素精度识别 sad全局最小值点。在一些实施方式中,置信水平检查用于确定是否忽略(即, 不使用)用于上采样(例如,和/或用于其他pdaf功能)的某些视差值。例 如,对于未通过置信水平检查的任何ppdp位置312,一些实施方式可以忽略 该位置中的视差,而其他实施方式可以将该位置中的视差设置为零。
37.局部视差计算器315可以为每个ppdp 220(例如,在每个ppdp位置312 处)计算单个视差值,其可以输出为物理pd视差映射317。例如,具有x(例 如,4800万)像素的分辨率的成像传感器阵列140被配置有百分之y(例如, 百分之一)的其光电探测器,用于形成ppdp 220,每个ppdp 220使用z个 (例如,四个)光电探测器的块形成。局部视差计算器315最多可以计算 x*y/z(例如,成像传感器阵列140的全分辨率的百分之一的大约四分之一, 或与124500个ppdp位置312相关联的124500个视差值)。物理pd视差映 射317可以有效地是值的阵列,使得阵列中的每个位置对应于ppdp位置312 中的一个,并且分配给每个阵列位置的阵列值是ppdp 220在相对应的ppdp 位置312计算出的视差。
38.局部视差计算器315的一些实施例可以包括附加特征以支持像素级视差 的计算。例如,局部视差计算器315可以包括合并模块以将每个ppdp 220转 换为每个视点的单个值(例如,最初具有四个值的2
×
2ppdp 220可以变换 为表示第一视点值和第二视点值的1
×
2块)。局部视差计算器315的一些实 施例可以包括灵敏度校正模块。例如,由于光学系统制造公差、用于成像的 像素和用于ppdp 220的像素之间的灵敏度差异,灵敏度校正模块可以实现增 益补偿以确保不同的像素具有相似的灵敏度。这种灵敏度校正模块可用于减 少或消除光学系统(例如,成像透镜和微透镜)制造公差的问题,和/或将ppdp220水平标准化为其他光学成像像素水平。如下所述,这种灵敏度校正可用 于通过视差到像素转换器360执行视差到像素变换。在一些实施方式中,灵 敏度校正模块将每个视点元素(例如,ppdp 220的每个左视点或右视点元素) 乘以单独的增益,该增益被预先校准到本地存储的纽结表中并通过双线性插 值扩展。
39.局部视差计算器315的一些实施例可以包括低通滤波模块以跨ppdp 220 执行去噪操作,例如对被配置为提供水平视差的ppdp 220执行简单的水平去 噪。例如,一维滤波器可以通过寄存器根据滤波器长度和权重方面进行配置, 以执行简单的去噪。在这样的实施例中,物理pd视差映射317中的视差值 可以是灵敏度校正值。
40.局部视差计算器315的一些实施例包括对比度检测模块以检测像素级对 比度。例如,局部窗口像素信息可用于获得与对比度相关的平均值和偏差统 计,并输出二元判定,例如,用作自适应选择的标志,其中ppdp 220用于上 采样。本文所述的对焦操作使用对比度信息和相位信息。因此,通过对比度 检测模块对场景对比度进行简单检测,可以提高局部视差计算的鲁棒性。在 一些实施方式中,局部窗口像素信息由选定的搜索范围确定,并且多视点(例 如,左和右)信息汇总在一起。可以基于当前的局部信息计算平均值和偏差 统计,并可以设置决策边界进行决策。一些实施方式可以是基于增益的。例 如,在低增益应用程序中(例如,在有高照度的情况下),局部像素变化往往 主要来自场景内容信息,而在高增益应用中(例如,在有低照度的情况下), 局部像素变化往往主要来自噪声,而非图像内容。因此,对比度检测模块可 以被配置为在高增益和低增益应用下进行不同的操作。
41.视差上采样器340的实施例包括权重生成器345和上采样滤波器350。 上采样滤波器350被配置为使用至少基于局部对比度值的加权对来自物理pd 视差映射317的视差值上采样。上采样滤波器350可以根据所识别的一组上 采样相位检测像素(updp)位置(本文也称为“上采样位置”)执行上采样。 在一些实施方式中,上采样滤波器350通过从预定义的模板或其他存储的信 息获得updp位置来识别updp位置。在其他实施方式中,上采样滤波器350 通过从ppdp位置312(例如,在物理pd视差映射317中所识别的)计算updp 位置来识别它们。每个updp位置对应于非pd块214的各自的光电探测器阵 列内的位置。在一些实施方式中,updp位置在其非pd块214内处于与其相 邻的ppdp位置在其各自的pd块212内相同的相对位置。updp位置的数量 决定了上采样的量。例如,在如图2所示的像素块210阵列中,每组六个像 素块210包括一个pd块212和五个非pd块214,并且每个pd块212使用 其256个光电探测器的十六分之一来形成四个ppdp。这可以被认为是大约百 分之一的pdaf分辨率(即,16/256*1/6≈0.01)。如果为每个pd块212中的 每个ppdp识别非pd块214中的单个updp位置,则pdaf分辨率可以有效 地翻倍(例如,从大约百分之一到大约百分之二)。如果pd块212中的ppdp 用于识别所有非pd块214中相同密度的updp位置,则分辨率可以有效地提 高到六倍(取决于像素块210的总数和配置,对于每个pd块212,可能没有 五个非pd块214,在这种情况下,分辨率可能增加不到六倍)。
42.权重生成器345的实施例可以生成任何合适的基于对比度的权重,用于 基于物理pd视差映射317指示的计算出的局部视差值,为updp位置中的每 一个生成上采样视差值。权重生成器345的一些实施例可以基于从原始图像 数据305生成的空间对比度信息获得和/或计算ppdp位置312中的每一个的 局部对比度值。权重生成器345的一些实施方式从接收到的对比度映射322 计算局部对比度值。权重生成器345的其他实施方式以指示局部对比度值的 方式接收对比度映射322,而不依赖于进一步的计算。
43.例如,pdaf分辨率上采样系统300的一些实施例包括使用原始图像数 据305来生成对比度映射322的对比度映射器320。对比度映射322可以被 生成为具有高于物理pd视差映射317的分辨率并且等于或低于原始图像数 据305的分辨率。一些cfa模式包括散布的白色像素,并且一些实施例可以 通过高通滤波白色像素输出来生成对比度映射322。例如,在上述十六进制 的cfa图案中,成像传感器阵列140是在rgb像素和白色像素之间交替的 6000
×
8000的光电探测器阵列。因此,此类实施方式中的初始高通滤波操作 可产生3000
×
4000对比度值。一些实施例可以输出对比度值的整个阵列作为 对比度映射322。对比度映
射器320的其他实施例可以根据预定义的像素位 置子采样对比度值。这样的实施例可以使用子采样操作来至少在ppdp位置 312中的每一个生成对比度值,使得可以以至少与物理pd视差映射317相同 的分辨率(例如,和阵列结构)输出对比度映射322。一些这样的实施例也 使用子采样操作来生成作为上采样pdaf数据的一部分输出的上采样位置的 对比度值,如下文进一步所述(例如,对比度图映射322可以至少以与如下 所述的上采样pd视差映射375相同的分辨率和/或阵列结构输出)。
44.为了举例说明,图4示出了具有两个非pd块214分隔的两个pd块212 的像素块210的阵列的说明性部分。每个像素块210以放大但简化的形式示 出,没有任何cfa信息。在pd块212的每一个中,仅示出了单个ppdp 220 (即,其上布置具有ocl 226的四个光电探测器元件142的单个分组,以有 效地形成两个2x1视点图像)。如本文所述,实施例寻求使用从ppdp 220(即, 物理pd像素)及其周围环境接收的成像信息以计算上采样相位检测像素 (updp)420(即,特定指定位置中表示为updp 420的模拟的pd像素)。每 个updp 420与非pd块214中的位置相关联,该位置可以是光电探测器元件 142或光电探测器元件142的块的位置。然而,updp 420并未在物理上实现。 例如,不存在物理上构成updp 420的特定ocl、金属屏蔽或专用的一组光 电探测器元件142。相反,每个updp 420是相邻ppdp 220的上采样,如果 updp 420位置存在ppdp,则该输出的表示将由updp 420位置中的ppdp 220 生成。事实上,updp420在不增加物理pdaf传感器的数量的情况下(例如, 并且没有相关成本、复杂性、数据接口要求等)提供了更高的pdaf数据分 辨率。
45.因此,图4中所示的updp 420旨在指示相关联的说明性updp位置中的 updp 420的说明性表示。如图所示,每个updp420可以与相关联的非pd块 214中的上采样位置相关联,该上采样位置对应于其pd块212中的相邻ppdp220的物理位置。例如,ppdp 220的位置可以通过其最左下侧的光电探测器 元件142相对于从pd块212中的最左下侧的光电探测器元件142开始的光 电探测器元件142的二维网格的位置来识别。例如,每个图示的16
×
16pd 块212在位置(13,11)包括单个ppdp 220。在图示的实施方式中,每个updp420类似地被分配到其各自的非pd块214中的位置(13,11)。连续定位ppdp220和updp420可以提供某些特征,例如简化物理实施方式、简化某些计算 等。然而,其他实施例可以将ppdp 220实现在不同的pd块212中的不同的 物理位置,和/或计算updp 420以具有在不同的非pd块214中不同的、不同 于相邻ppdp 220的上采样位置等。
46.为了便于比较,增加pdaf数据的分辨率的一种简单方法是对来自ppdp220的像素图像值和/或视差值进行插值。例如,如果第一pd块212a中的第 一ppdp 220a的左视点元素222输出值50(纯粹出于说明而选择的任意值), 而第二pd块212b中的第二ppdp 220b中的左视点元素222输出值70(也是 纯粹出于说明而选择的任意值),内插值60可以分配给ppdp 220a和ppdp220b之间的位置。虽然这种方法在技术上会生成更多的pdaf数据点,但内 插数据点不能可靠地为pdaf提供额外的有用信息。作为一个极端的说明性 示例,假设成像系统试图对焦在具有深的、规则间隔的波的表面上,则ppdp220的分辨率(密度、间距等)恰好使得每个ppdp 220“看到”(接收来自反 射的光)波状面的各自波峰。ppdp 220可能会错误地检测平面(由于其分辨 率不足),但简单的插值只会产生相同平面的更高分辨率版本。事实上,pdaf 系统会丢失表面纹理的波峰之间的信息,并且更高的数据密度并不能真正地 提供更好的pdaf分辨率。
47.回到图3,视差上采样器340通过利用ppdp 220的视差值和ppdp 220 周围的局部对比度数据来试图在不增加ppdp 220的数量的情况下有效地提 高pdaf数据分辨率以实时生成updp 420。如上所述,物理pd视差映射317 是指示每个ppdp 220的局部视差值的低分辨率映射。对比度映射322可以(例 如,由对比度映射器320)通过子采样ppdp 220位置的局部对比度信息来生 成。例如,参考图4,每个ppdp 220的局部对比度信息可以从其周围的虚线 区域430中被子采样(例如,虚线区域430仅旨在通常表示周围区域,并且 虚线区域430的大小和形状并非旨在指示实际尺寸或形状,或以其他方式限 制)。
48.返回到权重生成器345,实施例还可以获得和/或计算每个updp位置和 ppdp位置312中的多个相邻ppdp位置之间的距离测量。例如,在一些实施 方式中,距离测量可以基于成像传感器阵列140的已知几何形状和成像传感 器140中ppdp 220的各自的位置预先编程、硬编码等。这种距离测量可以从 查找表中或以任何其他合适的方式检索。在其他实施方式中,权重生成器345 基于识别相邻ppdp位置312为靠近每个updp位置并计算到那些近邻的距离 来计算距离测量。一些实施方式可以基于其两个近邻获得(例如,查找、检 索、计算等)每个updp位置的距离测量。其他实施方式可以基于几何上一 致的一组两个或多个邻居来获得每个updp位置的距离测量,这些邻居可能 是或不是作为该updp位置的距离测量的近邻。
49.为了便于说明,在图4所示的像素块210阵列中,每个非pd块214具 有直接相邻的第一pd块212(例如,非pd块214a具有紧邻其左侧的pd块 212a,并且非pd块214b具有紧邻其右侧的pd块212b),以及在相反方向 具有相距一个块的第二pd块212(例如,非pd块214a具有与其右侧相距 一个块的pd块212b,并且非pd块214b具有与其左侧相距一个块的pd块 212a)。作为另一个例子,在图2所示的像素块210阵列中,可以使用来自 pd块212a和pd块212c的ppdp上采样非pd块214c中的updp位置。例 如,在图2所示的像素块210阵列中,可以使用来自pd块212a、212b和212c 的ppdp上采样非pd块214d中的updp位置。如图4所示,每个updp 420 位置与其相邻的ppdp 220位置相距一些距离测量440。例如,updp 420a的 上采样位置距离ppdp 220a的物理位置440aa,距离ppdp 220b的物理位置 440ba,并且updp 420b的上采样位置距离ppdp 220a的物理位置440ab,距 离ppdp 220b的物理位置440bb。
50.权重生成器345的一些实施例使用来自对比度映射322的局部对比度值 和距离测量(例如,图4中的距离测量440)来计算并输出一组上采样权重 347。一些实施方式在上采样权重347的计算中包括附加值,例如归一化因子。 可以计算一个或多个上采样权重347,以将updp位置与各自的相邻ppdp位 置212配对。例如,对于每个updp位置使用两个近邻的实施方式,每个updp 位置将与两个上采样权重347相关联。例如,每个updp-ppdp位置对的上采 样权重347可以通过乘以(或以其他方式组合)基于ppdp位置处各自的局 部对比度值的第一加权因子、基于updp位置和ppdp位置之间各自的距离的 第二加权因子,以及归一化因子来计算。
51.上采样滤波器350可以使用上采样权重347和来自物理pd视差映射317 的局部视差值来计算上采样视差值352,包括每个updp位置的上采样视差值 352。上采样滤波器350对上采样视差值352的计算可以使用任何合适的上采 样滤波器算法来执行,例如联合双边滤波器。例如,根据为第一相邻ppdp 位置计算的上采样权重347加权的第一相邻ppdp位置的局部视差值的加权 和,以及为第二相邻ppdp位置计算的上采样权重347加权的第二相邻
ppdp 位置的局部视差值等,计算特定updp位置的上采样视差值352。
52.一些实施例可以将上采样视差值352直接传递到输出子系统380(例如, 用于执行pdaf)。例如,一些应用程序上下文期望cis系统130的输出是一 组视差值。在一些这样的实施例中,上采样视差值352和来自物理pd视差 映射317的局部视差值可以组合以生成上采样pd视差映射375。例如,上采 样pd视差映射375是包括每个ppdp位置和每个updp位置的视差值的阵列。 物理pd视差映射317是仅指示ppdp位置的视差值的相对低分辨率的物理 pd视差映射。例如,原始图像数据305可以具有48兆像素的全分辨率(基 于成像传感器阵列140中的光电探测器的数量),并且多个ppdp 220的全输 出可以具有1500
×
332像素的分辨率(即,498000个像素,基于用于形成多个 ppdp 220的光电探测器的大约百分之一)。在一些实施方式中,物理pd视差 映射317可以为那些光电探测器中的每一个分配视差值,使得物理pd视差 映射317具有相同的1500
×
332分辨率。在其他实施方式中,物理pd视差 映射317可以将单个视差值分配给每个ppdp 220(例如,每组四个光电探测 器,例如两个第一视点元件和两个第二视点元件),使得物理pd视差映射317 的分辨率减少到750
×
166(即,与124500个ppdp位置相关联的124500个 视差值,或完整的成像传感器阵列140分辨率的百分之一的大约四分之一)。 上采样pd视差映射375可以包括原始物理pd视差映射317信息和上采样视 差值352。因此,上采样pd视差映射375的分辨率比物理pd视差映射317 的分辨率高一个与上采样的量对应的因子。例如,物理pd视差映射317的 分辨率为750
×
166,上采样pd视差映射375的分辨率为750
×
496(因子增 加略小于三倍)。可以利用不同的图像传感器尺寸、像素块210的不同数量和 /或布置、像素块210中的ppdp 220的不同数量和/或布置、上采样的不同数 量等来获得其他分辨率。例如,实施例通常可以使用低分辨率物理pd视差 映射317(例如,小于完整图像传感器分辨率的百分之五)并且可以输出上 采样的pd视差映射375以至少是物理pd视差映射317的分辨率的两倍。
53.pdaf分辨率上采样系统300的其他实施例可以使用视差到像素变换器 360将上采样视差值352变换为updp位置处的上采样像素图像值。可以计算 上采样像素图像值以模拟每个updp位置处获得的不同视点像素图像值,如 果该位置有ppdp。视差到像素变换器360的实施例包括局部参考生成器365 和updp图像值生成器370。局部参考生成器365可以针对每个updp位置, 基于由一个或多个光电探测器在对应于updp位置的位置获得的一个或多个 像素图像值(例如,根据原始图像数据305),为updp位置生成一个或多个 参考(即第一视点)像素图像值367。例如,updp位置可用于识别相应地位 于非pd块214中的特定2
×
2块光电探测器,以及那些2
×
2光电探测器中 的一个或多个的像素图像值(例如,从原始图像数据305获得)用于形成该 updp位置的一个或多个参考像素图像值367(例如,或参考图像),如同由 ppdp 220的第一视点元素接收一样。
54.然后updp图像值生成器370可以基于该updp位置的参考像素图像值 367和上采样视差值352计算每个updp位置的一个或多个第二视点updp值。 如本文所述,上采样视差值352指示如果ppdp 220处于相同位置,则在不同 视点像素图像值之间的视差量(即空间位移)本应是明显的。因此,updp位 置的上采样视差值352可用于指示空间位移的量和方向以应用于参考像素图 像值367来获得第二视点updp值。每个updp位置处的参考像素图像值367 和第二视点updp值一起形成updp位置的上采样像素图像值,因为它们有效 地模拟了如果ppdp 220实际位于updp位置,ppdp 220的多视点输出会是什 么。
55.视差到像素变换器360的实施例可以将上采样像素图像值输出到输出子 系统380。在一些实施例中,来自视差到像素变换器360的输出与ppdp 220 像素图像输出数据(例如,从原始图像数据305获得)组合以生成上采样pd 像素映射372。例如,上采样pd像素映射372包括:对于每个updp位置, 为updp位置生成各自的第一视点updp图像值,以及为updp位置计算各自 的第二视点updp图像值,并且对于每个ppdp位置,各自的的第一视点ppdp 图像值和各自的第二视点ppdp图像值对应于由与ppdp位置相关联的ppdp220获得的像素图像值,作为捕获原始图像数据305的一部分。上采样pd像 素映射372可以输出到输出子系统380,例如以支持pdaf。例如,一些应用 程序上下文期望看到像素图像值作为从cis系统130的输出。
56.视差到像素变换器360的一些实施例包括附加特征。例如,可以包括预 处理模块以在变换之前准备数据。在一些实施方式中,视差到像素变换器360 包括自适应选择模块(例如,作为updp图像值生成器370的一部分)。自适 应选择模块可以基于局部视差质量决策,例如上文参考像素到视差变换器310 所述的对比度和置信度决策,自适应地选择输出像素数据。例如,仅当局部 对比度和/或置信度标志指示使用优质视差数据来计算那些上采样像素图像 值时,上采样像素图像值才用于上采样pd像素映射372中。如果未使用特 定updp位置中的特定上采样像素图像值,则一些实施方式可以使用不同的 技术来近似该值,例如基于来自相邻ppdp 220的像素图像值的线性插值。
57.图5示出了根据本文所述的各种实施例的用于在相位检测自动对焦 (pdaf)系统中实施上采样的说明性方法500的流程图。可以使用任何合适 的系统执行方法500的实施例,包括本文所述的系统。方法500的实施例开 始于阶段504,通过获得指示图像传感器的多个物理相位检测像素(ppdp) 中的每一个的局部视差值的相位检测(pd)视差映射。每个局部视差值是从 图像传感器获得的原始图像数据计算出来的。如本文所述,图像传感器包括 像素块阵列,每个像素块是各自的光电探测器阵列。像素块的子集被配置为 pd块,对于像素块的子集中的每一个,通过配置各自的光电检测阵列的一部 分以形成ppdp中的至少一个,使得ppdp中的每一个与pd块中的特定一个 中的特定ppdp位置相关联。
58.在阶段508,实施例可以基于从原始图像数据生成的空间对比度信息, 计算ppdp位置中的每一个的局部对比度值。在一些实施例中,在阶段506, 从指示空间对比度信息的原始图像数据计算对比度映射。如本文所述,对比 度映射具有比pd视差图更高的分辨率,并且可以具有与原始图像数据相同 或更低的分辨率。
59.在阶段512,实施例可以识别上采样相位检测像素(updp)位置(在本 文中也称为上采样位置),每个上采样相位检测像素(updp)位置作为pd块 以外(即非pd块)的各自的像素块中的一个在各自的光电检测阵列中的位 置。在一些实施方式中,updp位置在其非pd块内处于与其相邻的ppdp位 置在其各自的pd块内相同的相对位置。updp位置的数量决定了上采样的量。 例如,在如图2所示的一个像素块210阵列中,每组六个像素块210包括一 个pd块212和五个非pd块214,并且每个pd块212使用其256个光电探 测器的十六分之一来形成四个ppdp。这可以被认为是大约百分之一的pdaf 分辨率(即,16/256*1/6≈0.01)。如果为每个pd块212中的每个ppdp识别 非pd块214中的单个updp位置,则pdaf分辨率可以有效地提高一倍(例 如,从大约百分之一到大约百分之二)。如果pd块212中的ppdp用于识别 所有非pd块214中相同密度的updp位置,则分辨率可以有效地提高到六倍 (取决于像素块210
的总数和配置,对于每个pd块212,可能没有五个非 pd块214,在这种情况下,分辨率可能增加不到六倍)。
60.对于每个updp位置(一些或所有的updp位置),方法500可以迭代地 执行阶段516—528以在那些updp位置处生成上采样视差值。例如,在阶段 516—524的每次迭代之后,在阶段528确定是否还有额外的updp位置要处 理。方法500可以继续迭代,直到在阶段528处的确定指示不再存在要为其 生成上采样视差值的updp位置。在一些实施例中,方法500迭代所有的updp 位置。在其他实施例中,可以使用技术来确定某些updp位置是否不是上采 样的良好候选,例如通过确定某些ppdp数据和/或对比度数据似乎不太适合 在特定区域中以高置信度执行上采样等,在这种情况下,方法500可以确定 不在被确定为不是好的上采样候选的那些updp位置处生成上采样视差值。
61.在阶段516,实施例可以识别邻近的ppdp位置为靠近updp位置。在一 些实施方式中,阶段516识别updp位置的两个近邻(第一和第二ppdp位置)。 在其他实施方式中,阶段516识别可能是也可能不是近邻的几何上一致的一 组两个或多个邻居。例如,在图4所示的像素块210阵列中,每个非pd块 214具有直接相邻的第一pd块212(例如,非pd块214a具有紧邻其左侧的 pd块212a,并且非pd块214b具有紧邻其右侧的pd块212b),以及在相反 方向具有相距一个块的第二pd块212(例如,非pd块214a具有与其右侧 相距一个块的pd块212b,并且非pd块214b具有与其左侧相距一个块的pd 块212a)。作为另一个例子,在图2所示的像素块210阵列中,可以使用来自 pd块212a和pd块212c的ppdp上采样非pd块214c中的updp位置。在 其他实施方式中,阶段516识别可能是也可能不是近邻的其他合适的几何上 一致的一组两个或多个邻居。例如,在图2所示的像素块210阵列中,可以 使用来自pd块212a、212b和212c的ppdp上采样非pd块214d中的updp 位置。
62.在阶段520,实施例可以至少基于近邻ppdp位置中的每一个(即,至少 第一ppdp位置和第二ppdp位置)的局部对比度值计算一组上采样权重。在 一些实施方式中,对于每个updp位置,在阶段520的上采样权重的计算进 一步基于updp位置和近邻ppdp位置中的每一个之间的距离。例如,对于每 个ppdp位置,对比度值、到updp位置的距离测量和归一化因子用于计算上 采样权重。
63.在阶段524,实施例可以基于一组上采样权重和由pd视差映射指示的与 近邻ppdp位置相关联的ppdp中的那些ppdp的局部视差值,计算updp位 置的上采样视差值。可以使用任何合适的上采样滤波器算法执行在阶段524 的上采样视差值352的计算,例如联合双边滤波器。例如,第一相邻ppdp 位置的局部视差值由第一相邻ppdp位置计算的上采样权重加权,第二相邻 ppdp位置的局部视差值由第二相邻ppdp位置计算的上采样权重加权等,以 确定updp位置的上采样视差值。
64.已经完成了updp位置的上采样视差值的计算(在阶段528处的确定是 没有更多的updp位置要为其生成上采样视差值),一些实施例可以执行一个 或多个附加阶段。在阶段532,一些实施例可以生成并输出上采样pd视差映 射。在阶段504使用的pd视差映射是指示ppdp位置的视差值的相对低分辨 率的物理pd视差映射。例如,原始图像数据可以具有48兆像素的原始分辨 率(基于图像传感器分辨率),并且ppdp的全输出可以具有1500
×
332像素 的分辨率(即,498000个像素,基于用于形成ppdp的光电探测器的大约百分 之一)。在一些实施方式中,物理pd视差映射可以为那些像素中的每一个分 配视差值,使得物理pd视差映
护的组合可以指向子组合或子组合的变体。
69.类似地,虽然在附图中以特定顺序描绘操作,但这不应理解为要求以所 示的特定顺序或序列顺序执行这些操作,或者执行所有图示的操作,以获得 期望的结果。此外,本专利文件中描述的实施例中的各种系统组件的分离不 应理解为在所有实施例中都需要这样的分离。
70.仅描述了一些实施方式和示例,并且可以基于本专利文件中描述和说明 的内容进行其他实施方式、增强和变化。
71.除非有明确相反的指示,否则“一个”、“一个”或“该”的表述旨在表 示“一个或多个”。范围在本文中可以表示为从“大约”一个指定值和/或到
ꢀ“
大约”另一个指定值。术语“大约”在本文中用于表示大约、在
……
的区 域、大致或周围。当术语“大约”与数值范围结合使用时,它通过将边界延 伸到规定数值的上方和下方来修改该范围。一般而言,术语“大约”在本文 中用于以10%的方差修改高于或低于规定值的数值。当表示这样的范围时, 另一个实施例包括从一个特定值和/或到另一个特定值。类似地,当值被表示 为近似值时,通过使用先行词“大约”,将理解指定值形成另一个实施例。将 进一步理解,每个范围的端点都包括在该范围内。
72.此提及的所有专利、专利申请、出版物和描述均通过引用完整合并,以 供所有用途。没有一项被承认是现有技术。