用于超光谱成像、荧光成像和激光标测成像的内窥镜系统中的光纤波导的制作方法

1.本公开涉及数字成像，并且具体地涉及缺光环境中的超光谱成像、荧光成像和/或激光标测成像。


背景技术：

2.科技的进步已提供了医用成像能力的进步。内窥镜可用于观察身体内部并检查身体的器官或腔体的内部。内窥镜用于调查患者的症状、确认诊断或提供医学治疗。医学内窥镜可用于观察多种身体系统和部分，诸如胃肠道、呼吸道、尿道、腹腔等。内窥镜还可用于外科手术，诸如整形外科手术、在关节或骨上进行的手术、在神经系统上进行的手术、在腹腔内进行的手术等。
3.在内窥镜成像的一些情况下，观察彩色空间可能是有利的或有必要的。数字彩色图像包括累积形成具有一系列色调的图像的至少三个层或“颜色通道”。颜色通道中的每个测量光谱带的光的强度和色度。通常，数字彩色图像包括红色光谱带、绿色光谱带和蓝色光谱带的颜色通道(这可称为红绿蓝或rgb图像)。红色、绿色和蓝色颜色通道中的每个包括红色、绿色或蓝色光谱带的亮度信息。单独的红色层、绿色层和蓝色层的亮度信息被组合以生成彩色图像。因为彩色图像由单独层构成，所以常规数字相机图像传感器包括颜色滤光器阵列，该颜色滤光器允许红色可见光波长、绿色可见光波长和蓝色可见光波长击中所选择的像素传感器。每个单独的像素传感器元件对红色、绿色或蓝色波长敏感，并且将仅返回该波长的图像数据。将来自像素传感器的总阵列的图像数据组合以生成rgb图像。至少三种不同类型的像素传感器占用大量物理空间，使得完整的像素阵列不能装配在内窥镜的较小远侧端部中。
4.因为传统图像传感器不能装配在内窥镜的远侧端部中，所以图像传感器传统上位于内窥镜的手持件单元中，手持件单元由内窥镜操作者握持并且不放置在体腔内。在此类内窥镜中，光沿内窥镜的长度从手持件单元传输到内窥镜的远侧端部。该配置具有显著限制。具有该配置的内窥镜是精密的，并且当其在常规使用期间发生碰撞或冲击时可容易地不对准或损坏。这可显著降低图像的质量并且需要频繁修理或更换内窥镜。
5.具有放置在手持件单元中的图像传感器的传统内窥镜进一步被限制为仅捕获彩色图像。然而，在一些具体实施中，除了彩色图像数据之外，还可能希望利用荧光数据、超光谱数据和/或激光标测数据来捕获图像。荧光成像捕获已吸收电磁辐射的物质对光的发射并随着其发射弛豫波长而“发光”。超光谱成像可用于通过发射电磁辐射的不同分区并评估材料的光谱响应来识别不同的材料、生物过程和化学过程。激光标测成像可捕获对象和景观的表面形状并测量场景内的对象之间的距离。激光标测成像还可涵盖工具跟踪，其中可相对于彼此、相对于成像装置和/或相对于场景内的结构来跟踪场景内工具的距离和/或尺寸。在一些具体实施中，可能希望在对场景成像时组合使用荧光成像、超光谱成像和/或激光标测成像中的一者或多者。
6.然而，本领域已知的荧光成像技术、超光谱成像技术和激光标测技术的应用通常需要高度专业化的设备，这些设备对于多种应用可能是不可用的。此外，此类技术提供了有限的环境视图，并且通常必须与多个单独系统和多个单独图像传感器结合使用，该多个单独系统和该多个单独图像传感器被制成对特定电磁辐射频带敏感。因此希望开发一种可用于空间受限的环境中以生成荧光成像数据、超光谱成像数据和/或激光标测成像数据的成像系统。
7.鉴于上述情况，本文描述了用于在缺光环境中进行荧光成像、超光谱成像和激光标测成像的系统、方法和装置。此类系统、方法和装置可提供多个数据集，用于识别身体内的关键结构并提供关于体腔的精确且有价值的信息。
附图说明
8.参考以下附图描述了本公开的非限制性和非完全性的具体实施，其中除非另外指明，否则在各个视图中类似的附图标号指示类似的部分。参照以下说明和附图将更好地理解本公开的优点，其中：
9.图1是具有成对发射器模块和像素阵列的用于在缺光环境中进行数字成像的系统的示意图；
10.图2示出了用于向缺光环境提供照明以进行内窥镜成像的系统；
11.图2a是互补系统硬件的示意图；
12.图3a至图3d是用于构造曝光帧的传感器的操作循环的图示；
13.图4a是电磁发射器的一个实施方案的操作的图形表示；
14.图4b是改变所发射电磁脉冲的持续时间和量值以提供曝光控制的图形表示；
15.图5是将图3a至图4b的传感器的操作循环、电磁发射器和所发射电磁脉冲组合的本公开的一个实施方案的图形表示，示出了操作期间的成像系统；
16.图6a是用于在从t(0)至t(1)的时间段内用全光谱光记录视频的过程的示意图；
17.图6b是通过在从t(0)至t(1)的时间段内脉冲分区光谱光来记录视频的过程的示意图；
18.图7a至图7e示出了在一定时间间隔内用于记录全光谱光和分区光谱光两者的视频帧的过程的示意图；
19.图8是通过发射器在控制信号和电磁辐射发射之间的延迟或抖动的图形显示；
20.图9是包括中心纤维和多个周边纤维的光纤束的剖视图；
21.图10是用于将电磁辐射发送至光纤束的顶帽式轮廓和高斯轮廓的图形显示；
22.图11是示出与相机的视场相比，来自光纤束的电磁辐射(光)的输出的侧视图；
23.图12是示出来自光纤束的电磁辐射的输出的侧视图，其中单独的纤维的端部旨在提供电磁辐射的更均匀分布；
24.图13是示出来自光纤束的电磁辐射的输出的侧视图，其中光纤束包括耦合在输出附近的塑料纤维和玻璃纤维；
25.图14是示出来自光纤束的电磁辐射输出的侧视图，该光纤束包括位于输出附近的漫射器；
26.图15是用于向缺光环境提供照明以进行内窥镜成像的系统；
27.图16是用于向缺光环境提供照明以进行内窥镜成像的系统；
28.图17a是包括用于接收光学部件的内腔室和用于接收波导的外围腔室的内窥镜内腔的一部分的透视图；
29.图17b是包括用于接收光学部件(包括图像传感器)的内腔室和用于接收波导的外围腔室的内窥镜内腔的一部分的直视视图；
30.图18是内窥镜内腔的一部分的透视图，其中多根光纤设置在外围腔室内并终止于内窥镜内腔的远侧端部处；
31.图19a至图19c示出了具有多个发射器的发射器模块；
32.图20示出了在输出处经由漫射器输出以照明缺光环境中的场景的单根光纤；
33.图21示出了根据本公开的原理和教导内容被分成可由发射器模块的发射器发射的多个不同子光谱的电磁光谱的一部分；
34.图22是示出用于生成包括由脉冲光的不同分区产生的多个曝光帧的图像帧的发射和读出时序的示意图；
35.图23示出了包括用于过滤电磁辐射波长的单个截止滤光器的成像系统；
36.图24示出了包括用于过滤电磁辐射波长的多个截止滤光器的成像系统；
37.图25示出了可由成像系统脉冲的示例性激光标测图案；
38.图26a和图26b示出了根据本公开的原理和教导内容的具有用于产生三维图像的多个像素阵列的具体实施；
39.图27a和图27b分别示出了构建在多个基板上的成像传感器的具体实施的透视图和侧视图，其中形成像素阵列的多个像素列位于第一基板上，并且多个电路列位于第二基板上，并且示出了一列像素与其相关联的或对应的电路系统列之间的电连接和通信；并且
40.图28a和图28b分别示出了具有多个像素阵列用于产生三维图像的成像传感器的具体实施的透视图和侧视图，其中多个像素阵列和图像传感器构建在多个基板上。
具体实施方式
41.本文公开了用于可能主要适于医学应用诸如医学内窥镜成像的数字成像的系统、方法和装置。本公开的一个实施方案是一种用于在缺光环境中进行超光谱、荧光、激光标测和彩色成像的内窥镜系统。本文所公开的此类方法、系统和基于计算机的产品提供用于医学机器人应用诸如用于执行成像规程、外科规程等的机器人的使用的成像或诊断能力。
42.本公开的一个实施方案是一种内窥镜成像系统，其包括用于发射电磁辐射脉冲以照明场景的发射器。在一个实施方案中，发射器是包括用于脉冲电磁辐射的一个或多个单独发射器的发射器模块。在一个实施方案中，发射器模块包括可彼此独立地操作并且发射不同波长的电磁辐射的多个发射器。多个发射器中的每个发射器可包括用于发射电磁辐射的激光束。构成发射器模块的多个发射器可各自被配置为能够在电磁光谱的不同分区或波长处脉冲电磁辐射。电磁辐射脉冲可被脉冲到波导，并且波导可随后将脉冲电磁辐射携带到内窥镜的远侧端部以照明场景。波导可包括单根光纤或包括多根光纤的光纤束。波导可包括用于将来自发射器模块的电磁辐射传送到内窥镜的远侧端部的塑料光纤和/或玻璃光纤。
43.在一个实施方案中，波导终止于内窥镜的远侧端部处以散发电磁辐射的光锥。光
锥限定由电磁辐射脉冲照明的区域。在一些情况下，由单根光纤或光纤束产生的光锥的面积不足以有效成像。在一些情况下，所得光锥的面积小于图像传感器的可见区域。因此，希望增大从波导散发的电磁辐射的所得光锥的面积。鉴于前述内容，本文公开了用于增大内窥镜远侧端部处的所得照明光锥的波导的多个实施方案。
44.常规内窥镜被设计成使得图像传感器被放置在手持件单元内的装置的近侧端部处。该配置要求入射光通过精确耦合的光学元件行进内窥镜的长度。精确光学元件在正常使用期间容易不对准，并且这可导致图像失真或图像损失。本公开的实施方案将图像传感器放置在内窥镜本身的远侧端部中的空间高度受限环境内。与本领域中已知的具体实施相比，这提供了更大的光学简单性。然而，该方法的可接受解决方案绝不简单并且引发了其自身的一系列工程挑战。
45.当图像传感器的总体尺寸被最小化使得图像传感器可装配在内窥镜的远侧末端内时，可存在图像质量的显著损失。可通过减少像素数量和/或减小每个单个像素的感测区域来减小图像传感器的像素阵列的面积。这些修改中的每一者都影响所得图像的分辨率、灵敏度和动态范围。传统内窥镜成像系统旨在通过分段像素阵列诸如拜耳图案阵列来感测稳定宽带照明并提供颜色信息。鉴于与分段像素阵列相关联的缺陷，本文公开了使用不包括单个像素滤光器的单色(可被称为“颜色不定”)像素阵列的另选系统和方法。在本文所公开的实施方案中，通过用不同波长的电磁辐射脉冲发射器来提供颜色信息。本文所公开的脉冲成像系统可生成上面叠层有超光谱、荧光和/或激光标测成像数据的彩色图像。
46.在一个实施方案中，颜色信息通过响应于不同波长的电磁辐射的脉冲来捕获独立的曝光帧而确定。另选脉冲可包括红色波长、绿色波长和蓝色波长，用于生成由红色曝光帧、绿色曝光帧和蓝色曝光帧组成的rgb图像帧。在另选具体实施中，另选脉冲可包括光的亮度(“y”)脉冲、红色色度(“cr”)脉冲和蓝色色度(“cb”)脉冲，用于生成由亮度数据、红色色度数据和蓝色色度数据组成的ycbcr图像帧。彩色图像帧还可包括来自叠层在rgb或ycbcr图像帧上的超光谱曝光帧、荧光曝光帧和/或激光标测曝光帧的数据。超光谱脉冲可以是电磁辐射的发射，其引发来自对象的光谱响应。超光谱曝光帧可包括发射光谱响应的对象的位置的指示。荧光脉冲可以是用于使试剂发荧光的荧光激发波长的电磁辐射。荧光曝光帧可包括场景内的荧光试剂的指示。激光标测脉冲可包括一个或多个脉冲，用于测量场景内的距离或尺寸、跟踪场景中的工具的存在和位置、生成场景的三维形貌图等。脉冲电磁辐射的波长交替允许利用全像素阵列并避免拜耳图案像素阵列引发的伪影。
47.在一些情况下，希望生成具有彼此叠层的多种数据类型或多个图像的内窥镜成像。例如，可能希望生成彩色(rgb或ycbcr)图像，该图像还包括叠层在彩色图像上的超光谱成像数据、荧光成像数据和/或激光标测成像数据。这种性质的叠层图像可使得执业医生或计算机程序能够识别关键身体结构的高准确度尺寸和三维形貌结构，并且基于激光标测数据在缺光环境内进一步识别工具与其它结构之间的距离。过去，这将需要使用多个传感器系统，包括用于彩色成像的图像传感器和用于超光谱成像、荧光成像或激光标测成像的一个或多个附加图像传感器。在此类系统中，多个图像传感器将具有各自对不同范围的电磁辐射敏感的多种类型的像素传感器。在本领域已知的系统中，这包括用于生成彩色图像的三种单独类型的像素传感器，以及用于生成超光谱数据、荧光数据和激光标测数据的附加传感器和系统。这些多个不同的传感器占用过大物理空间，并且不能位于内窥镜的远侧末
端处。在本领域已知的系统中，一个或多个相机不放置在内窥镜的远侧末端处，而是放置在内窥镜手持件或机器人单元中。这引发了许多缺点并且导致内窥镜非常脆弱。当脆弱的内窥镜在使用期间受到碰撞或冲击时，可能损坏内窥镜并降低图像质量。考虑到上述情况，本文公开了用于在缺光环境中进行内窥镜成像的系统、方法和装置。本文所公开的系统、方法和装置提供了在单个成像会话中采用多种成像技术同时允许一个或多个图像传感器设置在内窥镜的远侧末端中的方式。
48.本文所讨论的荧光成像技术可与一种或多种荧光试剂或荧光染料组合使用。试剂的位置可通过发射使试剂发荧光的激发波长的电磁辐射来识别。试剂发射的弛豫波长可由图像传感器读取，以识别试剂在场景内的位置。根据所用试剂的类型，试剂的位置可进一步指示关键结构诸如某些类型的组织、癌细胞与非癌细胞等的位置。
49.本文所讨论的超光谱成像技术可用于“透视”场景的前景中的组织层，以识别特定类型的组织和/或特定的生物过程或化学过程。超光谱成像可用于医疗环境中，以定量地跟踪疾病的过程并确定组织病理。另外，超光谱成像可用于识别关键结构，诸如神经组织、肌肉组织、癌细胞等。在一个实施方案中，电磁辐射的分区被脉冲，并且响应于电磁辐射的分区，收集关于不同类型组织的光谱响应的数据。可生成并分析光谱响应的数据存储，以评估场景并基于感测到的光谱响应来预测场景内存在哪些组织。
50.可评估本文所讨论的激光标测成像技术，以生成场景的三维景观地图并计算场景内对象之间的距离。激光标测数据可与荧光成像和/或超光谱成像结合使用，以计算关键结构的精确位置和尺寸。例如，可用荧光成像和/或超光谱成像来识别关键结构的位置和边界。可随后基于激光标测数据来计算关键结构的位置、关键结构的尺寸以及从关键结构到其它对象的距离的精确测量。
51.超光谱成像
52.在一个实施方案中，本文所公开的系统、方法和装置提供了用于在缺光环境中生成超光谱成像数据的方式。光谱成像使用跨电磁光谱的多个频带。这不同于仅捕获跨越基于人眼可分辨的可见光谱的三个波长(包括红色、绿色和蓝色波长)的光以生成rgb图像的常规相机。光谱成像可使用电磁光谱中的任何波长带，包括红外波长、可见光谱、紫外光谱、x射线波长或各种波长带的任何合适的组合。
53.超光谱成像最初开发用于采矿和地质中的应用。不同于向人眼提供有限信息的正常相机图像，超光谱成像可基于不同矿物质的光谱特征来识别特定矿物质。超光谱成像即便在捕获于航拍图像中时也很有用，并且可提供关于例如来自管道或天然井的油或气泄漏以及它们对附近植被的影响的信息。基于可通过超光谱成像识别的某些材料、对象或过程的光谱特征来收集该信息。
54.超光谱成像包括光谱和数字摄影。在超光谱成像的一个实施方案中，在图像平面中的每个像素处收集完整光谱或一些光谱信息。超光谱成像的目标可针对不同的应用而变化。在一个应用中，超光谱成像的目标是获得图像场景中每个像素的整个电磁光谱。这可使得能够找到原本在可见光波长带下可能不可识别的某些对象。这可使得能够精确地识别某些物质或组织，虽然这些物质或组织在可见光波长带下可能不可识别。此外，这可使得能够通过跨电磁光谱的所有波长捕获图像来检测某些过程。
55.在本公开的一个实施方案中，内窥镜系统照明源并脉冲用于光谱或超光谱成像的
电磁辐射。光谱成像使用跨电磁光谱的多个频带。这不同于仅捕获跨越基于人眼可分辨的可见光谱的三个波长(包括红色、绿色和蓝色波长)的光以生成rgb图像的常规相机。光谱成像可使用电磁光谱中的任何波长带，包括红外波长、可见光谱、紫外光谱、x射线波长或各种波长带的任何合适的组合。光谱成像可将基于不可见频带(例如红外)生成的成像叠层在基于可见频带(例如标准rgb图像)的成像顶部，以提供可易于由人或计算机算法分辨的附加信息。
56.超光谱成像具有许多优于常规成像的优势。通过超光谱成像获得的信息使得执业医生和/或计算机实现的程序能够精确地识别在使用rgb成像的情况下可能不可识别的某些组织或病症。另外，在医学规程期间可使用超光谱成像来提供图像引导的外科手术，使得执业医生能够例如查看位于某些组织或流体后面的组织，识别与典型健康细胞形成对比的非典型癌细胞，识别某些组织或病症，识别关键结构等。超光谱成像提供不能用常规成像生成的关于组织生理、形态和组成的专用诊断信息。
57.在医学应用中，超光谱成像可提供优于常规成像的特定优点。通过超光谱成像获得的信息可使得执业医生和/或计算机实现的程序能够精确地识别可能导致在使用常规成像诸如rgb成像的情况下可能不可诊断或可能诊断不太准确的某些组织或病症。另外，在医学规程期间可使用超光谱成像来提供图像引导的外科手术，可使得执业医生能够例如查看位于某些组织或流体后面的组织，识别与典型健康细胞形成对比的非典型癌细胞，识别某些组织或病症，识别关键结构等。超光谱成像可提供不能用常规成像生成的关于组织生理、形态和组成的专用诊断信息。
58.在本公开的各种应用和具体实施中，内窥镜超光谱成像可呈现优于常规成像的优点。在医学具体实施中，内窥镜超光谱成像可允许执业医生或计算机实现的程序分辨例如神经组织、肌肉组织、各种血管、血流方向等。超光谱成像可使得非典型癌组织能够与典型健康组织精确区分，并且因此可使得执业医生或计算机实施的程序能够在手术或研究成像期间分辨癌性肿瘤的边界。另外，如本文所公开的缺光环境中的超光谱成像可与试剂或染料的使用相结合，以允许进一步区分某些组织或物质。在此类实施方案中，试剂或染料可以电磁光谱中的特定波长带发荧光，从而提供特定于该试剂或染料的目的的信息。本文所公开的系统、方法和装置可使得能够脉冲任何数量的波长带，使得一种或多种试剂或染料可在不同时间发荧光，并且进一步使得可脉冲电磁辐射的一个或多个分区，以用于同一成像会话中的超光谱成像。在某些具体实施中，这使得能够在单个成像规程期间识别或研究多种医学病症。
59.荧光成像
60.本文所公开的系统、方法和设备提供了用于在缺光环境中生成荧光成像数据的手段。荧光成像数据可用于识别体腔或其它缺光环境内的某些材料、组织、部件或过程。在某些实施方案中，将荧光成像提供给执业医生或计算机实施的程序以使得能够识别体内的某些结构或组织。此类荧光成像数据可叠层在黑白或rgb图像上以提供附加信息和上下文。
61.荧光是已吸收光或其它电磁辐射的物质发射的光。当荧光物质经受紫外光或其它波长的电磁辐射时，某些荧光物质可“发光”或发出人眼可见的不同颜色。当辐射源停止时，某些荧光材料将几乎立即停止发光。
62.当分子、原子或纳米结构的轨道电子被光或其它电磁辐射激发，然后通过从激发
态发射光子而弛豫至其基态时，出现荧光。激发轨道电子或在弛豫期间由光子发射的电磁辐射的具体频率取决于具体的原子、分子或纳米结构。在大多数情况下，由该物质发射的光具有比被该物质吸收的辐射更长的波长，并因此具有更低的能量。然而，当所吸收的电磁辐射强烈时，一个电子可以吸收两个光子。这种双光子吸收可导致具有比所吸收的辐射更短的波长并因此具有更高的能量的辐射的发射。另外，所发射的辐射也可具有与所吸收的辐射相同的波长。
63.荧光成像具有许多实际应用，包括矿物学、地质学、医学、化学传感器的光谱学、检测生物过程或信号等。荧光尤其可用于生物化学和医学中作为用于跟踪或分析生物分子的非破坏性手段。生物分子，包括某些组织或结构，可通过分析生物分子在被某些波长的电磁辐射激发后的荧光发射来跟踪。然而，相对较少的细胞组分是天然荧光的。在某些具体实施中，可视化本质上不发荧光的某些组织、结构、化学过程或生物过程可能是有利的。在此类具体实施中，可向身体施用染料或试剂，该染料或试剂可包括具有荧光特性的分子、蛋白质或量子点。然后，试剂或染料可在被某些波长的电磁辐射激发之后发荧光。不同的试剂或染料可包括将在特定波长的电磁辐射下发荧光的不同的分子、蛋白质和/或量子点。因此，可能需要用特定频带的电磁辐射激发试剂或染料以实现荧光并在体内识别期望的组织、结构或过程。
64.荧光成像可在医学领域中提供可用于诊断目的和/或可在医学规程期间实时可视化的有价值的信息。可向身体施用特定试剂或染料以使某些组织、结构、化学过程或生物过程发荧光。试剂或染料的荧光可突出显示身体结构，诸如血管、神经、特定器官等。另外，试剂或染料的荧光可突出显示病症或疾病，诸如癌细胞或经历可能与病症或疾病相关联的某些生物或化学过程的细胞。荧光成像可由执业医生或计算机程序实时使用，以用于在外科肿瘤提取期间区分例如癌细胞和非癌细胞。荧光成像还可用作非破坏性手段，以用于随时间推移跟踪和可视化体内原本人眼不可见或在rgb图像中不可辨别的病症。
65.用于生成荧光成像数据的系统、方法和设备可与试剂或染料配合使用。已知一些试剂或染料会附着在某些类型的组织上，并在电磁波谱的特定波长下发荧光。在一个具体实施中，向患者施用试剂或染料，该试剂或染料被配置成能够在被某些波长的光激活时发荧光。本文所公开的内窥镜成像系统用于激发试剂或染料并使其发荧光。通过内窥镜成像系统捕获试剂或染料的荧光，以帮助识别体腔中的组织或结构。在一个具体实施中，向患者施用多种试剂或染料，每种试剂或染料被配置成能够发出不同波长的荧光和/或提供不同结构、组织、化学反应、生物过程等的指示。在此类具体实施中，内窥镜成像系统发射适用波长中的每个波长，以使适用试剂或染料中的每一者发荧光。这可消除针对多种试剂或染料中的每一者执行各个成像规程的需要。
66.成像试剂可增强制药、医学、生物技术、诊断和医学规程行业中的成像能力。许多成像技术诸如x射线、计算机断层摄影术(ct)、超声、磁共振成像(mri)和核医学主要分析解剖结构和形态，而不能检测到分子水平的变化。荧光试剂、染料和探针(包括量子点纳米粒子和荧光蛋白)通过提供关于成像区域内存在的某些组织、结构、化学过程和/或生物过程的附加信息来辅助医学成像技术。使用荧光试剂成像实现细胞跟踪和/或某些分子生物标志物的跟踪。荧光试剂可用于对癌症、感染、炎症、干细胞生物学等进行成像。许多荧光试剂和染料正在被开发并且应用于以非破坏性方式可视化和跟踪生物过程。此类荧光试剂可由
某些波长或波长带的电磁辐射激发。类似地，这些荧光试剂在发荧光时可发出某些波长或波长带的弛豫能量，并且所发出的弛豫能量可由传感器读取以确定试剂或染料的位置和/或边界。
67.在本公开的一个实施方案中，内窥镜成像系统脉冲电磁辐射以用于激发荧光试剂或染料中的电子。内窥镜成像系统可在单个成像过程期间脉冲多个不同波长的电磁辐射，以用于使多种不同试剂或染料发荧光。内窥镜包括图像传感器，该图像传感器对一种或多种试剂或染料的弛豫波长敏感。由该图像传感器生成的成像数据可用于识别一种或多种试剂或染料的位置和边界。内窥镜系统还可脉冲可见光的红色波段、绿色波段和蓝色波段中的电磁辐射，使得荧光成像可叠层在rgb视频流上。
68.激光标测成像
69.在一个实施方案中，本文所公开的系统、方法和装置提供了用于利用内窥镜成像系统来生成激光标测数据的方式。激光标测数据可用于确定场景的精确测量和形貌轮廓。在一个具体实施中，激光标测数据用于确定例如体腔中的结构或器官、体腔中的装置或工具和/或体腔中的关键结构之间的精确测量。如本文所述，术语“激光标测”可涵盖被称为激光标测、激光扫描、形貌扫描、三维扫描、激光跟踪、工具跟踪等的技术。如本文所讨论的激光标测曝光帧可包括场景的形貌数据、场景内对象或结构之间的尺寸、场景内工具或对象的尺寸或距离等。
70.激光标测通常包括激光束的受控偏转。在三维对象扫描领域，激光标测将激光束的受控转向与激光测距仪组合。通过在每个方向上进行距离测量，激光测距仪可快速捕获对象、工具和景观的表面形状。全三维形貌的构造可包括组合从不同视角获得的多个表面模型。存在于本领域的各种测量系统和方法用于考古学、地理学、大气物理学、自动驾驶车辆等中的应用。一种此类系统包括光检测和测距(lidar)，其为三维激光标测系统。lidar已应用于导航系统诸如飞机或卫星中，以确定与其他系统和传感器结合的传感器的位置和取向。lidar使用有源传感器来照明对象并且检测从对象反射并回到传感器的能量。
71.如本文所述，术语“激光标测”包括激光跟踪。激光跟踪或激光用于工具跟踪的用途通过确定相对于对象保持的光学目标的位置来测量那些对象。激光跟踪器可在几米的距离内准确到0.025mm的量级。在一个实施方案中，内窥镜成像系统脉冲光以与激光跟踪系统结合使用，使得可跟踪并测量场景内的位置或工具。在此类实施方案中，内窥镜成像系统可脉冲由内窥镜成像系统成像的场景内的工具、对象或其它结构上的激光跟踪图案。可将目标放置在场景内的工具、对象或其它结构上。可在选定点处触发并获取内窥镜成像系统与目标之间的测量，使得内窥镜成像系统可跟踪目标(以及附连到目标的工具、对象或其它结构)的位置。
72.脉冲成像
73.本公开的一些具体实施包括传感器和系统组合设计的各个方面，该设计能够在受限的照明环境中以减少的像素数生成高清晰度图像。这是通过以下来实现的：逐帧地脉冲单色波长，并且使用受控光源结合高帧捕获速率和特别设计的对应单色传感器在单个不同颜色波长之间切换或交替每个帧。另外，可脉冲可见光谱外的电磁辐射以使得能够生成超光谱图像。像素可以是颜色不定的，使得每个像素生成针对每个电磁辐射脉冲的数据，该每个电磁辐射脉冲包括红色、绿色和蓝色可见光波长以及可用于超光谱成像的其他波长的脉
冲。
74.本公开的系统是在缺光环境中使用的内窥镜系统。该系统包括内窥镜，该内窥镜包括图像传感器，其中该图像传感器被配置为能够感测用于生成多个曝光帧的所反射的电磁辐射，该多个曝光帧可被组合以生成上面叠加有超光谱数据的rgb图像帧。所述系统包括用于发射电磁辐射脉冲的发射器。系统包括与图像传感器和发射器电通信的控制器(可另选地称为“控制电路”)。控制器响应于对应于发射器的占空比的信号来控制发射器的占空比。图像传感器包括可发送和接收信息的双向焊盘。图像传感器的双向焊盘在帧周期中操作，该帧周期被分成三个限定状态，包括滚动读出状态、服务线状态和配置状态。系统包括设置在控制器中的振荡器和连接到控制器的频率检测器。频率检测器响应于来自控制器的对应于振荡器频率的信号来控制图像传感器的时钟频率。系统使得时钟信号数据在服务线阶段和配置阶段期间从图像传感器的双向焊盘传输到控制器。系统使得曝光帧在不使用输入时钟或数据传输时钟的情况下同步。
75.为了促进对根据本公开的原理的理解的目的，现在将参考附图中所示的实施方案，并且将使用特定的语言来描述这些实施方案。然而，应当理解，因此并不旨在限制本公开的范围。本文所示的本发明特征的任何改变和进一步修改，以及如本文所示的本公开的原理的任何附加的应用(其对于相关领域的技术人员和了解本公开内容的人通常将会发生)将被认为在受权利要求书保护的公开的范围内。
76.在公开和描述用于在缺光环境中产生图像的结构、系统和方法之前，应当理解，本公开不限于本文所公开的特定结构、配置、工艺步骤和材料，因为此类结构、配置、工艺步骤和材料可一定程度地变化。另外应当理解，本文所用的术语只是为了描述具体实施方案的目的，并不旨在进行限制，因为本发明的范围将仅由所附权利要求书及其等同形式来限定。
77.在描述及对本公开的主题提出权利要求时，将根据下列定义使用以下术语。
78.应当指出的是，如本说明书和所附权利要求书中使用的单数形式“一种”、“一个”和“该”包括多个指代物，除非上下文中明确表示其它含义。
79.如本文所用，术语“包括”、“包含”、“其特征在于”以及它们的语法同等成分是非遍举的或开放式的术语，不排除额外的、未述及的要素或方法步骤。
80.如本文所用，短语“由
……
组成”及其语法同等成分排除未载入权利要求书的任何要素或步骤。
81.如本文所用，短语“主要由
……
组成”及其语法同等成分将权利要求的范围限制于规定的材料或步骤以及本质上不影响被要求保护的本公开的之一种或多种基本及新颖特征的材料或步骤。
82.如本文所用，术语“近侧”广义上是指靠近起始点的部分的概念。
83.如本文所用，术语“远侧”一般是指与近侧相反，因此根据上下文其是指距离起始点较远的部分或最远的部分的概念。
84.如本文所用，颜色传感器或多光谱传感器是那些已知具有颜色滤光器阵列(cfa)的传感器，在其上以便将入射电磁辐射过滤为其单个分量。在电磁光谱的可见范围中，此类cfa可以基于拜尔模板或其修改形式，以便分离光线中的绿色、红色和蓝色光谱分量。
85.如本文所用，单色传感器是指无过滤功能的成像传感器。因为像素是颜色不定的，所以其有效空间分辨率明显高于传统单传感器相机中的像素颜色(通常采用拜耳图案过
滤)对等物。由于单个像素之间浪费的入射光子较少，因此单色传感器也可具有更高的量子效率。
86.如本文所用，发射器是能够生成和发射电磁脉冲的装置。发射器的各种实施方案可被配置为能够发射脉冲并且具有来自整个电磁光谱内的非常特定的频率或频率范围。脉冲可包括来自可见范围和不可见范围的波长。发射器可循环打开和关闭以产生脉冲，或者可利用快门机构产生脉冲。发射器可具有可变功率输出电平，或者可利用辅助装置诸如光圈或滤光器进行控制。发射器可发射可通过颜色滤光或快门开闭产生脉冲的宽光谱或全光谱电磁辐射。发射器可包括单独或协同起作用的多个电磁源。发射器可包括具有用于脉冲电磁辐射的一个或多个电磁源的发射器模块。
87.应当指出，如本文所用，术语“光”既是粒子又是波长，并且旨在表示可被像素阵列122检测的电磁辐射，并且可包括来自可见光谱和不可见光谱的电磁辐射的波长。本文所用的术语“分区”是指电磁光谱的预定波长范围，其小于整个光谱，或者换句话讲，构成电磁光谱的某一部分的波长。如本文所用，发射器是关于所发射的电磁光谱的一部分可控制的光源，或是可操作其部件的物理性质、发射强度或发射持续时间或以上所有的光源。发射器可发射任何抖动的、漫射的或准直的发射中的光，并且可通过数字方式或通过模拟方法或系统来进行控制。如本文所用，电磁发射器是电磁能量爆发源，并且其包括光源，诸如激光、led、白炽光、或可进行数字控制的任何光源。
88.现在参见附图，图1示出了用于在缺光环境中进行序列脉冲成像的系统100的示意图。系统100可被部署成生成其上叠层有专用数据的rgb图像。系统100包括发射器102和像素阵列122。发射器102在缺光环境112中脉冲电磁辐射的分区，并且像素阵列122感测反射电磁辐射的例图(instance)。发射器102和像素阵列122依次工作，使得电磁辐射的分区的一个或多个脉冲产生由像素阵列122感测到的图像数据。
89.发射器102可包括用于脉冲电磁辐射的一个或多个发射器。一个或多个发射器中的每个发射器可包括用于脉冲电磁辐射波长的分区的一个或多个激光器。发射器102能够通过多个独立发射器脉冲电磁光谱的不同分区。如本文所述，包括在所附权利要求书中，术语“发射器”可指用于脉冲电磁辐射的单个发射器或激光器、用于脉冲电磁辐射的发射器或激光器的集合以及如本文所述的“发射器模块”。因此，如本文所用，术语“发射器”不应被视为限制性的，并且可指用于脉冲电磁辐射的一个或多个发射器，并且还可指发射器模块内存在的发射器的集合。
90.图像传感器的像素阵列122可与发射器102以电子方式配对，使得发射器102和像素阵列122在操作期间同步，以用于接收发射和用于系统内所进行的调节两者。发射器102可被调谐成发射激光形式的电磁辐射，该电磁辐射可被脉冲以照明缺光环境112。发射器102可以对应于像素阵列122的操作和功能的间隔脉冲。发射器102可脉冲多个电磁分区中的光，使得像素阵列接收电磁能量并产生与每个特定电磁分区在时间上对应的数据集。例如，图1示出了一个具体实施，其中发射器102发射电磁辐射的四个不同分区，包括红色104波长、绿色106波长、蓝色108波长和专用110发射。专用110发射可包括用于使试剂发荧光的激发波长、电磁辐射的超光谱分区和/或激光标测图案。专用110发射可包括彼此分开且彼此独立的多个单独发射。专用110发射可包括用于使试剂发荧光的激发波长和激光标测图案的组合，其中发射彼此分开且彼此独立。可一前一后地分析由单独发射产生的数据，以基
于荧光成像数据来识别场景内的关键结构，并且还基于激光标测数据与荧光成像数据的组合来识别关键结构的尺寸或定位。专用110发射可包括超光谱带的电磁辐射和激光标测图案的组合，其中发射彼此分开且彼此独立。可一前一后地分析由单独发射产生的数据，以基于超光谱成像数据来识别场景内的关键结构，并且还基于激光标测数据与超光谱成像数据的组合来识别关键结构的尺寸或定位。在一个实施方案中，专用110发射包括发射的任何期望的组合，发射可与由脉冲红色104发射、脉冲绿色106发射和脉冲蓝色108发射所得的数据组合。专用110发射可分散在脉冲图案内，使得不同类型的专用110发射的脉冲不如脉冲红色104发射、脉冲绿色106发射和脉冲蓝色108发射的脉冲频繁。
91.在图1中未示出的另选实施方案中，光的脉冲发射包括亮度(“y”)发射、红色色度(“cr”)发射和蓝色色度(“cb”)发射，而不是脉冲红色104发射、脉冲绿色106发射和脉冲蓝色108发射。在一个实施方案中，控制器或发射器102根据颜色变换系数来调制电磁辐射脉冲以提供亮度和/或色度信息，该颜色变换系数将光能从红色光能空间、绿色光能空间和蓝色光能空间转换到亮度光能空间、红色色度光能空间和蓝色色度光能空间。光的脉冲发射还可包括调制蓝色色度(λ“y+cb”)脉冲和/或调制红色色度(“δy+cr”)脉冲。
92.缺光环境112包括反射红色114光、绿色116光和/或蓝色118光的组合的结构、组织和其它元件。被感知为红色114的结构将反射脉冲红色104光。来自红色结构的反射导致在脉冲红色104发射之后，像素阵列122感测到红色105。由像素阵列122感测到的数据产生红色曝光帧。被感知为绿色116的结构将反射脉冲绿色106光。来自绿色结构的反射导致在脉冲绿色106发射之后，像素阵列122感测到绿色107。由像素阵列122感测到的数据产生绿色曝光帧。被感知为蓝色118的结构将反射脉冲蓝色108光。来自蓝色结构的反射导致在脉冲蓝色108发射之后，像素阵列122感测到蓝色109。由像素阵列122感测到的数据产生蓝色曝光帧。
93.当结构为颜色的组合时，结构将反射脉冲红色104发射、脉冲绿色106发射和/或脉冲蓝色108发射的组合。例如，被感知为紫色的结构将反射来自脉冲红色104发射和脉冲蓝色108发射的光。由像素阵列122感测到的所得数据将指示光在脉冲红色104发射和脉冲蓝色108发射之后的相同区域中被反射。当所得红色曝光帧和蓝色曝光帧组合形成rgb图像帧时，rgb图像帧将指示结构是紫色的。
94.在其中缺光环境112包括荧光试剂或荧光染料或者包括一个或多个荧光结构、组织或其它元件的实施方案中，脉冲方案可包括某些荧光激发波长的发射。可选择某些荧光激发波长以使已知的荧光试剂、荧光染料或其它结构发荧光。荧光结构将对荧光激发波长敏感并且将发射荧光弛豫波长。在发射荧光激发波长之后，荧光弛豫波长将由像素阵列122感测到。由像素阵列122感测到的数据产生荧光曝光帧。荧光曝光帧可与多个其它曝光帧组合以形成图像帧。荧光曝光帧中的数据可叠层在包括来自红色曝光帧、绿色曝光帧和蓝色曝光帧的数据的rgb图像帧上。
95.在其中缺光环境112包括对电磁波谱的某些分区发出光谱响应的结构、组织或其它材料的实施方案中，脉冲方案可包括电磁辐射的超光谱分区的发射，以便引出来自缺光环境112中存在的结构、组织或其它材料的光谱响应。光谱响应包括某些波长的电磁辐射的发射或反射。光谱响应可由像素阵列122感测并产生超光谱曝光帧。超光谱曝光帧可与多个其它曝光帧组合以形成图像帧。超光谱曝光帧中的数据可叠层在包括来自红色曝光帧、绿
色曝光帧和蓝色曝光帧的数据的rgb图像帧上。
96.在一个实施方案中，脉冲方案包括发射激光标测或工具跟踪图案。像素阵列122在激光标测或工具跟踪图案的发射之后感测到的经反射的电磁辐射产生激光标测曝光帧。激光标测曝光帧中的数据可被提供给对应的系统以识别例如缺光环境112中存在的工具之间的距离、缺光环境112中的场景的三维表面形貌、场景内的结构或对象的距离、尺寸或位置等。该数据可叠层在rgb图像帧上或以其它方式提供给系统的用户。
97.发射器102可以是能够发射脉冲红色104光的激光发射器，以用于生成感测到的红色105数据，从而识别缺光环境112内的红色114元件。发射器102还能够发射脉冲绿色106光，以用于生成感测到的绿色107数据，从而识别缺光环境内的绿色116元件。发射器102还能够发射脉冲蓝色108光，以用于生成感测到的蓝色109数据，从而识别缺光环境内的蓝色118元件。发射器102还能够发射专用110发射，以用于标测缺光环境112内的场景的形貌120。发射器102能够以任何期望的顺序来发射脉冲红色104发射、脉冲绿色106发射、脉冲蓝色108发射和脉冲专用110发射。
98.像素阵列122感测反射电磁辐射。感测到的红色105数据、感测到的绿色107数据、感测到的蓝色109数据和感测到的专用111数据中的每一者可被称为“曝光帧”。感测到的专用111可产生彼此分开且彼此独立的多个单独曝光帧。例如，感测到的专用111可产生荧光曝光帧、超光谱曝光帧和/或包括激光标测数据的激光标测曝光帧。为每个曝光帧分配特定颜色分区或波长分区，其中分配基于来自发射器102的脉冲颜色或波长分区的定时。曝光帧与所分配的特定颜色或波长分区的组合可被称为数据集。即使像素122不是颜色专用的，也可基于关于发射器的先验信息为任何给定数据集分配颜色。
99.例如，在操作期间，在脉冲红色104光在缺光环境112中被脉冲后，像素阵列122感测反射电磁辐射。反射电磁辐射产生曝光帧，并且该曝光帧被归类为感测到的红色105数据，因为它在时间上与脉冲红色104光对应。曝光帧与其在时间上与脉冲红色104光对应的指示的组合是“数据集”。针对由发射器102发射的电磁辐射的每个分区重复该过程。像素阵列122形成的数据包括感测到的红色105曝光帧，其用于识别缺光环境中的红色114分量并且在时间上与脉冲红色104光对应。该数据还包括感测到的绿色107曝光帧，其用于识别缺光环境中的绿色116分量并且在时间上与脉冲绿色106光对应。该数据还包括感测到的蓝色109曝光帧，其用于识别缺光环境中的蓝色118分量并且在时间上与脉冲蓝色108光对应。该数据还包括感测到的专用111曝光帧，其用于识别形貌120并且在时间上与专用110发射对应。
100.在一个实施方案中，将代表red电磁脉冲、green电磁脉冲和blue电磁脉冲的三个数据集组合以形成单个图像帧。因此，将红色曝光帧、绿色曝光帧和蓝色曝光帧中的信息组合以形成单个rgb图像帧。表示其它波长分区的一个或多个附加数据集可叠层在单个rgb图像帧上。一个或多个附加数据集可表示例如激光标测数据、荧光成像数据和/或超光谱成像数据。
101.应当理解，在不脱离本公开的范围的情况下，本公开不限于任何特定的颜色组合或任何特定的电磁分区，并且任何颜色组合或任何电磁分区均可用于代替red、green和blue，诸如青色、洋红色和黄色；紫外线；红外线；前述的任何组合或任何其它颜色组合，包括所有可见波长和不可见波长。在图中，待成像的缺光环境112包括红色114部分、绿色116
部分和蓝色118部分，并且还包括可被感测并标测到三维渲染中的形貌120。如图所示，来自电磁脉冲的反射光仅包含对象的具有对应于脉冲颜色分区的特定颜色的部分的数据。这些单独的颜色(或颜色间隔)数据集可随后用于通过在126处组合数据集来重建图像。多个曝光帧(即，多个数据集)中的每一者中的信息可由控制器124、控制单元、相机控制单元、图像传感器、图像信号处理流水线或能够被配置为能够在126处处理多个曝光帧并组合数据集的一些其它计算资源组合。数据集可被组合以在内窥镜单元自身内或由一些其它处理资源在异地生成单个图像帧。
102.图2是用于向缺光环境提供照明诸如以进行内窥镜成像的系统200。系统200可与本文所公开的系统、方法或装置中的任一者结合使用。系统200包括发射器102、控制器124、跳线波导206、波导连接器208、内腔波导210、内窥镜212和具有附带的光学部件(诸如透镜)的图像传感器214。发射器102(可能通常被称为“光源”)生成行进穿过跳线波导206和内腔波导210的光，以照明内窥镜212的远侧端部处的场景。发射器102可用于发射任何波长的电磁能量，包括可见波长、红外、紫外、超光谱、荧光激发、激光标测脉冲方案或其它波长。可将内窥镜212插入患者体内以进行成像，诸如在手术或检查期间。电磁辐射以光锥216的形式输出，如虚线所示。可使用图像传感器214捕获由光照明的场景并且向医生或一些其他医学人员显示该场景。控制器124可向发射器102提供控制信号以控制何时向一个场景提供照明。在一个实施方案中，发射器102和控制器124位于内窥镜所连接的相机控制器单元(ccu)或外部控制台内。如果图像传感器214包括cmos传感器，则可在所谓的消隐期间以图像传感器214的读出周期之间的一系列照明脉冲周期性地向场景提供光。因此，光可以受控方式被脉冲，以避免重叠到图像传感器214的像素阵列中的图像像素的读出周期中。
103.在一个实施方案中，内腔波导210包括一根或多根光纤。考虑到内腔波导210和/或内窥镜的其它部分的弃置，这些光纤可由低成本材料(诸如塑料)制成。在一个实施方案中，内腔波导210是直径为500微米的单根玻璃纤维。跳线波导206可永久性地附接到发射器102。例如，跳线波导206可从发射器102内的发射器接收光，并且在连接器208的位置处向内腔波导210提供光。在一个实施方案中，跳线波导106包括一根或多根玻璃光纤。跳线波导可包括用于将光引导至内腔波导210的任何其它类型的波导。连接器208可将跳线波导206选择性地耦合到内腔波导210，并且允许跳线波导206内的光传递到内腔波导210。在一个实施方案中，内腔波导210直接耦合到发射器模块，而无需任何居间跳线波导206。
104.图像传感器214包括像素阵列。在一个实施方案中，图像传感器214包括用于生成三维图像的两个或更多个像素阵列。图像传感器214可构成两个以上的图像传感器，每个图像传感器具有独立的像素阵列并且可彼此独立地操作。图像传感器214的像素阵列包括有效像素和光学黑色(“ob”)像素或光学盲像素。有效像素可以是能够针对任何波长的电磁辐射感测成像数据的透明的“颜色不定”像素。当“重置”或校准像素阵列时，在像素阵列的消隐周期期间读取光学黑色像素。在一个实施方案中，当读取光学黑色像素时，光在像素阵列的消隐周期期间脉冲。在读取了光学黑色像素之后，在像素阵列的读出周期期间读取有效像素。有效像素可由在消隐周期期间脉冲的电磁辐射充电，使得有效像素准备好在像素阵列的读出周期期间由图像传感器读取。
105.图2a是互补系统硬件诸如专用或通用计算机的示意图。处于本公开的范围内的具体实施也可包括用于承载或存储计算机可执行指令和/或数据结构的物理介质及其它非暂
态计算机可读介质。此类计算机可读介质可为可通过通用或专用计算机系统访问的任何可用介质。存储计算机可执行指令的计算机可读介质为计算机存储介质(装置)。承载计算机可执行指令的计算机可读介质为传输介质。因此，以举例而非限制性的方式，本公开的具体实施可包括至少两种明显不同种类的计算机可读介质：计算机存储介质(装置)和传输介质。
106.计算机存储介质(装置)包括ram、rom、eeprom、cd-rom、固态硬盘(“ssd”)(例如，基于ram)、闪存存储器、相变存储器(“pcm”)、其它类型的存储器、其它光盘存储器、磁盘存储器或其它磁存储器装置、或任何其它可用于存储所需的呈计算机可执行指令或数据结构的形式的程序代码工具并可通过通用或专用计算机来访问的介质。
[0107]“网络”是指一个或多个数据链路，其能够使电子数据在计算机系统和/或模块和/或其它电子装置之间进行传输。在一个具体实施中，传感器与相机控制器可网络化，以便彼此通信，以及与通过它们所连接网络进行连接的其他部件进行通信。当信息通过网络或另外的通信连接(硬连接、无线或者硬连接或无线的组合)传送或提供至计算机时，计算机合理地将该连接视作传输介质。传输介质可包括网络和/或数据链路，该网络和/或数据链路可用于承载期望的呈计算机可执行指令或数据结构的形式的程序代码工具并可通过通用或专用计算机来访问。上述组合也应涵盖在计算机可读介质的范围内。
[0108]
另外，在到达各种计算机系统部件时，呈计算机可执行指令或数据结构的形式的程序代码工具，其可由传输介质自动传送至计算机存储介质(装置)(反之亦然)。例如，通过网络或数据链路接收的计算机可执行指令或数据结构可缓存于网络接口模块(例如，“nic”)内的ram中，然后最终传送至计算机系统ram和/或计算机系统的非易失性计算机存储介质(装置)中。ram还可包括固态硬盘(ssd或基于pcix的实时存储器分层存储装置，诸如fusionio)。因此，应当理解，计算机存储介质(装置)可包括在计算机系统部件中，该计算机系统部件还(或甚至主要)利用了传输介质。
[0109]
计算机可执行指令包括例如在由一个或多个处理器执行时致使通用计算机、专用计算机或专用处理装置执行某些功能或功能群的指令和数据。计算机可执行指令可为(例如)二进制、中间格式指令(诸如汇编语言)、或者甚至为源代码。尽管在语言上针对结构特征和/或方法步骤阐述了本发明的主题，然而应当理解，随附权利要求书中所限定的主题未必仅限于上文所述的特征或步骤。更确切地说，上文所述的特征和步骤是作为实施权利要求书的例子形式而公开的。
[0110]
本领域的技术人员应当理解，本公开可在网络计算环境中实现，该网络计算环境具有多种类型的计算机系统配置，包括个人电脑、台式计算机、笔记本电脑、信息处理器、控制器、相机控制器、手持设备、手持件、多处理器系统、基于微处理器的或可编程的电子消费品、网络pc、小型计算机、大型计算机、移动电话、pda、平板电脑、传呼机、路由器、交换机、各种存储装置等等。应当指出的是，任意上述计算设备都可由实体机构提供或位于实体机构内。本公开也可在分布式系统环境中实现，其中本地和远程计算机系统通过网络连接起来(通过硬连接数据链路、无线数据链路或硬连接数据链路与无线数据链路的组合)，两者均可执行任务。在分布式系统环境中，程序模块可位于本地和远程存储器存储装置二者中。
[0111]
另外，在适当的情况下，本文所述的功能可通过硬件、软件、固件、数字部件或模拟部件中的一种或多种来执行。例如，可对一种或多种专用集成电路(asic)或现场可编程门
阵列进行编程以执行本文所述的一种或多种系统和程序。在整个下面的描述和权利要求中所用的某些术语是指特定的系统部件。本领域的技术人员应当理解，部件可具有不同的名称。本文并非旨在在名称上而非功能上不同的部件之间进行辨别。
[0112]
图2a是示出了示例性计算装置250的框图。计算装置250可用于执行各种程序，诸如本文所讨论的那些程序。计算装置250可用作服务器、客户端或任何其他计算实体。计算装置250可执行本文所讨论的各种监测功能，并且可执行一种或多种应用程序，诸如本文所述的应用程序。计算装置250可为各种计算装置中的任意一种，诸如台式计算机、笔记本电脑、服务器电脑、掌上电脑、相机控制器、平板电脑，等等。
[0113]
计算装置250包括一个或多个处理器252、一个或多个存储器装置254、一个或多个接口256、一个或多个大容量存储装置258、一个或多个输入/输出(i/o)装置260和显示装置280，所有这些均耦合到总线262。处理器252包括一个或多个处理器或控制器，其执行存储在存储器装置254和/或大容量存储装置258中的指令。处理器252还可以包括各种类型的计算机可读介质，诸如高速缓存存储器。
[0114]
存储器装置254包括各种计算机可读介质，诸如易失性存储器(例如，随机存取存储器(ram)264)和/或非易失性存储器(例如，只读存储器(rom)266)。存储器装置254还可包括可重写rom，诸如闪存存储器。
[0115]
大容量存储装置258包括各种计算机可读介质，诸如磁带、磁盘、光盘、固态存储器(例如，闪存存储器)等。如图2中所示，特定的大容量存储装置为硬盘驱动器274。各种驱动器也可包括在大容量存储装置258中以能够从各种计算机可读介质中进行读取和/或写入其中。大容量存储装置258包括可移动介质276和/或不可移动介质。
[0116]
i/o装置260包括允许向计算装置250输入或从计算装置检索数据和/或信息的各种装置。示例性i/o装置260包括数字成像装置、电磁传感器和发射器、光标控制装置、键盘、小键盘、麦克风、监测器或其他显示装置、扬声器、打印机、网络接口卡、调制解调器、透镜、ccd或其他图像捕获装置，等等。
[0117]
显示装置280包括能够向计算装置250的一个或多个用户显示信息的任何类型的装置。显示装置280的示例包括监测器、显示终端、视频投影装置，等等。
[0118]
接口256包括允许计算装置250与其他系统、装置或计算环境进行交互的各种接口。示例性接口256可包括任何数量的不同网络接口270，诸如连接局域网(lan)、广域网(wan)、无线网和互联网的接口。其他接口包括用户接口268和外围装置接口272。接口256还可包括一个或多个用户接口元件268。接口256还可包括一个或多个外围接口，诸如用于打印机、指示装置(鼠标、触控板等)、键盘等的接口。
[0119]
总线262允许处理器252、存储器装置254、接口256、大容量存储装置258和i/o装置260彼此通信，并且与耦合到总线262的其他装置或部件通信。总线262表示若干类型的总线结构(诸如系统总线、pci总线、ieee 1394总线、usb总线等等)中的一种或多种。
[0120]
出于示例性目的，本文所示的程序和其它可执行程序器件为分立块体，但应当理解，此类程序和器件可驻留在计算装置250的不同存储器件中的各个时间，并由处理器252执行。或者，本文所述的系统和程序可通过硬件来实现，或通过硬件、软件和/或固件的组合来实现。例如，可对一种或多种专用集成电路(asic)或现场可编程门阵列进行编程以执行本文所述的一种或多种系统和程序。
[0121]
图3a示出了在滚动读出模式或在传感器读出300期间使用的传感器的操作循环。帧读出可在竖直线310处开始并且可由该竖直线表示。读出周期由对角线或斜线302表示。图像传感器的像素阵列的有效像素可逐行读出，向下倾斜边缘的顶部为传感器顶行312，向下倾斜边缘的底部为传感器底行314。在最后一行读出和下一读出循环之间的时间可被称为消隐周期316。应当指出，传感器像素行中的一些可覆盖有光屏蔽件(例如，金属涂层或另一种材料类型的任何其它大体上黒色的层)。这些被覆盖的像素行可被称为光学黑色行318和320。光学黑色行318和320可用作校正算法的输入。如图3a所示，这些光学黒色行318和320可位于像素阵列的顶部上或像素阵列的底部或像素阵列的顶部和底部。
[0122]
图3b示出了控制曝光至像素从而被像素集成或聚积的电磁辐射(例如，光)的量的方法。应当理解，光子是电磁辐射的基本粒子。光子被每个像素集成、吸收或累积并转换为电荷或电流。电子快门或卷帘式快门(点划线322所示)可用于通过复位像素来开始集成时间。然后光将集成直到下一读出阶段为止。电子快门322的位置可在两个读出循环302之间移动，以便控制给定量的光的像素饱和度。应当指出，该技术允许在两个不同行之间的集成时间恒定，但在从顶行移动到底行时引入延迟。
[0123]
图3c示出了电子快门322已被移除的情况。在该配置中，入射光的集成可在读出302期间开始，并且可在下一读出循环302处结束，该下一读出循环也限定下一集成的开始。
[0124]
图3d示出了没有电子快门322但在消隐周期316期间具有受控和脉冲光330的配置。这确保所有行看到的光与从相同光脉冲330发出的光相同。换句话讲，每行将在黑暗环境中开始其集成，这可位于读出帧(m)的光学黑色后行320以获得最大的光脉冲宽度，并且然后将接收光通并且将在黑暗环境中结束其集成，这可位于下一后续读出帧(m+1)的光学黑色前行318以获得最大的光脉冲宽度。在例如图3d中，由光脉冲生成的图像将仅在帧(m+1)读出期间可用，而不会干扰帧(m)和帧(m+2)。应当指出，使光脉冲仅在一个帧中读出并且不干扰相邻帧的条件是在消隐周期316期间击发给定的光脉冲。因为光学黑色行318、320对光不敏感，所以可将帧(m)的光学黑色后行320时间和帧(m+1)的光学黑色前行318时间添加至消隐周期316，以确定光脉冲330的击发时间的最大范围。
[0125]
如图3a所示，传感器可循环多次以接收每种脉冲颜色或波长(例如，电磁光谱上的红色、绿色、蓝色或其它波长)的数据。每个循环可以是定时的。在一个实施方案中，循环可定时以在16.67ms的间隔内操作。在另一个实施方案中，循环可定时以在8.3ms的间隔内操作。应当理解，本公开设想了其它的定时间隔，并且旨在落入本公开的范围内。
[0126]
图4a以图形方式示出了电磁发射器的实施方案的操作。发射器可定时以对应于传感器的循环，使得电磁辐射在传感器操作循环内和/或传感器操作循环的一部分期间发射。图4a示出了402处的脉冲1、404处的脉冲2和406处的脉冲3。在一个实施方案中，发射器可在传感器操作循环的读出周期302期间脉冲。在一个实施方案中，发射器可在传感器操作循环的消隐部分316期间脉冲。在一个实施方案中，发射器可脉冲持续时间，该持续时间在两个或更多个传感器操作循环的部分期间。在一个实施方案中，发射器可在消隐部分316期间或在读出周期302的光学黑色部分320期间开始脉冲，并且在读出周期302期间或下一后续循环的读出周期302的光学黑色部分318期间结束脉冲。应当理解，只要发射器的脉冲和传感器的循环相对应，上述的任何组合旨在落入本公开的范围内。
[0127]
图4b以图形方式表示改变发射的电磁脉冲(例如，在412处的脉冲1、在414处的脉
冲2、在416处的脉冲3)的持续时间和量值以控制曝光。具有固定输出量值的发射器可在上文结合图3d和图4a所述的任何循环期间脉冲一定间隔，以向像素阵列提供所需的电磁能量。具有固定输出量值的发射器可在较长的时间间隔内脉冲，从而为像素提供更多的电磁能量，或者发射器可在较短的时间间隔脉冲，从而提供较少的电磁能量。是否需要较长或较短的时间间隔取决于操作条件。
[0128]
与调节发射器脉冲固定输出量值的时间间隔相比，可增大发射量值本身以便向像素提供更多的电磁能量。类似地，减小脉冲的量值可为像素提供较少的电磁能量。应当指出，如果需要的话，系统的实施方案可具有同时调节量值和持续时间的能力。另外，可调节传感器以根据最佳图像质量的需要来増加其灵敏度和持续时间。图4b示出了改变脉冲的量值和持续时间。在图示中，412处的脉冲1具有比414处的脉冲2或416处的脉冲3更高的量值或强度。另外，412处的脉冲1具有比414处的脉冲2或416处的脉冲3更短的持续时间，使得由该脉冲提供的电磁能量由图示中所示脉冲下的面积示出。在图示中，当与412处的脉冲1或416处的脉冲3相比时，414处的脉冲2具有相对较低的量值或强度和较长的持续时间。最后，在图示中，当与412处的脉冲1和414处的脉冲2相比时，416处的脉冲3具有中间量值或强度和持续时间。
[0129]
图5是根据本公开的原理和教导内容的组合图3a至图3d以及图4的操作循环、电磁发射器和发射电磁脉冲以在操作期间显示成像系统的本公开的实施方案的图形表示。如在图中可见，电磁发射器主要在图像传感器的消隐周期316期间脉冲发射，使得像素将被充电并且准备好在图像传感器循环的读出周期302期间被读取。图5中的点划线表示电磁辐射脉冲(来自图4a)。电磁辐射脉冲主要在图像传感器的消隐周期316期间发射，但可与图像传感器的读出周期302叠层。
[0130]
曝光帧包括在读出周期302期间由图像传感器的像素阵列读取的数据。曝光帧可与在读出周期302之前由发射器发射何种类型的脉冲的指示相组合。曝光帧与脉冲类型的指示的组合可被称为数据集。可组合多个曝光帧以生成黑白或rgb彩色图像。另外，超光谱成像数据、荧光成像数据和/或激光标测成像数据可叠层在黑白或rgb图像上。
[0131]
在一个实施方案中，rgb图像帧基于三个曝光帧生成，包括由图像传感器在红色发射之后生成的红色曝光帧、由图像传感器在绿色发射之后生成的绿色曝光帧以及由图像传感器在蓝色发射之后生成的蓝色曝光帧。荧光成像数据可叠层在rgb图像帧上。荧光成像数据可提取自一个或多个荧光曝光帧。荧光曝光帧包括在发射用于激发荧光试剂的激发波长的电磁辐射之后的读出周期302期间由图像传感器生成的数据。在激发荧光试剂之后由像素阵列感测到的数据可为由荧光试剂发射的弛豫波长。荧光曝光帧可包括多个荧光曝光帧，每个荧光曝光帧在不同类型的荧光激发发射之后由图像传感器生成。在一个实施方案中，荧光曝光帧包括多个荧光曝光帧，包括在发射具有约770nm至约790nm的波长的电磁辐射之后由图像传感器生成的第一荧光曝光帧，以及在发射具有约795nm至约815nm的波长的电磁辐射之后由图像传感器生成的第二荧光曝光帧。荧光曝光帧可包括由图像传感器基于成像应用根据需要在光的其它荧光激发发射之后生成的另外的附加荧光曝光帧。
[0132]
在一个实施方案中，曝光帧是在消隐周期316之后发生的读出周期302期间由像素阵列感测到的数据。电磁辐射的发射在消隐周期316期间发射。在一个实施方案中，电磁辐射的发射的一部分与读出周期316叠层。消隐周期316在像素阵列的光学黑色像素被读取时
发生，并且读出周期302在像素阵列的有效像素被读取时发生。消隐周期316可与读出周期302叠层。
[0133]
图6a和图6b示出了用于记录图像帧的过程。可将多个图像帧串在一起以生成视频流。单个图像帧可包括来自多个曝光帧的数据，其中曝光帧是在发射电磁辐射之后由像素阵列感测到的数据。图6a示出了通常用彩色图像传感器实现的常规过程，该彩色图像传感器具有颜色滤光器阵列(cfa)以用于每个像素滤除某些波长的光。图6b是本文所公开的过程，并且可利用能够接收所有波长的电磁辐射的单色“颜色不定”图像传感器来实现。
[0134]
图6a所示的过程从时间t(0)到时间t(1)发生。该过程首先发射白光602并感测白光604。在606处，基于在604处的感测来处理并显示图像。
[0135]
图6b所示的过程从时间t(0)到时间t(1)发生。该过程首先发射绿光612并在发射绿光612之后感测反射电磁辐射614。该过程继续发射红光616并在发射红光616之后感测反射电磁辐射618。该过程继续发射蓝光620并在发射蓝光620之后感测反射电磁辐射622。该过程继续进行专用624发射的一个或多个发射并在专用624发射的一个或多个发射中的每一个发射之后感测反射电磁能量626。专用发射可包括一个或多个单独的发射，诸如荧光试剂的激发波长、超光谱发射和/或激光标测发射。单独的多个专用发射中的每一个发射可由图像传感器独立地感测，以生成单独且独立的曝光帧。在628处，基于感测到的反射电磁能量例图614、618、622和626中的每一者来处理并显示图像。
[0136]
图6b所示的过程提供较高分辨率图像并提供用于还包括专用数据的生成rgb图像的方式。当使用分区光谱光时(如图6b所示)，可使传感器对所有波长的电磁能量敏感。在图6b所示的过程中，指示单色像素阵列在每个循环中感测来自全光谱电磁能量的预定分区的电磁能量。因此，为了形成图像，传感器只需要循环全光谱光内的多个不同分区。基于多个循环来组合最终图像。因为来自每个颜色分区帧循环的图像具有更高分辨率(与cfa像素阵列相比)，所以当分区光帧被组合时所形成的所得图像也具有更高分辨率。换句话讲，因为阵列内的每个像素(而不是至多，具有cfa的传感器中的每隔一个像素)正感测给定脉冲和给定场景的能量量值，所以仅相隔一段时间，针对每个场景形成较高分辨率图像。
[0137]
如在图6a和图6b中所示的实施方案中在时间t(0)和t(1)之间可图形方式看出，用于图6b中的分区光谱系统的传感器对图6a中的全光谱系统中的每个系统循环至少四次。在一个实施方案中，显示装置(lcd面板)以每秒50帧至60帧的速度操作。在此类实施方案中，图6b中的分区光系统可以200帧/秒至240帧/秒的速率操作，以保持所显示视频的连续性和平滑性。在其它实施方案中，可存在不同的捕获和显示帧速率。此外，平均捕获速率可以是显示速率的任何倍数。
[0138]
在一个实施方案中，可能期望并非所有分区在系统帧速率内均相等地表示。换句话讲，并非所有光源都必须以相同的规律性脉冲，以便根据用户的需要来强调和取消强调所记录场景的各个方面。还应当理解，电磁频谱的不可见分区和可见分区可在系统内脉冲到一起，其中它们的相应数据值被接合(stitch)到视频输出中，以用于向用户显示。
[0139]
一个示例性实施方案可包括如下脉冲循环图案：
[0140]
i.绿色脉冲；
[0141]
ii.红色脉冲；
[0142]
iii.蓝色脉冲；
[0143]
iv.绿色脉冲；
[0144]
v.红色脉冲；
[0145]
vi.蓝色脉冲；
[0146]
vii.激光标测脉冲方案；
[0147]
viii.荧光激发脉冲；
[0148]
ix.超光谱脉冲；
[0149]
x.(重复)
[0150]
另一个示例性实施方案可包括如下脉冲循环图案：
[0151]
i.绿色脉冲；
[0152]
ii.红色脉冲；
[0153]
iii.蓝色脉冲；
[0154]
iv.荧光激发脉冲；
[0155]
v.超光谱脉冲；
[0156]
vi.绿色脉冲；
[0157]
vii.红色脉冲；
[0158]
viii.蓝色脉冲；
[0159]
ix.荧光激发脉冲；
[0160]
x.超光谱脉冲；
[0161]
xi.激光标测脉冲方案；
[0162]
xii.(重复)
[0163]
实施方案可包括如下脉冲循环图案：
[0164]
i.亮度脉冲；
[0165]
ii.红色色度脉冲；
[0166]
iii.亮度脉冲；
[0167]
iv.蓝色色度脉冲；
[0168]
v.超光谱脉冲；
[0169]
vi.荧光激发脉冲；
[0170]
vii.激光标测脉冲；
[0171]
viii.(重复)
[0172]
实施方案可包括如下脉冲循环图案：
[0173]
i.亮度脉冲；
[0174]
ii.红色色度脉冲；
[0175]
iii.亮度脉冲；
[0176]
iv.蓝色色度脉冲；
[0177]
v.亮度脉冲；
[0178]
vi.红色色度脉冲；
[0179]
vii.亮度脉冲；
[0180]
viii.蓝色色度脉冲；
[0181]
ix.超光谱脉冲；
[0182]
x.荧光激发脉冲；
[0183]
xi.激光标测脉冲；
[0184]
xii.(重复)
[0185]
可改变脉冲图案以适应特定具体实施的成像目标。一个示例性成像目标是获得超光谱成像数据和荧光成像数据，并且还获得基于对超光谱成像数据和/或荧光成像数据的分析的激光标测数据和/或工具跟踪数据。在此类示例中，可针对场景的已被超光谱成像数据和/或荧光成像数据突出显示的某些区域来分析激光标测数据和/或工具跟踪数据。另一个示例性成像目标是获得超光谱成像数据或荧光成像数据，并且还获得激光标测数据和/或工具跟踪数据。另一个示例性成像目标是获得激光标测数据和/或工具跟踪数据。另一个示例性成像目标是获得超光谱成像数据。另一个示例性成像目标是获得荧光成像数据。应当理解，成像目标可以是专门的，具体取决于部署成像系统的原因。另外，成像目标可在单个成像会话期间改变，并且可改变脉冲图案以匹配变化的成像目标。
[0186]
如在该示例中可见，激光标测分区可以与其它分区脉冲的速率不同的速率脉冲。这样做可强调场景的某个方面，其中激光标测数据仅与视频输出中的其它数据叠层以做出希望的强调。应当指出，在红色分区、绿色分区和蓝色分区的顶部上方添加激光标测分区并不一定要求序列化的系统以全光谱非串行系统的速率的四倍操作，因为每个分区不必在脉冲图案中相等地表示。如在该实施方案中所见，添加在脉冲图案(上述示例中的激光标测)中表示较少的分区脉冲将导致小于传感器的循环速度的20％的増加，以适应不规则的分区取样。
[0187]
在各种实施方案中，脉冲循环图案还可以任何合适的顺序包括以下波长中的任一个波长。此类波长可特别适用于通过基于荧光试剂弛豫发射感测荧光试剂的弛豫发射来激发荧光试剂以产生荧光成像数据：
[0188]
i.770
±
20nm；
[0189]
ii.770
±
10nm；
[0190]
iii.770
±
5nm；
[0191]
iv.790
±
20nm；
[0192]
v.790
±
10nm；
[0193]
vi.790
±
5nm；
[0194]
vii.795
±
20nm；
[0195]
viii.795
±
10nm；
[0196]
ix.795
±
5nm；
[0197]
x.815
±
20nm；
[0198]
xi.815
±
10nm；
[0199]
xii.815
±
5nm；
[0200]
xiii.770nm至790nm；和/或
[0201]
xiv.795nm至815nm。
[0202]
在各种实施方案中，脉冲循环还可以任何合适的顺序包括以下波长中的任一个波长。此类波长可特别适用于生成超光谱成像数据：
[0203]
i.513nm至545nm；
[0204]
ii.565nm至585nm；
[0205]
iii.900nm至1000nm；
[0206]
iv.513
±
5nm；
[0207]
v.513
±
10nm；
[0208]
vi.513
±
20nm；
[0209]
vii.513
±
30nm；
[0210]
viii.513
±
35nm；
[0211]
ix.545
±
5nm；
[0212]
x.545
±
10nm；
[0213]
xi.545
±
20nm；
[0214]
xii.545
±
30nm；
[0215]
xiii.545
±
35nm；
[0216]
xiv.565
±
5nm；
[0217]
xv.565
±
10nm；
[0218]
xvi.565
±
20nm；
[0219]
xvii.565
±
30nm；
[0220]
xviii.565
±
35nm；
[0221]
xix.585
±
5nm；
[0222]
xx.585
±
10nm；
[0223]
xxi.585
±
20nm；
[0224]
xxii.585
±
30nm；
[0225]
xxiii.585
±
35nm；
[0226]
xxiv.900
±
5nm；
[0227]
xxv.900
±
10nm；
[0228]
xxvi.900
±
20nm；
[0229]
xxvii.900
±
30nm；
[0230]
xxviii.900
±
35nm；
[0231]
xxix.1000
±
5nm；
[0232]
xxx.1000
±
10nm；
[0233]
xxxi.1000
±
20nm；
[0234]
xxxii.1000
±
30nm；或者
[0235]
xxxiii.1000
±
35nm。
[0236]
可将分区循环划分为适应或近似各种成像和视频标准。在一个实施方案中，分区循环可包括如下如图7a至图7d中最佳地示出的红色、绿色和蓝色光谱中的电磁能量的脉冲。在图7a中，已通过在由竖直灰色虚线所示的工作范围内调制光脉冲宽度或持续时间来实现不同的光强度。在图7b中，已通过调制光功率或电磁发射器(其可为激光器或led发射器)的功率，但保持脉冲宽度或持续时间恒定来实现不同的光强度。图7c示出了光功率和光脉冲宽度均被调制从而得到更大灵活性的情况。分区循环可使用青色洋红色黄色(cmy)、红外线、紫外线、超光谱和荧光，其使用与可见脉冲源混合的不可见脉冲源以及产生图像所需
的任何其它色彩空间或近似于当前已知或尚未开发的所需视频标准。还应当理解，系统能够在运行中的色彩空间之间切换以提供所需图像输出质量。
[0237]
在一个实施方案中，发射器发射一个或多个超光谱发射以引发光谱响应。超光谱发射包括具有约513-545nm、约565-585nm和/或约900-1000nm的波长的电磁辐射中的一种或多种。在此类实施方案中，相干光源802包括用于513-545nm分区的至少一个激光发射器、用于565-585分区的至少一个激光发射器，以及用于900-1000nm分区的至少一个激光发射器。应当理解，在不脱离本公开的范围的情况下，可发射用于引发光谱响应的附加的超光谱发射。
[0238]
在一个实施方案中，发射器发射用于使试剂发荧光的一个或多个荧光激发发射。荧光激发发射包括具有约460-470nm、529-537nm、633-643nm、775-785nm、800-810nm、970-980nm、575-579nm、519-527nm、770-790nm和/或795-815nm的波长的电磁辐射中的一种或多种。在此类实施方案中，相干光源802可包括用于前述电磁辐射的分区中的每一个分区的至少一个激光发射器。应当理解，在不脱离本公开的范围的情况下，可发射用于使试剂发荧光的附加的荧光激发发射。
[0239]
在使用色彩空间绿色-蓝色-绿色-红色(如图7d中所示)的实施方案中，可能期望比色度分量更频繁地脉冲亮度分量，因为用户通常对光量值差异比对光色差更敏感。可使用如图7d中所示的单色传感器来利用该原理。在图7d中，包含最多亮度信息的绿色可在(g-b-g-r-g-b-g-r
……
)方案中更频繁地脉冲或具有更大强度以获得亮度数据。此类配置将创建具有可察觉的更多细节的视频流，而不创建和传输不可察觉的数据。
[0240]
在一个实施方案中，复制较弱分区的脉冲可用于产生已针对较弱脉冲进行调节的输出。例如，认为蓝色激光相对于硅基像素的灵敏度弱，并且与红光或绿光相比，蓝色激光难以产生，因此可在帧循环期间更频繁地脉冲以补偿光的弱性。这些附加脉冲可随时间推移连续地完成，或者通过使用多个激光器同时脉冲以产生所需补偿效果。应当注意，通过在消隐周期(在此期间传感器不读出像素阵列的时间)期间脉冲，传感器对同一种类的激光器之间的差异/失配不敏感，并且简单地聚积光以用于期望的输出。在另一个实施方案中，最大光脉冲范围可能从帧到帧是不同的。这在图7e中示出，其中光脉冲从帧到帧是不同的。传感器可被构建成能够以2帧或3帧或4帧或n帧的重复图案对不同消隐周期进行编程。
[0241]
在图7e中，示出了四个不同的光脉冲，并且脉冲1可例如在脉冲4之后重复并且可具有不同消隐周期的四个帧的图案。该技术可用于将最大功率的分区放置于最小消隐周期上，并且因此允许最弱的分区在后续帧中的一帧上具有更宽的脉冲而无需增加读出速度。重建帧仍可具有帧到帧的规则图案，因为其由许多脉冲帧构成。
[0242]
图8是控制信号802和电磁辐射的发射804之间的延迟或抖动的图形显示。在一个实施方案中，控制信号802表示提供给发射器驱动器的信号。驱动器被配置为能够使发射器102发射电磁辐射脉冲。在一个实施方案中，驱动器为控制器124的部件，或者可以独立于控制器124并且与控制器124通信。在一个实施方案中，驱动器为控制器124。在一个实施方案中，驱动器为发射器102的部件或与发射器102通信。如图所示，在控制信号802达到其峰值(即，开启)和发射器102的电磁辐射的发射804之间存在持续时间t1的延迟。在控制信号802变低(即，关断)和电磁辐射的发射804结束之间存在持续时间t2的延迟。
[0243]
延迟t1和t2可以包括一些恒定的延迟以及由发射器的驱动器中的抖动导致的一
些非恒定变化。例如，在控制信号802被传输到驱动器的时间和电磁辐射的发射804实际上由发射器102发射的时间之间可存在恒定的延迟。该延迟可以非常短，并且可以基于在驱动器和发射器之间发生电通信所需的时间。延迟的非恒定变化可以是发射器的驱动器、控制器124和/或发射器本身的抖动的结果。
[0244]
由系统或系统的部件(诸如发射器的驱动器)经历的抖动可以由被称为抖动规范的值来描述。抖动规范是描述系统所经历的抖动量或抖动持续时间的数值。在图8所示的示例中，延迟t1的持续时间比延迟t2的持续时间短。在示例中，延迟t1可以表示在发起控制信号802之后经历的恒定延迟，并且电磁辐射的发射804由发射器发射。t2和t1之间的差可以表示系统所经历的抖动。该值可以被称为抖动规范。
[0245]
在一个实施方案中，抖动规范是表示用于发起或停止电磁辐射脉冲的发射的恒定的或可预测延迟的变化量的数值。在此类实施方案中，在驱动器向发射器发出信号以发射电磁辐射脉冲和发射器实际上发起电磁辐射脉冲之间，系统经历恒定的、可预测的延迟。类似地，在发射器应该停止电磁辐射脉冲的时间和发射器实际上停止电磁辐射脉冲的时间之间可存在恒定的、可预测的延迟。这种恒定的、可预测的延迟不表示抖动规范。相反，抖动规范是这种恒定的、可预测的延迟的变化。在图8所示的示例中，时间t2与时间t1之间的差表示恒定的、可预测的延迟的变化。
[0246]
抖动不受系统的用户的控制。抖动规范表示系统中存在的不可预测且非恒定时间变化的量。如果抖动规范相对于电磁辐射脉冲太大，则在所得的曝光帧中可出现图像质量的显著下降或图像亮度变化。例如，在如本文所讨论的视频内窥镜系统中，长抖动规范可以使视频流内不同排的曝光帧具有不同的亮度。这导致视频流中的闪烁和总体质量下降。长抖动规范可导致光在图像传感器的读出周期302期间发射。如果在读出周期302期间脉冲电磁辐射，像素读出中的像素和像素行之间将发生显著变化，并且这将降低所得视频流中的图像质量。
[0247]
在一个示例性具体实施中，控制器124具有电磁辐射脉冲的持续时间的10％的抖动规范。在示例中，脉冲可以从其期望的持续时间的90％变为其期望的持续时间的110％。这可导致视频的图像帧内的曝光帧或排之间的亮度变化高达三分之一。
[0248]
在一个实施方案中，如果抖动规范具有长于阈值量的持续时间，则电磁辐射脉冲被限制在持续时间内，以避免重叠到读出周期302中。对脉冲持续时间的限制可能需要通过增加捕获的曝光帧之间的时间以及/或者增加消隐期316的持续时间来降低帧速率。这可导致图像亮度的降低，并且这可以进一步降低图像传感器捕获详细的图像的能力。
[0249]
在一个实施方案中，如果抖动规范具有短于阈值量的持续时间，则发射器102的脉冲序列和图像传感器的读出序列204保持不变。在一个实施方案中，阈值指示抖动规范必须为1微秒或更小。在一个实施方案中，阈值指示抖动规范必须为50纳秒或更小。在一个实施方案中，阈值指示抖动规范必须小于图像传感器读出像素阵列的一排所花费的时间。在一个实施方案中，阈值指示抖动规范必须小于图像传感器读出像素阵列的单个像素所花费的时间。在一个实施方案中，阈值指示抖动规范可以小于或等于图像传感器的读出周期302的10％至25％，或者图像传感器读出像素阵列中的所有有效像素所花费的时间。例如，在此类实施方案中，如果像素阵列包括400排，则抖动规范必须小于或等于读出像素阵列中的400排中的40至100排所需的时间。因此，由像素阵列捕获的光的变化量可足够低以减少有闪烁
的图像并且在读出周期302之间提供尽可能多的光。
[0250]
在一个实施方案中，通过在控制器124或发射器102的驱动器中实施更高的时钟速率或更准确的时钟，降低(缩短)抖动规范。发射器102的驱动器的降低的抖动规范和公差可以解决在所得视频流中导致伪影的不容公差的驱动的问题。
[0251]
在一个实施方案中，相机控制单元(ccu)向控制器124或发射器102提供信号以避免电磁辐射脉冲与图像传感器的读出周期302重叠。ccu可以确定用于向控制器124和/或发射器102发送信号的定时，以避免重叠到像素阵列的有效(即，非光学黑色)像素的读出中。ccu可以最大化发射器102发射电磁辐射的持续时间，而不与图像传感器的读出周期302重叠。
[0252]
图9示出了用于将来自发射器102的电磁辐射携带到缺光环境以照明场景的光纤束900的横截面。在图9所示的示例性实施方案中，光纤束900包括七根纤维，但应当理解，该纤维数量仅是说明性的，并且在不脱离本公开范围的情况下可以使用任何合适数量的纤维。纤维束包括中心纤维902和多个周边纤维904。
[0253]
在一个实施方案中，限制纤维的总数以减小光纤束900的横截面积。光纤束900可包括合适数量的纤维，用于提供足够的光分散，同时允许小横截面积。这可能是期望的，因为内窥镜内腔的横截面积在需要小内窥镜的一些应用中是至关重要的。在一个实施方案中，光纤束900包括2至150根纤维。较少数量的纤维可减少携带光纤束900所需的费用和横截面积。然而，更多数量的光纤改善了冗余。在一个实施方案中，光纤束900包括5至100根纤维、或5至50根纤维或7至15根纤维。在一个实施方案中，光纤束包括如图9所示的七根纤维。
[0254]
当光纤束900具有较小数量的纤维时，可能期望每根纤维接收相同量的电磁辐射和相同量的特定波长的电磁辐射。例如，如果电磁辐射主要通过中心纤维902传输，则中心纤维902将接收大部分电磁辐射，并且场景将被颜色或亮度不均匀地照明。另外，如果更多的光进入一根光纤而不是另一根，则可在光纤束900中携带的电磁辐射的总量(功率)可以减少。例如，纤维可具有熔断极限，如果向纤维提供高于一定能量水平或强度的电磁辐射，则可导致纤维熔化或以其他方式失效。因此，如果电磁辐射更均匀地跨纤维分布，则可能增加场景的功率和照明。
[0255]
在一个实施方案中，发射器102在向光纤束900提供电磁辐射之前混合两个或更多个波长的电磁辐射。这可在发射器102包括用于发射不同波长的电磁辐射的两个或更多个独立发射器时实现。发射器102可包括例如用于发射第一波长的第一发射器和用于发射第二波长的第二发射器。发射器102可混合电磁辐射，使得来自第一发射器和第二发射器的光以相同或基本上相同的角度进入跳线波导(或另一个波导)。可通过相对于彼此以相同的角度定位发射器来实现相同或基本上相同的角度。在一个实施方案中，二向色镜通过反射一个波长的电磁辐射，同时对另一波长的光透明而允许相同或基本上相同的角度。在一个实施方案中，发射器102包括漫射器、混合棒、透镜或其它光学元件，以在光进入光纤束900之前混合光。
[0256]
在一个实施方案中，发射器102向波导提供均匀分布的光强度。在为波导收集光的区域内的光的峰值强度可基本上等于或接近该区域内的光的平均强度。提供给收集区域的光可具有顶帽式轮廓，使得每根纤维收集和/或接收相同或类似强度的光。发射器102可通过以一定角度向收集区域的表面提供激光来提供或接近顶帽式轮廓。例如，发射器102可包
括高斯或其它非恒定强度轮廓。通过使发射器相对于收集区域成角度，将高斯轮廓展平为更为恒定的轮廓或顶帽式轮廓。可使用透镜、漫射器、混合棒等来生成顶帽式轮廓。
[0257]
图10以图形方式示出了顶帽式轮廓1002和高斯轮廓1004。水平轴线表示水平距离，并且垂直轴线表示光强度。用标注1006标记的线表示光纤束900的收集区域1006的边界或宽度。用标注1008标记的线表示纤维或其他波导的熔断水平1008。
[0258]
使用高斯轮廓1004，将大部分电磁辐射发送到中心纤维902。当大部分能量位于中心纤维902中时，其余的周边纤维904可以远低于熔断水平1008。例如，使用高斯轮廓1004，能量总量的增加可导致中心纤维902显著超过熔断水平1008，其中多个环绕光纤904远低于熔断水平1008。
[0259]
使用顶帽式轮廓1002，所有纤维都携带相同的能量水平。该能量水平可以靠近熔断水平1008或低于熔断水平1008。例如，使用顶帽式轮廓1002，由光纤束900携带的总能量可以显著增加，因为光纤束900可以被共同推动到熔断水平1008附近，而不会使任何单独的纤维面临熔断风险。
[0260]
图10示出了通过实施顶帽式轮廓1002可以在任何单独的纤维达到熔断水平1008之前提供更多能量。在一些情况下，在传统系统中，输出光锥小于图像传感器的视场(fov)。输出光锥的面积通常受波导光纤的数值孔径限制。在这些传统系统中，输出光锥内的光强度的分布具有大致高斯轮廓1004。当光输出具有高斯轮廓1004时，图像传感器的视场的中心将太亮并且图像传感器的视场的边缘将太暗。因此，希望提供均匀的光分布，使得图像传感器的整个视场是均匀或几乎均匀的。
[0261]
高斯轮廓1004和顶帽式轮廓1002可以向光纤束900提供相同量的瓦特数，而顶帽式轮廓1002在达到熔断水平1008之前仍可显著增加。因此，可使用塑料纤维来实现能量传输的总量的显著改善。在一些情况下，可以通过实施顶帽式轮廓1002来实现光纤束900携带的瓦特数增加50％或更多。在一个实施方案中，塑料纤维可具有由一个或多个发射器发射的光/电磁能量的熔断能量水平，高于该熔断能量水平时可损坏塑料纤维，其中光能量跨多个塑料纤维传播开以允许包括塑料纤维的光纤束900携带更大量的能量，而不达到纤维中的任一根纤维的熔断水平1008。
[0262]
在一个实施方案中，顶帽式轮廓1002和高斯轮廓1004由发射器102组合，用于与塑料光纤束900一起使用。发射器102和/或跳线波导可不包括塑料波导。然而，发射器102可将顶帽式轮廓1002与高斯轮廓1004进行混合以允许在内腔波导处与塑料光纤束900一起使用。在一个实施方案中，鉴于当在不同的材料(例如，从漫射器到玻璃纤维、到塑料纤维和/或返回到玻璃纤维或漫射器)之间移动电磁辐射时可引起的损耗，混合顶帽式轮廓1002允许更大的功率传输。更大的功率传输可以抵消先前或后续转变中的损耗，所得仍可以传输足够的光来照明场景。
[0263]
图11是示出了与相机视场相比的来自波导1102的输出的侧视图。在一个实施方案中，塑料纤维具有0.63的数值孔径，其中视场为100度，如虚线1106所示。玻璃纤维具有0.87的数值孔径，其中视场为120度，如实线1104所示。然而，在视场内发射的光在小于该视场的光锥内具有近似高斯轮廓。例如，用于塑料纤维的几乎所有光可以在80度的锥内，如点划线1108所示。因此，曝光帧的中心区域可能太亮而边缘太暗。
[0264]
图12是示出相对于图11中所示的输出具有更均匀的光分布的来自包括光纤束
1202的波导的输出的侧视图。在图12所示的实施方案中，通过瞄准光离开光纤束1202的纤维的端部来实现光的均匀分布。瞄准远离中心的纤维使视场中的锥加宽，并且在输出处没有光损耗。每根光纤的端部可保持在期望的位置以分布光，其中来自纤维的光锥的组合提供均匀的照明。光纤束1202包括多根纤维和指示由单独的纤维输出的锥的取向的线1204。在一个实施方案中，装置诸如物理模具或带孔板将纤维的端部保持在期望的取向。纤维可以用于场景的均匀照明的最佳取向来取向。光纤束1202中的纤维的尖端可位于内窥镜的远侧尖端附近，并且可指向围绕以焦点或相机镜头轴线为中心的区域传播光。
[0265]
图13是示出来自包括从塑料纤维1304转变为连接器1308处的玻璃纤维1306的光纤束1302的波导的输出的侧视图。在该实施方案中，内腔波导包括塑料纤维1304，然后在输出处或附近转变为玻璃纤维1306。玻璃纤维1306通常具有比塑料纤维1304更高的数值孔径和更宽的视场。因此，如光锥1316所示，实现了更宽且更均匀的光能分布。行进穿过塑料纤维1304的光通过连接器1308被引导到玻璃纤维1306。该耦合可发生在内窥镜的手持件单元或内窥镜的内腔内。连接器1308可定位在手持件单元中或内腔中以限制所使用的玻璃纤维1306的量。通过手持件或内腔中的锥从塑料纤维1304移动至玻璃纤维1306可导致与常规的内窥镜相同的视场。然而，与瞄准实施方案相比(其在输出处没有经历光损耗)，光损耗可能是显著的，诸如约25％。
[0266]
图14是示出使用漫射器1408从包括光纤束1402的波导输出的光的侧视图。在该实施方案中，内腔波导包括塑料纤维1404，然后在输出处或附近转变为漫射器1408。漫射器1408可包括任何合适的光学漫射器，诸如混合棒等。示例性漫射器包括全息漫射器。当与玻璃纤维相比时，输出处的漫射器1408可产生较大角度的视场。然而，漫射器1408的效率较低，诸如与图12中所示的瞄准实施方案相比效率高约40％至60％。
[0267]
塑料纤维的价格通常低于玻璃纤维的价格。降低的价格可导致制造照明系统时的显著节省。因为玻璃纤维可仅用于输出附近的短距离，或者根本不使用玻璃纤维，所以可实现显著的成本节约。
[0268]
在一个实施方案中，单根纤维替代光纤束作为波导。单根纤维可以大于构成光纤束的典型纤维，使得对于相同的横截面积，单根纤维比一束较小的纤维能够处理更大的功率。单根纤维可从控制台延伸并且穿过内腔以向身体内部或其他缺光环境提供光。单根纤维可作为从发射器102或跳线波导延伸并且通过内腔延伸的内腔波导操作。电磁辐射可由发射器102直接提供给具有顶帽式轮廓的单根纤维。
[0269]
由于塑料纤维可仅具有0.63或0.65的数值孔径，因此大部分电磁辐射可仅以70或80度的角度离开光纤。在单根纤维的输出处，漫射器可被定位成传播输出光并且在相机的视场内产生更均匀的照明。在一个实施方案中，漫射器的类型或漫射器的存在可基于相机使用的视场。例如，腹腔镜手术可允许更窄的视场，诸如70度，而关节镜手术可使用更宽的视场，诸如110度。因此，漫射器可用于关节镜检查，而对于腹腔镜检查而言，漫射器不存在。
[0270]
应当理解，用于输出电磁辐射(光)的实施方案可以包括图11至图14中所示的实施方案中的一个或多个实施方案的组合。例如，可将塑料纤维转变到玻璃纤维，并且玻璃纤维可旨在提供更均匀和改进的照明。
[0271]
图15是示出了用于向缺光环境提供照明的系统1500的示例实施方案的示意图，诸如用于内窥镜成像。与图2的系统200中所示的实施方案相比，系统1500示出了将来自发射
器模块1502的光传输到内窥镜212的另选实施方案。系统1500包括发射器模块1502、控制器124、波导1518、内窥镜212和具有附带的光学部件的图像传感器214。在一个实施方案中，发射器模块1502和/或控制器124可位于内窥镜212可能附接到的控制台或相机控制单元中。波导1518将来自发射器模块1502的电磁辐射传送到发射器212，并且可进一步将电磁辐射传送到图像传感器214所在的内窥镜212的远侧端部。
[0272]
电磁辐射的发射离开发射器模块1502并且这些发射被提供给波导1518。电磁辐射行进穿过波导1518以照明内窥镜212的远侧端部处的场景。可将内窥镜212插入患者体内以进行成像，诸如在手术或检查期间。电磁辐射以光锥1516的形式输出，如虚线所示。可使用图像传感器214捕获由电磁辐射照明的场景并且向医生或一些其它医学人员显示该场景。
[0273]
发射器模块1502生成并脉冲电磁辐射。发射器模块1502可包括一个或多个发射器。在一个实施方案中，发射器模块1502包括多个发射器，使得多个发射器可共同脉冲一定波长范围的电磁辐射。在一个实施方案中，发射器模块1502内的每个发射器能够脉冲电磁辐射的一个分区，并且发射器模块1502包括用于脉冲电磁辐射的多个波长的多个发射器。如本文所述，术语“发射器”可指发射器模块1502内的独立发射器中的任一个发射器，或者可共同指发射器模块1502自身。因此，如本文所用，术语“发射器”可指一个或多个单独的激光发射器单元、多个激光发射器单元的集合以及发射器模块1502。
[0274]
发射器模块1502内的一个或多个发射器脉冲电磁辐射。电磁辐射离开发射器模块1502并且被提供给波导1518。在一个实施方案中，光纤附接到发射器模块1502内的独立发射器中的每个独立发射器，并且这些光纤被馈送到波导1518中。波导1518可包括用于从发射器模块1502携带电磁辐射的一根或多根光纤。波导1518可包括本文中包括的实施方案中的一个或多个实施方案，诸如图11至图14所示的实施方案。如本文所述，术语“波导”可共同指图2所示的跳线波导206和内腔波导210。术语“波导”可指图2所示的跳线波导206或内腔波导210中的任一者。如本文所用，术语“波导”描述用于将光从一个点携带或传输到另一个点的部件。如关于图15所述，波导1518将来自发射器模块1502的电磁辐射传输到内窥镜212和/或由内窥镜212的远侧端部照明的缺光环境。
[0275]
在一个实施方案中，波导1518是从发射器模块1502延伸到内窥镜212、穿过内窥镜212的内腔并到达由图像传感器214捕获的缺光环境的单根光纤。在波导1518的此类实施方案中，波导1518可以是从发射器模块1502延伸到内窥镜212的远侧端部的没有中断的单根光纤。在波导1518是单根光纤而不是光纤束(例如，图9所示的光纤束900)的实施方案中，波导1518可具有约500微米的直径。波导1518可以是直径为约400微米至约600微米的单根塑料光纤或玻璃光纤。波导1518可以是直径为约450微米至约550微米的单根塑料光纤或玻璃光纤。
[0276]
在一个实施方案中，波导1518是连接到发射器模块1502的单根光纤，然后在发射器模块1502与内窥镜212的远侧端部之间的某个点处转变为光纤束。例如，波导1518可以是位于到发射器模块1502的连接点处的单根光纤，并且然后可在波导连接器(诸如图2所示的波导连接器208)处、在内窥镜212的近侧端部处、在内窥镜212内的一些点处或在内窥镜212的远侧端部处转变为光纤束。例如，波导1518可在一些点处从单根光纤转变为光纤束，之后波导1518到达内窥镜212。例如，波导1518可在内窥镜212内的一些点处(例如在内窥镜212的内腔内)从单根光纤转变为光纤束。在一个实施方案中，内腔包括设置在体内的用于对身
体进行成像的中空杆，并且波导1518连同用于支撑例如系统的图像传感器214和其它光学部件的其它电子部件一起设置在内腔内。例如，波导1518可在图像传感器214附近的内窥镜212的远侧端部处从单根光纤转变为光纤束。
[0277]
在一个实施方案中，前述段落的相反情况也成立，使得波导1518是连接到发射器模块1502的光纤束，然后在发射器模块1502与内窥镜212的远侧端部之间的一些点处转变为单根光纤。应当理解，光纤束可在发射器模块1502与内窥镜212的远侧端部之间的任何合适的点处转变为单根光纤。
[0278]
在一些具体实施中，可能希望波导1518由单根光纤而不是光纤束组成。这可能是发射器是脉冲电磁辐射的高能量脉冲的情况。具有特定直径的单根光纤可承受比共同具有相同特定直径的光纤束更高的能量。这是因为光纤束内的单独光纤将具有较小直径，并且因此当传输电磁辐射的高能量脉冲时将更容易失效。具体地讲，当光纤由塑料构成时，光纤可能非常易碎，并且当暴露于高能量时可能失效或熔融。
[0279]
在一些实施方案中，可能希望波导1518由光纤束而不是单根光纤组成。光纤束可具有比单根光纤更长的寿命，因为光纤束包括多根备用光纤，如果光纤中的一根或多根光纤失效或断裂，则多根备用光纤可发射电磁辐射。光纤可能非常易碎，并且可能有利的是一次用多于一根光纤传输电磁辐射。
[0280]
在一些具体实施中，可能希望波导1518包括塑料光纤。在一些另选的具体实施中，可能希望波导1518包括玻璃光纤。玻璃光纤可在较宽的光锥1516中发射电磁辐射，并且当照明缺光环境诸如身体的内部腔体时，这可能是有利的。光锥1516的直径还将确定缺光环境内的可见区域的大小。然而，玻璃光纤非常易碎并且比塑料光纤昂贵得多。在一个实施方案中，波导1518包括一根或多根塑料光纤和设置在波导1518的端部处的漫射器。漫射器可用于加宽离开波导1518的电磁辐射的光锥1516。在一个实施方案中，与没有漫射器的玻璃光纤相比，由一根或多根塑料光纤组成的波导1518与漫射器组合可得到更宽的光锥1516。
[0281]
在一个实施方案中，波导1518包括约500微米的单根塑料光纤。塑料纤维的成本可较低，但通过耦合、漫射器或其它损耗其宽度可允许光纤将足够量的电磁辐射携带到场景。在一个实施方案中，波导1518包括多根光纤。波导1518可直接从到发射器模块1502的连接或经由跳线波导(例如，参见图2的跳线波导206)接收光。漫射器可用于加宽光锥1516以获得图像传感器214或其它光学部件的所需视场。
[0282]
图16示出了用于向缺光环境提供电磁辐射以进行内窥镜成像的系统1600。系统1600包括连接到内窥镜1612的相机控制单元1622。相机控制单元1622包括控制器124和发射器模块1602。发射器模块1602包括用于脉冲电磁辐射的发射的一个或多个发射器。电磁辐射的发射离开发射器模块1602并且被提供给波导1618。波导1618将电磁辐射的发射至少携带到内窥镜1612的手持单元，并且可进一步将电磁辐射的发射携带到内窥镜内腔1620的远侧端部以用于照明缺光环境112。
[0283]
波导1618可由连续光纤或光纤束组成。波导1618可包括光纤的耦合在一起的两个或更多个节段。波导1618可包括本文所公开的实施方案中的任何实施方案，包括图11至图14所示的那些实施方案。在一个实施方案中，波导1618是从发射器模块1602延伸到内窥镜内腔1620的远侧端部的连续单根光纤。在一个实施方案中，波导1618包括光纤的在发射器模块1602与内窥镜内腔1620的远侧端部之间的一些点处耦合在一起的两个或更多个节段。
在一个实施方案中，波导1618包括从发射器模块1602延伸到内窥镜1612的第一部分(例如，内窥镜1612的手持件部分)。波导1618的第一部分可随后耦合到在内窥镜1612处开始并终止于内窥镜内腔1620的远侧端部处的第二部分。
[0284]
内窥镜内腔1620是内窥镜1612的部件。内窥镜内腔1620的远侧端部可插入缺光环境112中以用于照明场景。在一个具体实施中，内窥镜内腔1620的远侧端部通过小切口插入体腔中。在一个实施方案中，图像传感器设置在内窥镜内腔1620的远侧端部处。另外，一根或多根光纤可终止于内窥镜内腔1620的远侧端部处以用于照明缺光环境112。在内窥镜内腔1620的远侧端部处离开光纤的电磁辐射的发射形成照明的光锥1616，以用于可视化缺光环境112内的场景。
[0285]
在一个实施方案中，波导1618构成单根光纤，用于将来自发射器模块1602的电磁辐射的发射携带到可能设置在缺光环境112内的内窥镜内腔1620的远侧端部。在一个另选的实施方案中，波导1618包括具有多根光纤的光纤束。波导1618可由从发射器模块1602的出口点延伸到内窥镜1612的手持件部分或其它部件的管进行保护并插入该管内。波导1618可设置在柔性管材内，诸如由塑料、橡胶、硅胶或一些其它合适的材料构成的柔性管材。波导1618可从发射器模块1602延伸到内窥镜内腔1620的远侧端部。
[0286]
在一个实施方案中，内窥镜内腔1620包括其中具有腔室的刚性管。内窥镜内腔1620内的腔室可具有适当的尺寸，以用于容纳图像传感器的电子部件，包括用于图像传感器与相机控制单元1622之间的通信的部件。内窥镜内腔1620内的腔室可另外包括用于容纳波导1618的足够空间。在一个实施方案中，波导1618设置在围绕内腔室的外围腔室内，并且图像传感器的电子部件设置在内腔室内，如图17a至图17b所示。
[0287]
图17a和图17b示出了用于将光学部件和波导设置在内窥镜内腔1720内的示例性实施方案。在一个实施方案中，内窥镜内腔1720是可插入缺光环境112中的刚性、柔性或半柔性管。内窥镜内腔1720可包括内腔室1702，光学部件可定位在该内腔室中。光学部件可包括用于图像传感器和/或图像传感器的像素阵列与控制器124和/或相机控制单元1622之间的通信的布线和其它电连接。内窥镜内腔1720可另外包括用于接收波导1618的外围腔室1704。在一个实施方案中，波导1618是可沿内窥镜内腔1720的长度设置在外围腔室1704内的单根光纤。在一个实施方案中，波导1618是包括多根光纤的光纤束，并且多根光纤中的每根光纤沿内窥镜内腔1720的长度设置在外围腔室1704内。
[0288]
图17b示出了内窥镜内腔1720的远侧端部和设置在内窥镜内腔1720内或附接到内窥镜内腔的部件的直视分解图。在一个实施方案中，图像传感器1706位于内窥镜内腔1720的远侧端部处。系统还可包括相对于由图像传感器1706成像的场景位于图像传感器1706前方的透镜1708，使得透镜1708是内窥镜内腔1720的最远侧点。波导1718可设置在外围腔室1704内，并且可终止于内窥镜内腔1720的远侧端部，以利用电磁辐射脉冲照明场景。图像传感器1706的支撑电子部件可存放在内窥镜内腔1720的内腔室1702内。在一个实施方案中，波导1718延伸经过内窥镜内腔1720的最远侧点，以确保场景的合适照明。
[0289]
图18示出了内窥镜内腔1820和离开内窥镜内腔1820的电磁辐射的光锥1816的实施方案。在一个实施方案中，波导1818是包括多根光纤的光纤束。在此类实施方案中，波导1818的多根光纤可设置在内窥镜内腔1820的外围腔室1704内。在图18所示的示例中，存在多根设置在内窥镜内腔1820的外围腔室1704内的光纤，使得附图的近侧上的光纤用实线示
出并且附图的远侧上的光纤用虚线示出。从内窥镜内腔1820延伸的实线示出了从波导1818的多根光纤散发的电磁辐射束。这些电磁辐射束形成照明的光锥1816。
[0290]
图19a至图19c各自示出了具有多个发射器的发射器102。多个发射器可另选地称为“激光束”，其中每个发射器/激光束可独立于其它进行操作和/或脉冲电磁光谱的不同分区或波长。发射器模块1900在本文中可统称为“发射器”。因此，如本文和所附权利要求书中所用的术语“发射器”不应被视为限制性的，并且可指用于脉冲电磁辐射的一个或多个发射器或激光器，可指发射器模块1900内的发射器的集合，并且可指发射器模块1900自身。
[0291]
发射器模块1900内的多个发射器包括第一发射器1902、第二发射器1904和第三发射器1906。可包括附加的发射器，如下文进一步讨论。发射器1902、1904和1906可包括发射具有不同波长的光的一个或多个激光发射器。在一个实施方案中，发射器1902、1904、1906中的一个或多个发射器包括用于脉冲电磁光谱的分区的激光束。例如，第一发射器1902可发射与蓝色激光一致的波长，第三发射器1904可发射与绿色激光一致的波长，并且第三发射器1906可发射与红色激光一致的波长。例如，第一发射器1902可包括一个或多个蓝色激光器，第二发射器1904可包括一个或多个绿色激光器，并且第三发射器1906可包括一个或多个红色激光器。激光器1902、1904、1906朝收集区域1908发射激光束，该收集区域可以是波导、透镜或用于收集光和/或向波导(诸如图2的跳线波导206或内腔波导210)提供光的其它光学部件的位置。
[0292]
在一个实施方案中，发射器模块1900包括用于发射电磁辐射的超光谱波长的一个或多个发射器1902、1904、1906。某些超光谱波长可穿透组织并且使执业医生能够“透视”前景中的组织，以识别位于前景中的组织的后面的化学过程、结构、化合物、生物过程等。可专门选择超光谱波长以识别已知具有某些光谱响应的特定疾病、组织状况、生物过程、化学过程、组织类型等。
[0293]
在一个实施方案中，发射器模块1900包括用于发射电磁辐射的荧光激发波长的一个或多个发射器1902、1904、1906。在一些具体实施中，可向患者施用荧光试剂或染料，并且脉冲用于使试剂发荧光的已知荧光激发波长。试剂的荧光松弛波长可由系统感测以产生荧光曝光帧。此类波长可基于施用给患者的试剂或染料来确定。在此类实施方案中，发射器可能需要是高度精确的，以便发射所需波长以使某些试剂或染料发荧光或活化。
[0294]
在一个具体实施中，发射器模块1900包括用于发射激光标测图案的一个或多个发射器1902、1904和1906，该激光标测图案用于标测场景的形貌和/或用于计算场景中对象之间的尺寸和距离。在一个实施方案中，结合多个工具(诸如手术刀、牵开器、夹钳等)使用内窥镜成像系统。在此类实施方案中，发射器1902、1904和1906中的每个发射器可发射激光标测图案，使得激光标测图案单独地投影到每个工具上。在此类实施方案中，可分析工具中的每一者的激光标测数据以识别场景中工具与其它对象之间的距离。
[0295]
在图19b的实施方案中，发射器1902、1904、1906各自以不同角度向收集区域1908递送激光。角度的变化可导致电磁能量在输出波导中的位置的变化。例如，如果光在收集区域1908处立即进入纤维束(玻璃或塑料)中，则变化的角度可导致不同量的光进入不同的纤维。例如，角度可导致跨收集区域1908的强度变化。此外，来自不同发射器的光可不会被均匀地混合，因此一些纤维可接收不同量的不同颜色的光。不同纤维中的光的颜色或强度的变化可导致场景的非最佳照明。例如，递送光或光强度的变化可在场景和所捕获图像处导
致。
[0296]
在一个实施方案中，居间光学元件可放置在纤维束和发射器1902、1904、1906之间，以在进入纤维或其它波导中之前混合不同颜色(波长)的光。示例性居间光学元件包括漫射器、混合棒、一个或多个镜片，或用于混合光使得给定纤维接收每种颜色(波长)的相同量的其它光学部件。例如，纤维束中的每根纤维可具有相同的颜色。该混合可导致每根纤维中的相同的颜色，但是，在一些实施方案中，仍可导致递送到不同纤维的不同的总亮度。在一个实施方案中，居间光学元件也可在收集区域上传播或均匀地传播光，使得每根纤维携带相同总量的光(例如，光可能在顶帽式轮廓中散开)。漫射器或混合棒可导致光损失。
[0297]
尽管收集区域1908在图19a中表示为物理部件，但收集区域1908可以简单地作为递送来自发射器1902、1904和1906的光的区域。在一些情况下，收集区域1908可包括光学部件，诸如漫射器、混合棒、透镜，或处于发射器1902、1904、1906和输出波导之间的任何其它居间光学部件。
[0298]
图19c示出了具有以相同或基本上相同的角度向收集区域1908提供光的发射器1902、1904、1906的发射器模块1900的实施方案。光以基本上垂直于收集区域1908的角度提供。发射器模块1900包括多个二向色镜，包括第一二向色镜1910、第二二向色镜1912和第三二向色镜1914。二向色镜1910、1912、1914包括反射第一波长的光但透射第二波长(或对其透明)的光的镜。例如，第三二向色镜1914可反射由第三发射器提供的蓝色激光，而对第一发射器1902和第二发射器1904各自提供的红光和绿光透明。第二二向色镜1912可对来自第一发射器1902的光透明，但对来自第二发射器1904的光是反射的。如果包括其它颜色或波长，则可选择二向色镜以反射对应于至少一个发射器的光并且对其它发射器透明。例如，第三二向色镜1914反射来自第三发射器1906的光，但对其“后面”的发射器诸如第一发射器1902和第二发射器1904透明。在其中存在数十或数百个发射器的实施方案中，每个二向色镜可反射对应发射器和其前面的发射器，同时对其后面的发射器透明。这可允许数十或数百个发射器以基本上相同的角度将电磁能量发射到收集区域1908。
[0299]
因为这些二向色镜允许其它波长透射或穿过，这些波长中的每个波长可从相同的角度以及/或者以相同的中心点或焦点到达收集区域1908。从相同的角度和/或相同的焦点/中心点提供光可显著改善在收集区域1908处的接收和颜色混合。例如，特定纤维可以接收不同的颜色，这些颜色的比例与它们由发射器1902、1904、1906和镜1910、1912、1914透射/反射的比例相同。与图19b的实施方案相比，可在收集区域处显著改善光混合。在一个实施方案中，本文所讨论的任何光学部件可在收集区域1908处使用，以在向纤维或纤维束提供光之前收集光。
[0300]
图19c示出了具有也以相同或基本上相同的角度向收集区域1908提供光的发射器1902、1904、1906的发射器模块1900的实施方案。例如，入射在收集区域1908上的光从垂直偏移。角度1916指示从垂直偏移的角度。在一个实施方案中，激光发射器1902、1904、1906可具有高斯横截面强度轮廓。如前所述，纤维之间的光能量的改善的分布可通过形成更平坦或顶帽形的强度轮廓来实现。在一个实施方案中，随着角度1916的增大，跨收集区域1908的强度接近顶帽式轮廓。例如，通过增大角度1916直到轮廓足够平坦，顶帽式轮廓甚至可近似为非平坦输出光束。顶帽式轮廓也可使用一个或多个透镜、漫射器、混合棒，或处于发射器1902、1904、1906和输出波导、纤维或光纤束之间的任何其它居间光学部件来实现。
[0301]
图20是示出了在输出处经由漫射器2004输出的单根光纤2002的示意图。在一个实施方案中，光纤2002具有500微米的直径，0.65的数值孔径，并且在没有漫射器2004的情况下发射约70度或80度的光锥2016。在有漫射器2004的情况下，光锥2016可具有约110度或120度的角度。光锥2016可以是所有光到达并且均匀分布的地方的大部分。漫射器2004可允许由图像传感器观察到的场景的电磁能量的更均匀分布。
[0302]
在一个实施方案中，内腔波导210包括约500微米的单根塑料或玻璃光纤。塑料纤维的成本较低，其宽度可允许纤维将足够量的光传携带到场景，但具有耦合、漫射或其它损耗。例如，较小的纤维可能不能携带与较大纤维一样多的光或功率。内腔波导210可包括单根或多根光纤。内腔波导210可直接从发射器模块或经由跳线波导接收光。漫射器可用于加宽光输出206以获得图像传感器214或其它光学部件的所需视场。
[0303]
尽管在图19a至图19c中示出了三个发射器，但在一些实施方案中可使用数量从一个到数百个或更多个不等的发射器。发射器可具有它们发射的不同波长或光谱的光，并且这些光可用于连续覆盖电磁光谱的所需部分(例如，可见光谱以及红外光谱和紫外光谱)。发射器可被配置为能够发射可见光诸如红光、绿光和蓝光，并且还可被配置为能够发射电磁辐射的超光谱发射、用于使试剂发荧光的荧光激发波长和/或用于计算参数和场景中对象之间的距离的激光标测图案。
[0304]
图21示出了被分成二十个不同子光谱的电磁光谱2100的一部分。子光谱的数量仅为示例性的。在至少一个实施方案中，光谱2100可被分成数百个子光谱，每个子光谱具有小波带。光谱可从红外光谱2102延伸，穿过可见光谱2104，并且进入紫外光谱2106。子光谱各自具有覆盖光谱2100的一部分的波带2108。每个波带可由上波长和下波长限定。
[0305]
超光谱成像包括来自跨电磁光谱2100的成像信息。电磁辐射的超光谱脉冲可包括跨电磁波谱2100的一个或多个部分或整个电磁波谱2100的多个子脉冲。电磁辐射的超光谱脉冲可包括电磁辐射的单个波长分区。所得超光谱曝光帧包括在电磁辐射的超光谱脉冲之后由像素阵列感测到的信息。因此，超光谱曝光帧可包括电磁光谱2100的任何合适分区的数据，并且可包括电磁光谱2100的多个分区的多个曝光帧。在一个实施方案中，超光谱曝光帧包括多个超光谱曝光帧，使得组合的超光谱曝光帧包括整个电磁光谱2100的数据。
[0306]
在一个实施方案中，针对每个子光谱，至少一个发射器(诸如激光发射器)包括在发射器模块(诸如发射器模块212、102)中以提供对整个光谱2100的完整且连续的覆盖。例如，用于提供对所示子光谱的覆盖的发射器模块可包括至少21个不同的发射器，每个子光谱至少有一个发射器。在一个实施方案中，每个发射器覆盖覆盖40纳米的光谱。例如，一个发射器可发射500nm至540nm的波带内的光，而另一个发射器可发射540nm至580nm的波带内的光。在另一个实施方案中，发射器可覆盖其它尺寸的波带，这取决于可用发射器的类型或成像需要。例如，多个发射器可包括覆盖500nm至540nm的波带的第一发射器、覆盖540nm至640nm的波带的第二发射器，以及覆盖640nm至650nm的波带的第三发射器。每个发射器可覆盖范围从远红外、中红外、近红外、可见光、近紫外和/或远紫外的电磁光谱的不同片段。在一些情况下，可包括相同类型或波长的多个发射器以提供用于成像的足够输出功率。特定波带所需的发射器数量可取决于单色传感器对波带的灵敏度和/或该波带中发射器的功率输出能力。
[0307]
可选择由发射器提供的波带宽度和覆盖率以提供光谱的任何所需组合。例如，使
用非常小的波带宽度(例如，10nm或更小)的光谱的连续覆盖可允许高度选择性的超光谱成像和/或荧光成像。该波带宽度可允许针对一种或多种特定荧光试剂选择性地发射激发波长。另外，该波带宽度可允许选择性地发射超光谱电磁辐射的某些分区，以用于识别特定结构、化学过程、组织、生物过程等。因为波长来自可选择性激活的发射器，所以可实现在检查期间使一种或多种特定荧光试剂发荧光的极致灵活性。另外，可实现通过超光谱成像来识别一个或多个对象或过程的极致灵活性。因此，更多荧光信息和/或超光谱信息可在更少时间内并且在单次检查内实现，这原本需要多次检查、由于施用染料或染色剂而延迟等。
[0308]
图22是示出用于生成图像的发射和读出的时序图2200的示意图。实线表示用于捕获一系列曝光帧2204至2214的读出周期(峰2202)和消隐周期(谷)。一系列曝光帧2204至2214可包括可用于生成可叠加在rgb视频流上的激光标测数据、超光谱数据和/或荧光数据的一系列重复的曝光帧。在一个实施方案中，单个图像帧包括来自多个曝光帧的信息，其中一个曝光帧包括红色图像数据，另一个曝光帧包括绿色图像数据，并且另一个曝光帧包括蓝色图像数据。另外，单个图像帧可包括超光谱图像数据、荧光图像数据和激光标测数据中的一者或多者。多个曝光帧被组合以产生单个图像帧。单个图像帧是具有超光谱成像数据的rgb图像。该系列曝光帧包括第一曝光帧2204、第二曝光帧2206、第三曝光帧2208、第四曝光帧2210、第五曝光帧2212，以及第n曝光帧2226。
[0309]
另外，可组合使用超光谱图像数据、荧光图像数据和激光标测数据以识别关键组织或结构并进一步测量那些关键组织或结构的尺寸。例如，可将超光谱图像数据提供给对应的系统以识别身体中的某些关键结构，诸如神经、输尿管、血管、癌组织等。关键结构的位置和识别可从对应的系统接收，并且还可用于使用激光标测数据来生成关键结构的形貌。例如，对应的系统基于超光谱成像数据确定癌性肿瘤的位置。由于基于超光谱成像数据知晓癌性肿瘤的位置，因此可随后基于激光标测数据来计算癌性肿瘤的形貌和距离。当基于荧光成像数据来识别癌性肿瘤或其它结构时，此示例也可适用。
[0310]
在一个实施方案中，基于电磁能量的至少一个脉冲生成每个曝光帧。电磁能量脉冲被图像传感器反射并且检测，并且随后在后续读出(2202)中读出。因此，每个消隐周期和读出得到用于特定光谱的电磁能量的图像帧。例如，第一曝光帧2204可基于第一一个或多个脉冲2216的光谱生成，第二曝光帧2206可基于第二一个或多个脉冲2218的光谱生成，第三曝光帧2208可基于第三一个或多个脉冲2220的光谱生成，第四曝光帧2210可基于第四一个或多个脉冲2222的光谱生成，第五曝光帧2212可基于第五一个或多个脉冲的光谱生成，并且第n曝光帧2226可基于第n一个或多个脉冲2226的光谱生成。
[0311]
脉冲2216至2226可包括来自单个发射器或来自两个或更多个发射器的组合的能量。例如，可选择包括在单个读出周期中或多个曝光帧2204至2214内的光谱以用于对特定组织或状况的所需检查或检测。根据一个实施方案，一个或多个脉冲可包括用于生成rgb或黑白图像的可见光谱光，而一个或多个附加脉冲被发射以感测针对超光谱波长的电磁辐射的光谱响应。例如，脉冲2216可包括红光，脉冲2218可包括蓝光，并且脉冲2220可包括绿光，而其余脉冲2222至2226可包括用于检测特定组织类型、使试剂发荧光和/或标测场景的形貌的波长和光谱。又如，单个读出周期的脉冲包括由可用于检测特定组织类型的多个不同发射器生成的光谱(例如，电磁光谱的不同片段)。例如，如果波长的组合导致像素具有超过或低于阈值的值，则该像素可被分类为对应于特定类型的组织。每个帧可用于进一步缩小
存在于该像素(例如，以及图像中的每个像素)处的组织的类型，以基于组织的光谱响应和/或组织中是否存在荧光试剂来提供组织的非常特化的分类和/或组织的状态(患病/健康)。
[0312]
多个帧2204至2214被示出为具有不同长度的读出周期并且具有不同长度或强度的脉冲。消隐周期、脉冲长度或强度等可基于单色传感器对特定波长的灵敏度、发射器的功率输出能力和/或波导的携带能力来选择。
[0313]
在一个实施方案中，双图像传感器可用于获得三维图像或视频馈送。三维检查可允许对检查区域的三维结构的改善的理解以及对该区域内的不同组织或物质类型的标测。
[0314]
在一个示例性具体实施中，向患者提供荧光试剂，并且该荧光试剂被配置为能够附着到癌细胞。已知该荧光试剂在被特定分区的电磁辐射辐射时发荧光。该荧光试剂的弛豫波长也是已知的。在该示例性具体实施中，如本文所述使用内窥镜成像系统对患者成像。内窥镜成像系统脉冲光的红色波长、绿色波长和蓝色波长的分区，以生成患者身体内部的rgb视频流。另外，内窥镜成像系统针对施用给患者的荧光试剂脉冲激发波长的电磁辐射。在示例中，患者具有癌细胞并且荧光试剂已粘附到癌细胞。当内窥镜成像系统针对荧光试剂脉冲激发波长时，荧光试剂将发荧光并发射弛豫波长。如果癌细胞存在于由内窥镜成像系统成像的场景中，则荧光试剂也将存在于该场景中并且由于激发波长的发射而在发荧光之后发射其弛豫波长。内窥镜成像系统感测荧光试剂的弛豫波长，并由此感测场景中荧光试剂的存在。因为已知荧光试剂附着于癌细胞，所以荧光试剂的存在进一步指示场景内癌细胞的存在。内窥镜成像系统由此识别场景内癌细胞的位置。内窥镜成像系统还可发射用于生成场景的形貌并计算场景内对象的尺寸的激光标测脉冲方案。癌细胞的位置(如由荧光成像数据所识别)可与基于激光标测数据计算出的形貌和尺寸信息组合。因此，可识别癌细胞的精确位置、大小、尺寸和形貌。可将该信息提供给执业医生以帮助切除癌细胞。另外，可将该信息提供给机器人外科系统以使外科系统能够切除癌细胞。
[0315]
在另一个示例性具体实施中，使用内窥镜成像系统对患者成像以识别关于患者组织病理的定量诊断信息。在示例中，患者疑似或已知患有疾病，该疾病可利用超光谱成像跟踪以观察疾病在患者组织中的进展。内窥镜成像系统脉冲光的红色波长、绿色波长和蓝色波长的分区，以生成患者身体内部的rgb视频流。另外，内窥镜成像系统脉冲光的一个或多个超光谱波长，这些波长允许系统“透视”一些组织并生成受疾病影响的组织的成像。内窥镜成像系统感测反射超光谱电磁辐射以生成患病组织的超光谱成像数据，并由此识别患病组织在患者体内的位置。内窥镜成像系统还可发射用于生成场景的形貌并计算场景内对象的尺寸的激光标测脉冲方案。患病组织的位置(如由超光谱成像数据所识别)可与用激光标测数据计算出的形貌和尺寸信息组合。因此，可识别患病组织的精确位置、大小、尺寸和形貌。可将该信息提供给执业医生以帮助切除、成像或研究患病组织。另外，可将该信息提供给机器人外科系统以使外科系统能够切除患病组织。
[0316]
图23是具有单个截止滤光器的成像系统2300的示意图。系统2300包括内窥镜2306或具有用于缺光环境的光源2308的其它合适的成像装置。内窥镜2306包括图像传感器2304和滤光器2302，该滤光器用于在到达图像传感器2304之前滤除不需要的波长的光或其它电磁辐射。光源2308传输可在缺光环境诸如体腔中照明表面2312的光。光2310从表面2312反射并且在击中图像传感器2304之前穿过滤光器2302。
[0317]
滤光器2302可用于已施用荧光试剂或染料的具体实施中。在此类实施方案中，光
源2308发射激发波长以用于使荧光试剂或染料发荧光。通常，由荧光试剂或染料发射的弛豫波长将具有与激发波长不同的波长。滤光器2302可被选择为滤除激发波长并且仅允许弛豫波长穿过滤光器并且由图像传感器2304感测。
[0318]
在一个实施方案中，滤光器2302被配置为能够滤除电磁辐射的引起试剂或染料发荧光的激发波长，使得仅允许发荧光的试剂或染料的预期弛豫波长穿过滤光器2302并且到达图像传感器2304。在一个实施方案中，滤光器2302滤除至少介于770nm和790nm之间的荧光试剂激发波长。在一个实施方案中，滤光器2302滤除至少介于795nm和815nm之间的荧光试剂激发波长。在一个实施方案中，滤光器2302滤除至少介于770nm和790nm之间以及介于795nm和815nm之间的荧光试剂激发波长。在这些实施方案中，滤光器2302滤除试剂的激发波长，并且允许由图像传感器2304读取荧光试剂的仅弛豫波长。图像传感器2304可以是波长不定图像传感器，并且滤光器2302可被配置为能够允许图像传感器2304仅接收荧光试剂的弛豫波长而不接收试剂的所发射激发波长。然后由图像传感器2304确定的数据可指示由试剂或染料的位置确定的关键身体结构、组织、生物过程或化学过程的存在。
[0319]
滤光器2302还可用于尚未施用荧光试剂或染料的具体实施中。可选择滤光器2302以允许对应于期望的光谱响应的波长穿过图像传感器2304并且由该图像传感器读取。图像传感器2304可以为单色图像传感器，使得可将所捕获图像的超过阈值或低于阈值的像素表征为对应于某些光谱响应或荧光发射。由图像传感器2304捕获的像素确定的光谱响应或荧光发射可指示某些身体组织或结构、某些病症、某些化学过程等的存在。
[0320]
图24是具有多个截止滤光器的成像系统2400的示意图。系统2400包括内窥镜2406或具有用于缺光环境的光源2408的其它合适的成像装置。内窥镜2406包括图像传感器2404和两个滤光器2402a、2402b。应当理解，在另选的实施方案中，系统2400可包括任何数量的滤光器，并且可针对某些目的选择滤光器的数量和滤光器的类型，例如，用于采集特定身体组织、身体病症、化学过程等的成像信息。滤光器2402a、2402b被配置为能够用于防止图像传感器2404感测到不需要的波长的光或其它电磁辐射。滤光器2402a、2402b可被配置为能够从可由光源2408发射的白光或其它电磁辐射中滤除不需要的波长。
[0321]
相对于图23进一步描述本公开，滤光器2402a、2402b可用于已施用荧光试剂或染料的具体实施中。滤光器2402a、2402b可被配置为能够用于阻挡试剂或染料的发射激发波长，并且允许图像传感器2404仅读取试剂或染料的弛豫波长。此外，滤光器2402a、2402b可用于尚未施用荧光试剂或染料的具体实施中。在此类具体实施中，可选择滤光器2402a、2402b以允许对应于所需光谱响应的波长穿过图像传感器2404并由该图像传感器读取。
[0322]
多个滤光器2402a、2402b可各自被配置为能够用于滤除电磁光谱的不同范围的波长。例如，一个滤光器可被配置为能够用于滤除长于所需波长范围的波长，并且附加滤光器可被配置为能够用于滤除短于所需波长范围的波长。两个或更多个滤光器的组合可导致仅某些波长或波长带由图像传感器2404读取。
[0323]
在一个实施方案中，滤光器2402a、2402b被定制为使得介于513nm和545nm之间的电磁辐射接触图像传感器2404。在一个实施方案中，滤光器2402a、2402b被定制为使得介于565nm和585nm之间的电磁辐射接触图像传感器2404。在一个实施方案中，滤光器2402a、2402b被定制为使得介于900nm和1000nm之间的电磁辐射接触图像传感器2404。在一个实施方案中，滤光器2402a、2402b被定制为使得介于423nm和475nm之间的电磁辐射接触图像传
感器2404。在一个实施方案中，滤光器2402a、2402b被定制为使得介于520nm和545nm之间的电磁辐射接触图像传感器2404。在一个实施方案中，滤光器2402a、2402b被定制为使得介于617nm和645nm之间的电磁辐射接触图像传感器2404。在一个实施方案中，滤光器2402a、2402b被定制为使得介于760nm和795nm之间的电磁辐射接触图像传感器2404。在一个实施方案中，滤光器2402a、2402b被定制为使得介于795nm和815nm之间的电磁辐射接触图像传感器2404。在一个实施方案中，滤光器2402a、2402b被定制为使得介于370nm和420nm之间的电磁辐射接触图像传感器2404。在一个实施方案中，滤光器2402a、2402b被定制为使得介于600nm和670nm之间的电磁辐射接触图像传感器2404。在一个实施方案中，滤光器2402a、2402b被配置为能够用于允许仅某些荧光弛豫发射穿过滤光器2402a、2402b并且接触图像传感器2404。在一个实施方案中，第一滤光器阻挡具有约770nm至约790nm的波长的电磁辐射，并且第二滤光器阻挡具有约795nm至约815nm的波长的电磁辐射。
[0324]
在一个实施方案中，系统2400包括多个图像传感器2404，并且可具体地包括用于生成三维图像的两个图像传感器。图像传感器2404可以是颜色/波长不定的，并且被配置为能够用于读取从表面2412反射的任何波长的电磁辐射。在一个实施方案中，图像传感器2404各自是颜色相关的或波长相关的，并且被配置为能够用于读取从表面2412反射并且返回到图像传感器2404的特定波长的电磁辐射。另选地，图像传感器2404可包括具有多个不同像素传感器的单个图像传感器，该多个不同像素传感器被配置为能够用于读取不同波长或颜色的光，诸如拜耳滤光器颜色滤光器阵列。另选地，图像传感器2404可包括一个或多个颜色不定图像传感器，这些图像传感器可被配置为能够用于根据脉冲调度(诸如图5至图7e中所示的那些)读取不同波长的电磁辐射。
[0325]
图25是示出用于在缺光环境中通过激光标测成像来标测表面和/或跟踪对象的系统2500的示意图。在一个实施方案中，内窥镜2506在缺光环境中脉冲网格阵列2506(可称为激光标测图图案)到表面2504上。在如图25中所示的一个实施方案中，网格阵列2506包括竖直散列2508和水平散列2510。应当理解，网格阵列2506可包括用于标测表面2504的任何合适的阵列，包括例如离散点的光栅网格、占用网格标测图、点阵列等。另外，内窥镜2506可脉冲多个网格阵列2506，并且可例如在缺光环境内在多个对象或结构中的每一者上脉冲一个或多个单独的网格阵列。
[0326]
在一个实施方案中，系统2500脉冲网格阵列2506，该网格阵列可用于在缺光环境中标测表面的三维形貌和/或跟踪对象诸如工具或另一装置的位置。在一个实施方案中，系统2500向第三方系统或计算机算法提供数据，以用于通过光检测和测距(lidar)标测的方式来确定表面尺寸和构型。系统2500可脉冲网格阵列2506中的任何合适波长的光或电磁辐射，包括例如紫外光、可见光和/或红外光或近红外光。可以非常高的分辨率并且以非常高的准确度和精度标测和跟踪环境内的表面2504和/或对象。
[0327]
在一个实施方案中，系统2500包括成像装置，该成像装置具有管、一个或多个图像传感器和透镜组件，该透镜组件具有对应于该一个或多个图像传感器的光学元件。系统2500可包括具有发射器和内腔的光引擎，发射器生成一个或多个电磁辐射脉冲，内腔将一个或多个电磁辐射脉冲传输到缺光环境诸如体腔内的内窥镜的远侧末端。在一个实施方案中，该一个或多个电磁辐射脉冲的至少一部分包括发射到缺光环境内的表面(诸如，体腔内的身体组织的表面和/或工具或其它装置的表面)上的激光标测图图案。内窥镜2506可包括
二维、三维或n维相机，用于标测和/或跟踪缺光环境内的表面、尺寸和配置。
[0328]
在一个实施方案中，系统2500包括处理器，该处理器用于确定内窥镜或工具与对象诸如表面2504的距离。处理器还可确定内窥镜或工具与对象之间的角度。处理器还可确定关于对象的表面积信息，包括例如外科工具的尺寸、结构的尺寸、解剖结构的尺寸、位置信息以及其它位置数据和度量。系统2500可包括一个或多个图像传感器，该一个或多个图像传感器提供输出到控制系统的图像数据，以用于确定内窥镜或工具与对象诸如表面2504的距离。图像传感器可将信息输出到控制系统以用于确定内窥镜或工具与对象之间的角度。另外，图像传感器可将信息输出到控制系统，以用于确定关于对象的表面积信息、外科工具的尺寸、结构的尺寸、解剖结构的尺寸、位置信息以及其它位置数据和度量。
[0329]
在一个实施方案中，内窥镜2506的发射器以足够的速度脉冲网格阵列2506，使得网格阵列2506对于用户不可见。在各种具体实施中，在内窥镜成像规程和/或内窥镜外科手术期间看到网格阵列2506可能使用户分心。可以足够短的周期脉冲网格阵列2506，使得网格阵列2506不能被人眼检测到。在一个另选的实施方案中，内窥镜2506以足够的复现频率脉冲网格阵列2506，使得网格阵列2506可被用户查看。在此类实施方案中，网格阵列2506可叠加在显示器上的表面2504的图像上。网格阵列2506可叠加在表面2504的黑白或rgb图像上，使得网格阵列2506在系统2500的使用期间可对用户可见。系统2500的用户可指示网格阵列2506是否应该叠加在表面2504的图像上以及/或者网格阵列2506是否应该对用户可见。系统2500可包括显示器，该显示器提供从内窥镜2506到缺光环境内的表面2504或另一个对象的距离的实时测量。显示器还可提供关于缺光环境内的表面2504和/或任何对象、结构或工具的实时表面积信息。测量的准确度可精确到小于一毫米。
[0330]
在一个实施方案中，系统2500脉冲多个网格阵列2506。在一个实施方案中，多个网格阵列2506中的每一者对应于存在于缺光环境内的工具或其它装置。可通过脉冲和感测多个网格阵列2506来跟踪工具和其它装置中的每一者的精确位置和参数。可评估通过感测反射的网格阵列2506而生成的信息，以识别缺光环境内的工具和其它装置的相对位置。
[0331]
内窥镜2506可根据脉冲调度(诸如本文所示的那些)脉冲电磁辐射，例如，这还可包括脉冲网格阵列2506并且脉冲用于生成rgb图像并且还生成可叠加在rgb图像上并且/或者用于标测并且跟踪缺光环境内的表面2504和对象的网格阵列2506的红光、绿光和蓝光。可另外结合超光谱或荧光激发波长的电磁辐射来脉冲网格阵列2506。可组合来自rgb成像、激光标测成像、超光谱成像和荧光成像中的每一者的数据，以识别体内关键结构的位置、尺寸和表面形貌。
[0332]
在一个实施方案中，内窥镜2506包括一个或多个颜色不定图像传感器。在一个实施方案中，内窥镜2506包括用于生成缺光环境的三维图像或标测图的两个颜色不定图像传感器。图像传感器可根据如本文所公开的脉冲调度生成缺光环境的rgb图像。另外，图像传感器可基于在脉冲网格阵列2506时确定的数据来确定用于标测缺光环境并且跟踪缺光环境内的一个或多个对象的数据。另外，图像传感器可根据脉冲调度来确定光谱或超光谱数据以及荧光成像数据，该脉冲调度可由用户修改以适应成像规程的特定需要。在一个实施方案中，脉冲调度包括红色、绿色和蓝色脉冲以及网格阵列2506的脉冲和/或用于生成超光谱图像数据和/或荧光图像数据的脉冲。在各种具体实施中，脉冲调度可包括根据用户需要的电磁辐射脉冲的任何合适的组合。不同波长的电磁辐射的复现频率可基于例如某些脉冲
的能量、用户的需要、某些数据(例如，超光谱数据和/或荧光成像数据)需要连续更新还是可更新较不频繁等来确定。
[0333]
根据用户或用于某些成像规程的计算机实现的程序的需要，脉冲调度可以任何合适的方式修改，并且某些电磁辐射脉冲可以任何合适的频率重复。例如，在将基于网格阵列2506生成的表面跟踪数据提供给计算机实现的程序以用于例如机器人外科手术的实施方案中，网格阵列2506可比在将表面跟踪数据提供给在成像规程期间可视化场景的用户的情况下更频繁地脉冲。在表面跟踪数据用于机器人外科手术的此类实施方案中，表面跟踪数据可能需要更频繁地更新或者可能需要极为准确，使得计算机实现的程序可精密而准确地执行机器人外科手术。
[0334]
在一个实施方案中，系统2500被配置为能够生成占用网格标测图，该占用网格标测图包括被划分为网格的单元阵列。系统2500被配置为能够存储相应网格单元中的每一个网格单元的高度值以确定缺光环境中的三维环境的表面标测。
[0335]
图26a和图26b分别示出了根据本公开的教导内容和原理的单片传感器2600的具体实施的透视图和侧视图，该单片传感器具有用于产生三维图像的多个像素阵列。此类具体实施可能是三维图像捕获所希望的，其中在使用期间两个像素阵列2602和2604可被偏移。在另一个具体实施中，第一像素阵列2602和第二像素阵列2604可专用于接收预先确定的波长范围的电磁辐射，其中第一像素阵列专用于与第二像素阵列不同波长范围的电磁辐射。
[0336]
图27a和图27b分别示出了构建在多个基板上的成像传感器2700的具体实施的透视图和侧视图。如图所示，形成像素阵列的多个像素列2704位于第一基板2702上并且多个电路列2708位于第二基板2706上。图中还示出了一个像素列与其相关联的或对应的电路列之间的电连接和通信。在一个具体实施中，图像传感器可具有与全部或大部分支撑电路分开的像素阵列，而其可能以其它方式被制造成它的像素阵列和支撑电路处于单个、单片基板/芯片上。本公开可使用至少两个基板/芯片，这些基板/芯片将使用三维堆叠技术被堆叠在一起。两个基板/芯片中的第一者2702可使用图像cmos工艺加工。第一基板/芯片2702可仅仅由像素阵列构成，或可由被有限电路围绕的像素阵列构成。第二或后续基板/芯片2706可使用任何工艺加工，而不是必须来自图像cmos工艺。第二基板/芯片2706可以是但不限于，为了将各种和多个功能集成到基板/芯片上非常有限空间或面积中的高密度数字工艺、或为了集成例如精确模拟功能的混合模式或模拟工艺、或为了实现无线能力的rf工艺、或为了集成mems器件的mems(微电子机械系统)。图像cmos基板/芯片2702可使用任何三维技术与第二或后续基板/芯片2706堆叠。第二基板/芯片2706可支撑将可能另外在第一图像cmos芯片2702中实现(如果在单片基板/芯片上实现)为外围电路的电路的绝大部分或大部分，并且因此当保持像素阵列大小恒定并尽最大可能优化时增加了整个系统面积。两个基板/芯片之间的电连接可通过互联器完成，这些互联器可为接合引线、凸耳和/或tsv(硅通孔)。
[0337]
图28a和图28b分别示出了具有多个像素阵列用于产生三维图像的成像传感器2800的具体实施的透视图和侧视图。三维图像传感器可被构建在多个基板上并且可包括多个像素阵列和其它相关联的电路，其中形成第一像素阵列的多个像素列2802a和形成第二像素阵列的多个像素列2802b分别位于相应的基板2808a和2808b上，并且多个电路列2806a
和2806b位于单独的基板2804上。还示出了像素列与相关联的或对应的电路列之间的电连接和通信。
[0338]
多个像素阵列可同时感测信息，并且可组合来自多个像素阵列的信息以生成三维图像。在一个实施方案中，内窥镜成像系统包括可被部署成生成三维成像的两个或更多个像素阵列。内窥镜成像系统可包括用于在像素阵列的消隐周期期间发射电磁辐射脉冲的发射器。像素阵列可被同步，使得针对两个或更多个像素阵列同时读取光学黑色像素(即，发生消隐周期)。发射器可发射用于对两个或更多个像素阵列中的每个像素阵列充电的电磁辐射脉冲。两个或更多个像素阵列可同时读取其相应的带电像素，使得两个或更多个像素阵列的读出周期同时或大致同时发生。在一个实施方案中，内窥镜成像系统包括多个发射器，每个发射器与多个像素阵列中的一个或多个像素阵列单独同步。可组合来自多个像素阵列的信息以生成三维图像帧和视频流。
[0339]
应当理解，本公开的教导内容和原理可用于可重复使用的装置平台、有限使用的装置平台、可重新设置使用的装置平台或单次使用/一次性的装置平台，而不脱离本公开的范围。应当理解，在可重复使用的装置平台中，最终使用人负责该装置的清洁和消毒。在有限使用的装置平台中，在变得不能操作之前，装置可被使用一些规定量的次数。典型的新装置在交付前已经过无菌处理，如果要用作其它用途，应在其它使用之前由最终用户进行清洗和消毒。在可重新设置使用的装置平台中，第三方可重新处理装置(例如，清洁、包装和消毒)单次使用的装置，以比新单元更低的成本用于另外使用。在单次使用/一次性的装置平台中，装置以无菌方式提供至手术室并且在被弃置掉之前只能使用一次。
[0340]
实施例
[0341]
以下实施例涉及另外的实施方案的优选特征：
[0342]
实施例1是一种系统。该系统包括用于发射电磁辐射脉冲的发射器。该系统包括内窥镜。该内窥镜包括图像传感器，并且该图像传感器包括用于感测反射的电磁辐射的像素阵列。该系统包括将来自发射器的电磁辐射脉冲传送到内窥镜的波导。该系统包括与发射器和图像传感器电子通信的控制器。该系统使得由发射器发射的电磁辐射脉冲的至少一部分包括以下中的一者或多者：具有约513nm至约545nm的波长的电磁辐射；具有约565nm至约585nm的波长的电磁辐射；具有约900nm至约1000nm的波长的电磁辐射；引起试剂发荧光的电磁辐射激发波长；或激光标测图案。
[0343]
实施例2为根据实施例1所述的系统，其中：发射器包括设置在发射器模块内的多个发射器；图像传感器位于内窥镜内腔的远侧端部处；并且波导将来自发射器模块的电磁辐射脉冲传送到内窥镜内腔的远侧端部。
[0344]
实施例3为根据实施例1至2中任一项所述的系统，其中，波导包括以下中的一者：单根光纤；或包括多根光纤的光纤束。
[0345]
实施例4为根据实施例1至3中任一项所述的系统，还包括内窥镜的内腔，该内腔包括远侧端部，并且其中，该内腔的远侧端部被配置为能够用于插入缺光环境中以用于光学成像，并且其中：波导是包括多根光纤的光纤束；该多根光纤设置在内腔内并终止于内腔的远侧端部处；并且该多根光纤在内腔的远侧端部处瞄准至少两个不同方向，使得由离开该多根光纤的电磁辐射脉冲产生的光锥具有增大的面积。
[0346]
实施例5为根据实施例1至4中任一项所述的系统，其中，波导包括：包括多根塑料
光纤的第一部分；包括多根玻璃光纤的第二部分；以及用于连接第一部分和第二部分的连接器，使得电磁辐射从第一部分传送到第二部分。
[0347]
实施例6为根据实施例1至5中任一项所述的系统，其中，波导包括用于增大由离开波导的电磁辐射脉冲产生的光锥的面积的光学漫射器。
[0348]
实施例7为根据实施例1至6中任一项所述的系统，其中：发射器包括发射器模块中的多个发射器；波导包括从发射器模块延伸到内窥镜内腔的远侧端部的单根光纤；该单根光纤在发射器模块处接收电磁辐射脉冲；并且该单根光纤终止于内腔的远侧端部处，使得电磁辐射脉冲照明位于内腔远侧端部处的场景。
[0349]
实施例8为根据实施例1至7中任一项所述的系统，还包括内窥镜的内腔，其中，该内腔包括：由用于接收内窥镜的光学部件的内圆柱体限定的内腔室；以及由内圆柱体和用于接收波导的外圆柱体限定的外围腔室。
[0350]
实施例9为根据实施例1至8中任一项所述的系统，其中，波导包括光纤束，该光纤束包括多根塑料光纤，其中，发射器将电磁辐射脉冲发射到该光纤束中；波导还包括居间光学部件，其中，电磁辐射脉冲在进入光纤束之前穿过该居间光学部件；并且该居间光学部件包括多根玻璃光纤。
[0351]
实施例10为根据实施例1至9中任一项所述的系统，其中，波导包括：光纤束，其中，发射器将电磁辐射脉冲发射到该光纤束中；以及漫射器，所述漫射器设置在所述光纤束的远侧端部处；其中，漫射器提供光锥，该光锥具有介于110度和120度之间的视场角度。
[0352]
实施例11为根据实施例1至10中任一项所述的系统，其中，波导包括：单根光纤，其中，发射器将电磁辐射脉冲发射到该单根光纤中；以及漫射器，该漫射器设置在该单根光纤的远侧端部处；其中，漫射器提供光锥，该光锥具有介于110度和120度之间的视场角度。
[0353]
实施例12为根据实施例1至11中任一项所述的系统，其中，图像传感器的像素阵列在该像素阵列的读出周期期间感测反射的电磁辐射以生成多个曝光帧，其中，该读出周期包括当该像素阵列中的有效像素被读取时的持续时间，并且其中，单个曝光帧对应于该像素阵列的单个读出周期。
[0354]
实施例13为根据实施例1至12中任一项所述的系统，其中，由发射器发射的电磁辐射脉冲的至少一部分为用于引起光谱响应的超光谱波长，其中，超光谱波长包括以下各项中的一者或多者：具有约513nm至约545nm的波长的电磁辐射，以及具有约900nm至约1000nm的波长的电磁辐射；或者具有约565nm至约585nm的波长的电磁辐射，以及具有约900nm至约1000nm的波长的电磁辐射。
[0355]
实施例14为根据实施例1至13中任一项所述的系统，其中，发射器被配置为能够在脉冲持续时间期间发射电磁辐射的多个子脉冲，所述多个子脉冲具有短于脉冲持续时间的子持续时间。
[0356]
实施例15为根据实施例1至14中任一项所述的系统，其中，由发射器发射的电磁辐射脉冲中的一个或多个电磁辐射脉冲包括作为单个脉冲或单个子脉冲同时以两个或更多个波长发射的电磁辐射。
[0357]
实施例16为根据实施例1至15中任一项所述的系统，其中，由发射器发射的电磁辐射脉冲的至少一部分为导致由图像传感器产生的超光谱曝光帧的超光谱发射，并且其中，控制器被配置为能够向对应的超光谱系统提供超光谱曝光帧，对应的超光谱系统基于超光
谱曝光帧确定关键组织结构在场景内的位置。
[0358]
实施例17为根据实施例1至16中任一项所述的系统，其中，超光谱发射包括：具有约513nm至约545nm的波长的电磁辐射和具有约900nm至约1000nm的波长的电磁辐射；或者具有约565nm至约585nm的波长的电磁辐射，以及具有约900nm至约1000nm的波长的电磁辐射。
[0359]
实施例18为根据实施例1至17中任一项所述的系统，其中，控制器被进一步配置为能够：从对应的超光谱系统接收关键组织结构的位置；生成包括关键组织结构的位置的叠层帧；以及将叠层帧与描绘场景的彩色图像帧组合，以指示关键组织结构在场景内的位置。
[0360]
实施例19为根据实施例1至18中任一项所述的系统，其中，由像素阵列感测反射的电磁辐射包括通过感测由发射器脉冲激光映射图案产生的反射的电磁辐射来生成激光映射曝光帧，并且其中，控制器被进一步配置为能够：将激光映射曝光帧提供给对应的激光映射系统，对应的激光映射系统确定场景的形貌和/或场景内的一个或多个对象的尺寸；将关键组织结构的位置提供给对应激光标测系统；以及从对应的激光标测系统接收关键组织结构的形貌和/或尺寸。
[0361]
实施例20为根据实施例1至19中任一项所述的系统，其中，关键结构包括神经、输尿管、血管、动脉、血流或肿瘤中的一者或多者。
[0362]
实施例21为根据实施例1至20中任一项所述的系统，其中，由发射器发射的电磁辐射脉冲的至少一部分为导致由图像传感器产生的荧光曝光帧的荧光激发波长，并且其中，控制器被配置为能够向对应的荧光系统提供荧光曝光帧，对应的荧光系统基于荧光曝光帧确定关键组织结构在场景内的位置。
[0363]
实施例22为根据实施例1至21中任一项所述的系统，其中，荧光激发发射包括以下各项中的一者或多者：具有约770nm至约790nm的波长的电磁辐射；或具有约795nm至约815nm的波长的电磁辐射。
[0364]
实施例23为根据实施例1至22中任一项所述的系统，其中，控制器被进一步配置为能够：从对应的荧光系统接收关键组织结构的位置；生成包括关键组织结构的位置的叠层帧；以及将叠层帧与描绘场景的彩色图像帧组合，以指示关键组织结构在场景内的位置。
[0365]
实施例24为根据实施例1至23中任一项所述的系统，其中，由像素阵列感测反射的电磁辐射包括通过感测由发射器脉冲激光映射图案产生的反射的电磁辐射来生成激光映射曝光帧，并且其中，控制器被进一步配置为能够：将激光映射曝光帧提供给对应的激光映射系统，该对应的激光映射系统确定场景的形貌和/或场景内的一个或多个对象的尺寸；将关键组织结构的位置提供给对应的激光标测系统；以及从对应的激光标测系统接收关键组织结构的形貌和/或尺寸。
[0366]
实施例25为根据实施例1至24中任一项所述的系统，其中，关键结构包括神经、输尿管、血管、动脉、血流或肿瘤中的一者或多者。
[0367]
实施例26为根据实施例1至25中任一项所述的系统，其中，控制器被配置为能够在图像传感器的消隐周期期间同步电磁辐射脉冲的定时，其中，消隐周期对应于像素阵列中的最后一行有源像素的读出与像素阵列中的有源像素的下一个后续读出开始之间的时间。
[0368]
实施例27为根据实施例1至26中任一项所述的系统，其中，由发射器发射的两个或更多个电磁辐射脉冲导致反射的电磁辐射的两个或更多个例图，反射的电磁辐射的两个或
更多个例图由像素阵列感测以生成两个或更多个曝光帧，该两个或更多个曝光帧被组合以形成图像帧。
[0369]
实施例28为根据实施例1至27中任一项所述的系统，其中，图像传感器包括第一图像传感器和第二图像传感器，使得图像传感器能够生成三维图像。
[0370]
实施例29为根据实施例1至28中任一项所述的系统，其中，发射器被配置为能够重复发射电磁辐射脉冲序列，以便足以生成包括多个图像帧的视频流，其中，视频流中的每个图像帧包括来自多个曝光帧的数据，并且其中，曝光帧中的每一个曝光帧对应于电磁辐射脉冲。
[0371]
实施例30为根据实施例1至29中任一项所述的系统，其中，电磁辐射脉冲以不同波长的电磁辐射的图案发射，并且其中，发射器重复不同波长的电磁辐射的所述图案。
[0372]
实施例31为根据实施例1至30中任一项所述的系统，其中，电磁辐射脉冲的至少一部分包括红色波长、绿色波长、蓝色波长和超光谱波长，使得由像素阵列感测的对应于红色波长、绿色波长、蓝色波长和超光谱波长中的每一者的反射的电磁辐射能够被处理以生成包括超光谱成像数据的叠加的红-绿-蓝(rgb)图像帧，其中，电磁辐射的超光谱波长包括：具有约513nm至约545nm的波长的电磁辐射和具有约900nm至约1000nm的波长的电磁辐射；或者具有约565nm至约585nm的波长的电磁辐射，以及具有约900nm至约1000nm的波长的电磁辐射。
[0373]
实施例32为根据实施例1至31中任一项所述的系统，其中，电磁辐射脉冲的至少一部分包括亮度发射、红色色度发射、蓝色色度发射和超光谱发射，使得由像素阵列感测的对应于亮度发射、红色色度发射、蓝色色度发射和超光谱发射中的每一者的反射的电磁辐射能够被处理以生成包括超光谱成像数据的叠加的ycbcr图像帧，其中，电磁辐射的超光谱发射包括：具有约513nm至约545nm的波长的电磁辐射和具有约900nm至约1000nm的波长的电磁辐射；或者具有约565nm至约585nm的波长的电磁辐射，以及具有约900nm至约1000nm的波长的电磁辐射。
[0374]
实施例33为根据实施例1至32中任一项所述的系统，其中，由发射器发射的电磁辐射脉冲的至少一部分为用于使试剂发荧光的荧光激发波长，其中，荧光激发波长包括以下中的一者或多者：具有约770nm至约790nm的波长的电磁辐射；或具有约795nm至约815nm的波长的电磁辐射。
[0375]
实施例34为根据实施例1至33中任一项所述的系统，其中，电磁辐射脉冲的至少一部分包括红色波长、绿色波长、蓝色波长和荧光激发波长，使得由像素阵列感测的对应于红色波长、绿色波长、蓝色波长和荧光激发波长中的每一者的反射的电磁辐射能够被处理以生成包括荧光成像数据的叠加的红-绿-蓝(rgb)图像帧，其中，电磁辐射的荧光波长包括：具有约770nm至约790nm的波长的电磁辐射和/或具有约795nm至约815nm的波长的电磁辐射。
[0376]
实施例35为根据实施例1至34中任一项所述的系统，其中，电磁辐射脉冲的至少一部分包括亮度发射、红色色度发射、蓝色色度发射和荧光激发发射，使得由像素阵列感测的对应于亮度发射、红色色度发射、蓝色色度发射和荧光激发发射中的每一者的反射的电磁辐射能够被处理以生成包括荧光成像数据的叠加的ycbcr图像帧，其中，电磁辐射的荧光波长包括：具有约770nm至约790nm的波长的电磁辐射和/或具有约795nm至约815nm的波长的
电磁辐射。
[0377]
实施例36为根据实施例1至35中任一项所述的系统，其中，波导包括单根光纤，其中，发射器将电磁辐射脉冲发射到该单根光纤中。
[0378]
实施例37为根据实施例1至36中任一项所述的系统，其中，像素阵列为独立像素的二维阵列，每个独立像素能够检测任何波长的电磁辐射。
[0379]
实施例38为根据实施例1至37中任一项所述的系统，还包括过滤具有约770nm至约790nm的波长的电磁辐射的滤光器。
[0380]
实施例39为根据实施例1至38中任一项所述的系统，还包括滤光器，所述滤光器过滤具有约795nm至约815nm的波长的电磁辐射。
[0381]
实施例40为根据实施例1至39中任一项所述的系统，其中，所述图像传感器为cmos图像传感器。
[0382]
实施例41为根据实施例1至40中任一项所述的系统，其中，由所述像素阵列感测所反射的电磁辐射包括：通过感测由所述发射器脉冲所述激光标测图案产生的所反射的电磁辐射来生成激光标测曝光帧，其中，所述激光标测曝光帧包括用于确定实时测量的信息，所述信息包括以下中的一者或多者：从内窥镜到对象的距离；内窥镜与所述对象之间的角度；或关于对象的表面形貌信息。
[0383]
实施例42为根据实施例1至41中任一项所述的系统，其中，激光标测曝光帧包括用于以小于10厘米的准确度确定实时测量的信息。
[0384]
实施例43为根据实施例1至42中任一项所述的系统，其中，激光标测曝光帧包括用于以小于一毫米的准确度确定实时测量的信息。
[0385]
实施例44为根据实施例1至43中任一项所述的系统，其中，由发射器发射的电磁辐射脉冲的至少一部分包括用于场景内的多个工具中的每一个工具的多个特定于工具的激光标测图案。
[0386]
实施例45为根据实施例1至44中任一项所述的系统，其中，由发射器发射的激光标测图案包括彼此独立的第一输出和第二输出，其中，第一输出用于光照明，并且第二输出用于工具跟踪。
[0387]
实施例46为根据实施例1至45中任一项所述的系统，其中，发射器是包括第一发射器和第二发射器的发射器模块，并且其中，第一发射器包括用于发射电磁辐射的第一波长的脉冲的多个激光器，并且第二发射器包括用于发射电磁辐射的第二波长的脉冲的多个激光器。
[0388]
实施例47为根据实施例1至46中任一项所述的系统，其中，图像传感器被配置为能够生成多个曝光帧，其中，该多个曝光帧中的每个曝光帧对应于由发射器发射的一个或多个电磁辐射脉冲。
[0389]
实施例48为根据实施例1至47中任一项所述的系统，其中，波导包括光纤束，该光纤束包括介于2个和150个之间的光纤。
[0390]
实施例49为根据实施例1至48中任一项所述的系统，其中，发射器包括第三发射器，该第三发射器包括用于发射电磁辐射的第三波长的脉冲的多个激光器。
[0391]
实施例50为根据实施例1至49中任一项所述的系统，其中，发射器包括第四发射器，该第四发射器包括用于发射电磁辐射的第四波长的脉冲的多个激光器。
[0392]
实施例51为根据实施例1至50中任一项所述的系统，其中，发射器包括用于发射电磁辐射的超光谱波长的脉冲以引发光谱响应的一个或多个超光谱发射器。
[0393]
实施例52为根据实施例1到51中任一项所述的系统，其中，一个或多个超光谱发射器中的每个超光谱发射器包括发射器，该发射器包括多个激光器。
[0394]
实施例53为根据实施例1至52中任一项所述的系统，其中，发射器还包括用于在进入波导之前混合电磁辐射脉冲的光学元件，其中，该光学元件包括漫射器、混合棒或透镜中的一者或多者。
[0395]
实施例54为根据实施例1至53中任一项所述的系统，还包括用于反射电磁辐射的蓝色波长的二向色镜。
[0396]
实施例55为根据实施例1至54中任一项所述的系统，还包括用于反射电磁辐射的绿色波长的二向色镜。
[0397]
实施例56为根据实施例1至55中任一项所述的系统，还包括用于反射电磁辐射的红色波长的二向色镜。
[0398]
实施例57为根据实施例1至56中任一项所述的系统，还包括用于反射具有约513nm至约545nm的波长的电磁辐射的二向色镜。
[0399]
实施例58为根据实施例1至57中任一项所述的系统，还包括用于反射具有约565nm至约585nm的波长的电磁辐射的二向色镜。
[0400]
实施例59为根据实施例1至58中任一项所述的系统，还包括用于反射具有约900nm至约1000nm的波长的电磁辐射的二向色镜。
[0401]
实施例60为根据实施例1至59中任一项所述的系统，还包括用于反射具有约770nm至约790nm的波长的电磁辐射的二向色镜。
[0402]
实施例61为根据实施例1至60中任一项所述的系统，还包括用于反射具有约795nm至约815nm的波长的电磁辐射的二向色镜。
[0403]
实施例62为根据实施例1至61中任一项所述的系统，还包括用于反射某个波长带的电磁辐射的二向色镜，其中，该二向色镜对其它波长的电磁辐射是透明的。
[0404]
实施例63为根据实施例1至62中任一项所述的系统，还包括用于反射某个波长的电磁辐射的二向色镜，其中，该二向色镜至少对具有红色波长的电磁辐射是透明的。
[0405]
实施例64为根据实施例1至63中任一项所述的系统，还包括用于反射某个波长的电磁辐射的二向色镜，其中，该二向色镜至少对具有绿色波长的电磁辐射是透明的。
[0406]
实施例65为根据实施例1至64中任一项所述的系统，还包括用于反射某个波长的电磁辐射的二向色镜，其中，该二向色镜至少对具有蓝色波长的电磁辐射是透明的。
[0407]
实施例66为根据实施例1至65中任一项所述的系统，还包括用于反射某个波长的电磁辐射的二向色镜，其中，该二向色镜至少对具有约513nm至约545nm的波长的电磁辐射是透明的。
[0408]
实施例67为根据实施例1至66中任一项所述的系统，还包括用于反射某个波长的电磁辐射的二向色镜，其中，该二向色镜至少对具有约565nm至约585nm的波长的电磁辐射是透明的。
[0409]
实施例68为根据实施例1至67中任一项所述的系统，还包括用于反射某个波长的电磁辐射的二向色镜，其中，该二向色镜至少对具有约900nm至约1000nm的波长的电磁辐射
是透明的。
[0410]
实施例69为根据实施例1至68中任一项所述的系统，还包括用于反射某个波长的电磁辐射的二向色镜，其中，该二向色镜至少对具有约770nm至约790nm的波长的电磁辐射是透明的。
[0411]
实施例70为根据实施例1至69中任一项所述的系统，还包括用于反射某个波长的电磁辐射的二向色镜，其中，该二向色镜至少对具有约795nm至约815nm的波长的电磁辐射是透明的。
[0412]
实施例71为根据实施例1至70中任一项所述的系统，其中，发射器包括多个激光发射器，并且其中，该多个激光发射器具有高斯横截面强度轮廓。
[0413]
实施例72为根据实施例1至71中任一项所述的系统，其中，发射器包括多个激光发射器，并且其中，该多个激光发射器具有平坦或近似平坦形的强度轮廓。
[0414]
实施例73为根据实施例1至72中任一项所述的系统，其中，发射器包括多个激光发射器，并且其中，该多个激光发射器具有顶帽形强度轮廓。
[0415]
实施例74为根据实施例1至73中任一项所述的系统，其中，第一发射器和第二发射器瞄准收集区域，使得电磁辐射的第一波长的脉冲和电磁辐射的第二波长的脉冲在收集区域处混合并且由波导接收。
[0416]
实施例75为根据实施例1至74中任一项所述的系统，还包括设置在发射器与波导之间的居间光学元件，其中，该居间光学元件被配置为能够在发射到达波导之前混合来自第一发射器和第二发射器的发射。
[0417]
实施例76为根据实施例1至75中任一项所述的系统，还包括设置在发射器与波导之间的居间光学元件，该居间光学元件被配置为能够在到达波导之前均匀地混合来自第一发射器和第二发射器的电磁辐射的独立发射。
[0418]
应当理解，本文所公开的各种特征在本领域中提供了显著优势和进步。下列权利要求为那些特征中的一些的示例。
[0419]
在上述本公开具体实施方式中，出于简化本公开的目的，将本公开的各个特征集中于单个实施方案中。本公开的方法不应理解为体现了这样的意图：受权利要求书保护的公开内容要求比每项权利要求中所明确列举的更多的特征。相反，创新方面未能体现上文公开的单个实施例的所有特征。
[0420]
应当理解，上述布置方式、实施例和实施方案的任何特征可在包括从任何所公开的布置方式、实施例和实施方案中获得的特征的组合的单个实施方案中组合。
[0421]
应当理解，上述设置只是本公开原理的示例性应用。在不脱离本公开精神和范围的前提下，本领域的技术人员可以设计许多修改和另选设置，并且所附权利要求书旨在涵盖这些修改和设置。
[0422]
因此，当本公开以图示显示并且以特殊性和细节进行上述描述时，对于本领域的普通技术人员而言，在不脱离本文所述原则和理念的前提下，显而易见可进行大量修改，这些修改包括但不限于尺寸、材料、形状、形式、功能和操作方式、组装和使用方式的变化。
[0423]
另外，在适当的情况下，本文所述的功能可通过硬件、软件、固件、数字部件或模拟部件中的一种或多种来执行。例如，可对一种或多种专用集成电路(asic)或现场可编程门阵列进行编程以执行本文所述的一种或多种系统和程序。在整个下面的描述和权利要求中
所用的某些术语是指特定的系统部件。本领域的技术人员应当理解，部件可具有不同的名称。本文并非旨在在名称上而非功能上不同的部件之间进行辨别。
[0424]
为了举例说明和描述的目的，已经提供了上述具体实施方式。这些具体实施方式并非意图为详尽的或将本公开限制为所公开的具体形式。根据上述教导内容可以对本公开进行许多修改和改变。另外，应当指出的是，任何或所有前述另选的具体实施可以任何期望的组合使用，以形成本公开的另外的混合的具体实施。
[0425]
另外，虽然已描述和说明了本公开的特定具体实施，但是本公开并不限于如描述和说明的特定形式或部件布置。本公开的范围将由此处所附的权利要求、此处和不同申请中提交的任何未来的权利要求以及它们的等效物来限定。