本发明涉及信息处理装置、控制方法和程序。
背景技术:
执行检查以通过使用对人或动物的身体内部成像的图像来发现身体中是否存在异常。例如,专利文献1至3公开了一种并排显示在过去检查(例如,一年前)中获取的图像(ct图像或mri图像)和在当前检查中获取的图像的技术。此外,专利文献1和4公开了一种从图像检测病变并且标记检测到的病变的技术。
相关文献
专利文献
[专利文献1]日本专利申请公开第2007-159934号
[专利文献2]日本专利申请公开第2016-048426号
[专利文献3]日本专利申请公开第2016-202722号
[专利文献4]pct公开第wo2011/132468号
技术实现要素:
技术问题
作为检查身体内部的方法之一,有一种通过使用内窥镜系统等查看显示在显示设备上的视频来检查身体内部状态的方法。具体地,医生将在顶端具有相机的观察镜从对象的鼻子、嘴、肛门等插入,然后在身体内部移动。通过这样做,通过相机对身体内部的状态进行成像。在使用显示在显示设备上的视频查看由相机成像的身体内部的状态的同时,医生检查对象的身体中是否存在异常部位。
如上所述,在通过在对象的身体内部移动相机来进行检查的方法中,由于相机在身体内部移动,因此医生可以观察到的部位随时间变化。因此,医生可能会错过异常部位,并且病变检出率实际上存在取决于负责检查的医生的差异。在上述的每个相关文献中,没有假定医生可以观察到的部位以这种方式随时间变化的情况。
鉴于以上问题而做出本发明。本发明的目的之一是提供一种用于提高使用对对象的身体内部进行成像的视频的检查质量的技术。
解决问题
根据本发明的信息处理装置包括:1)检测单元,其从对身体成像的视频检测身体的异常区域;以及2)显示控制单元,其在显示设备的第一区域中显示构成视频的视频帧检测到异常区域的视频帧,并且在显示设备的第二区域中显示包括在视频帧之后生成的视频帧的视频。
根据本发明的控制方法由计算机执行。该控制方法包括:1)检测步骤,从对身体成像的视频检测身体的异常区域;以及2)显示控制步骤,在显示设备的第一区域中显示构成视频的视频帧中从中检测到异常区域的视频帧,并且在显示设备的第二区域中显示包括在视频帧之后生成的视频帧的视频。
根据本发明的程序引起计算机执行根据本发明的控制方法的每个步骤。
本发明的有益效果
根据本发明,提供了一种用于提高使用对对象的身体进行成像的视频的检查的准确性的技术。
附图说明
根据下面描述的优选示例实施例以及伴随示例实施例的以下附图,上述目的以及其他目的、特征和优点将变得更加明显。
图1是概念性地示出根据示例实施例1的信息处理装置的操作的图。
图2是示出信息处理装置的功能配置的框图。
图3是示出用于实现信息处理装置的计算机的图。
图4是示出显示设备的配置的图。
图5是示出信息处理装置的使用环境的具体示例的图。
图6是示出由根据示例实施例1的信息处理装置执行的处理的流程的流程图。
图7是示出叠加在异常区域上的各种叠加标记的图。
图8是示出指示异常区域的指示标记的图。
图9是示出连接到图像存储单元的信息处理装置的图。
图10是示出根据示例实施例2的信息处理装置的框图。
图11是以表格形式示出异常区域信息的图。
图12是示出更新显示设备上的显示的场景的图。
图13是示出考虑到异常区域的差异的第一显示的图。
图14是示出突出显示的图。
图15是示出第一显示被突出显示的示例的图。
图16是示出根据示例实施例3的信息处理装置的框图。
图17是示出要以表格格式存储在图像存储单元中的信息的格式的图。
图18是示出根据示例实施例4的信息处理装置的框图。
图19是示出其中包括针对用户的预定动作的异常区域的视频帧被突出显示的场景的图。
具体实施方式
在下文中,将参考附图描述本发明的示例实施例。注意,在所有附图中,相同的附图标记被分配给相同的组件,并且将不重复其描述。在每个框图中,除非另有说明,否则每个框表示功能单元的配置,而不是硬件单元的配置。
[示例实施例1]
图1是概念性地示出根据示例实施例1的信息处理装置2000的操作的图。注意,图1仅示出了其操作的示例以便于容易地理解信息处理装置2000,并且不限制信息处理装置2000的功能。
相机10用于检查人或其他动物。在下文中,将要检查的人等称为对象。相机10是能够对对象的身体的内部成像的任何相机,并且生成表示成像结果的视频帧14。例如,相机10是内窥镜相机。视频数据12由在彼此不同的时间生成的多个视频帧14形成。
由相机10生成的视频数据12被显示在显示设备20上。显示设备20是能够显示视频数据12的任何显示设备。注意,视频数据12被显示在显示设备20上的这一事实表示,构成视频数据12的多个视频帧14被依次显示在显示设备20上。
信息处理装置2000的用户(例如,医生)通过查看显示在显示设备20上的视频数据12来识别对象的身体中的场景。更具体地,用户识别出对象的身体中是否存在异常部位、异常的程度等。在此,“身体的异常部位”是例如具有病变的部位、具有伤口的部位或具有异物的部位。病变是由诸如肿瘤等疾病引起的活体变化。
在此,在用于通过相机观察对象的身体的同时在身体中搜索异常部位的内窥镜检查等中,即使通过相机对异常部位成像,医生也会错过该异常部位。因此,优选的是,提供支持以使得医生能够容易地识别异常部位,从而防止异常部位的遗漏。
根据本示例实施例的信息处理装置2000如下操作。信息处理装置2000获取视频数据12,并且对构成视频数据12的视频帧14执行图像分析。具体地,信息处理装置2000从视频帧14检测异常区域30。异常区域30是被认为表示对象身体的异常部位的区域。例如,图1中的异常区域30是包括肿瘤的区域(表示病变的区域)。
信息处理装置2000在显示设备20的第一区域22中显示从中检测到异常区域30的视频帧14,并且在显示设备20的第二区域24中显示视频数据12。换言之,在显示设备20上显示从中检测到异常区域30的视频帧14以及包括在其后生成的视频帧14的视频数据12。第一区域22和第二区域24是彼此不同的区域。
例如,由相机10生成的视频数据12被实时显示在第二区域24中。也就是说,要显示在第二区域24中的视频数据12实时地表示在当前时间点的对象的场景。另一方面,在第一区域22中显示在同一检查中的当前时间点之前生成的并且对身体的异常部位进行成像的视频帧14。
以这种方式,利用根据本示例实施例的信息处理装置2000,从中检测到异常区域30的视频帧14与视频数据12一起被显示在显示设备20上。通过这样做,可以使信息处理装置2000的用户容易地识别对象身体内部的异常部位。即使当在第二区域中显示异常部位时用户错过了某个异常部位,包括异常部位的视频帧14也被显示并且保留在显示设备20的第一区域22中。因此,用户稍后通过浏览第一区域22来识别异常部位。如上所述,利用根据本示例实施例的信息处理装置2000,可以降低用户错过异常部位的可能性。因此,可以提高使用相机10执行的身体内部检查的准确性。
在下文中,将更详细地描述本示例实施例。
<功能配置>
图2是示出信息处理装置2000的功能配置的框图。信息处理装置2000包括检测单元2020和显示控制单元2040。检测单元2020从视频数据12检测异常区域30。显示控制单元2040在显示设备20的第一区域22中显示从中检测到异常区域30的视频帧14。此外,显示控制单元2040在显示设备20的第二区域24上显示包括在显示在第一区域中的视频帧14之后生成的视频帧14的视频数据12。
<信息处理装置2000的硬件配置的示例>
信息处理装置2000的每个功能配置单元可以由形成每个功能配置单元的硬件(例如,硬连线电子电路等)或硬件和软件的组合(例如,电子电路和用于控制电路的程序的组合)形成。在下文中,将进一步描述通过硬件和软件的组合来形成信息处理装置2000的每个功能配置单元的情况。
图3是示出用于形成信息处理装置2000的计算机1000的图。计算机1000是各种计算机。例如,计算机1000是个人计算机(pc)、服务器机器、平板终端、智能电话等。计算机1000可以是被设计为形成信息处理装置2000的专用计算机,或者可以是通用计算机。
计算机1000包括总线1020、处理器1040、存储器1060、存储设备1080、输入和输出接口1100以及网络接口1120。总线1020是用于处理器1040、存储器1060、存储设备1080、输入和输出接口1100以及网络接口1120相互传输和接收数据的数据传输路径。处理器1040是算术处理装置,诸如中央处理单元(cpu)或图形处理单元(gpu)。存储器1060是由随机存取存储器(ram)等形成的主存储设备。存储设备1080是由硬盘、固态驱动器(ssd)、rom或存储卡形成的辅助存储设备。然而,存储设备1080可以由类似于用于形成主存储设备的硬件的硬件形成,诸如ram。
输入和输出接口1100是用于将计算机1000连接到输入和输出装置的接口。例如,相机10和显示设备20连接到输入和输出接口1100。
网络接口1120是用于连接到诸如广域网(wan)或局域网(lan)等通信网络的接口。
存储设备1080存储实现信息处理装置2000的每个功能的程序模块。处理器1040将每个程序模块读取到存储器1060中,并且执行每个程序模块以实现与该程序模块相对应的每个功能。
<关于显示设备20>
显示设备20可以具有一个屏幕,或者可以具有多个屏幕。在前一种情况下,第一区域22和第二区域24是在一个屏幕上彼此不同的区域。在后一种情况下,第一区域22和第二区域24可以是在一个屏幕上彼此不同的区域,或者可以是在彼此不同的屏幕上的区域。
图4是示出显示设备20的配置的图。图4(a)中的显示设备20具有一个显示屏26。第一区域22和第二区域24是在显示屏26上彼此不同的区域。图4(b)中的显示设备20具有两个显示屏26(显示屏26-1和显示屏26-2)。第一区域22是显示屏26-1的整个区域或其部分区域。另一方面,第二区域24是显示屏26-2的整个区域或其部分区域。在下面的描述中,除非另外说明,否则将描述显示设备20由一个显示屏26构成的情况(图4(a)的情况)作为示例。<信息处理装置2000的使用环境的具体示例>
图5是示出信息处理装置2000的使用环境的具体示例的图。例如,信息处理装置2000与观察镜40和内窥镜系统50一起使用。观察镜40连接到内窥镜系统50。观察镜40设置有相机10。在这种情况下,视频数据12由设置在观察镜40中的相机10生成的多个视频帧14形成。内窥镜系统50向信息处理装置2000输出视频数据12。例如,视频数据12从设置在内窥镜系统50中的用于视频输出的接口(例如,高清多媒体接口(hdmi)(注册商标)接口)输出到用于信息处理装置2000的视频输入的接口。信息处理装置2000处理从内窥镜系统50获取的视频数据12以控制显示设备20的显示(参考图1)。
注意,图5所示的配置仅是示例,并且信息处理装置2000的使用环境不限于图5所示的配置。例如,视频数据12可以从相机10输出到信息处理装置2000。在这种情况下,信息处理装置2000可以不连接到内窥镜系统50。
<处理流程>
图6是示出由根据示例实施例1的信息处理装置2000执行的处理的流程的流程图。步骤s102至s112是针对从相机10获取的每个视频帧14执行的循环处理。在s102中,信息处理装置2000在尚未进行循环处理a的视频帧14中选择具有最早生成时间点的视频帧14。在此选择的视频帧14表示为视频帧i。注意,例如,在所有视频帧14已经进行循环处理a的情况下,信息处理装置2000等待直到生成新视频帧14。替代地,图6的处理可以结束。
检测单元2020从视频帧i检测异常区域30(s104)。在从视频帧i检测到异常区域30的情况下(s106中为“是”),显示控制单元2040在第一区域22中显示视频帧i(s108)。因此,在第一区域22中显示从中检测到异常区域30的视频帧14。
在s110中,显示控制单元2040在第二区域24中显示视频帧i。因此,无论是否检测到异常区域30,视频帧i都被显示在第二区域24中。
由于s112是循环处理a的结束,因此图6的处理返回到s102。
注意,进行用于检测异常区域30的处理(s104)的视频帧14可以是视频数据12中包括的所有视频帧14,或者可以是一些视频帧14。在后一种情况下,例如,检测单元2020仅针对每个预定数目的一个视频帧14(例如,每十个视频帧)执行s104。
<视频数据12的获取>
可以采用检测单元2020获取视频数据12的任何方法。例如,检测单元2020访问其中存储有视频数据12的存储设备以获取视频数据12。其中存储有视频数据12的存储设备可以设置在相机10内部,或者可以设置在相机10外部。例如,检测单元2020可以从相机10接收要传输的视频数据12以获取视频数据12。此外,检测单元2020可以从连接到相机10的另一装置(例如,上述内窥镜系统50)获取视频数据12。
<异常区域30的检测:s104>
检测单元2020从构成视频数据12的每个视频帧14检测异常区域30。在此,可以使用现有技术作为分析对身体内部成像的图像并且检测异常部位的技术。例如,可以使用诸如特征值匹配或模板匹配等方法。例如,在通过特征量匹配来检测肿瘤的情况下,预先定义表示肿瘤的外观特征(颜色、图案、形状等)的一个或多个值(特征量)。检测单元2020从视频帧14检测与在视频帧14的图像区域中预先设置的肿瘤的特征值具有高相似度的图像区域。检测单元2020将检测到的图像区域作为表示异常区域30的图像区域来处理。对于检测到伤口或异物的情况,可以采用相同的方法。
注意,在希望检测异物的情况下,假定已经确定了进入身体的异物。在这种情况下,优选的是,能够向信息处理装置2000指定异物的特征值。例如,进入到身体中的异物的照片被输入到信息处理装置2000。信息处理装置2000对照片执行图像分析以计算要检测的异物的特征值。检测单元2020从视频帧14检测具有计算出的特征值的异物。
<关于第一区域22和第二区域24>
如上所述,包括异常区域30的视频帧14被显示在第一区域22中。视频数据12被显示在第二区域24中。第一区域22和第二区域24可以是彼此不同的任何区域。第一区域22和第二区域24在显示设备20中的位置和大小可以是固定的,也可以是不固定的。在后一种情况下,例如,显示控制单元2040接收用于改变第一区域22和第二区域24的位置和大小的用户操作。显示控制单元2040响应于所接收的用户操作而改变第一区域22和第二区域24的位置和大小。<在第一区域22中的视频帧14的显示:s108>
显示控制单元2040在显示设备20的第一区域22中显示从中检测到异常区域30的视频帧14。在此,可以使用现有技术作为在显示设备20上的区域中显示图像的技术。
要在第一区域22中显示的视频帧14可以是一个或多个。在后一种情况下,例如,显示控制单元2040以从较早生成时间点开始的时间顺序在第一区域22中显示从中检测到异常区域30的视频帧14。在此,由于从中检测到异常区域30的视频帧14的数目很大,因此可能存在视频帧14不适合第一区域22的情况。在这种情况下,例如,显示控制单元2040可以通过在显示设备20上显示滚动条等来改变要在第一区域22中显示的视频帧14。
注意,在任何时刻,从中检测到异常区域30的视频帧14被显示在显示设备20上。例如,显示控制单元2040在从视频帧14检测到异常区域30的时刻将视频帧14显示在显示设备20上。在另一示例中,显示控制单元2040在自从视频帧14检测到异常区域30以来经过了预定时间之后将视频帧14显示在显示设备20上。该预定时间可以在显示控制单元2040中预先设置,或者可以存储在从显示控制单元2040可访问的存储设备中。
<视频数据12的显示:s110>
显示控制单元2040在显示设备20的第二区域24中显示视频数据12。可以使用现有技术作为在显示设备上显示视频数据的技术。
<表示异常区域30的显示>
显示控制单元2040可以执行表示视频帧14中包括的异常区域30的显示,以将视频帧14显示在第一区域22中。通过这样做,用户可以容易地识别视频帧14中包括的异常区域30。在下文中,将该显示称为第一显示。
各种显示可以用作第一显示。例如,显示控制单元2040在异常区域30中显示预定标记,以使其叠加在要在第一区域22中显示的视频帧14的异常区域30上。在下文中,将该标记称为叠加标记。在该示例中,叠加标记是第一显示。图7是示出要叠加在异常区域30上的各种叠加标记60的图。
在另一示例中,显示控制单元2040可以执行指示在视频帧14附近的异常区域30的第一显示(下文中称为指示标记)。图8是示出指示异常区域30的指示标记70的图。
<视频帧14的记录>
检测单元2020可以将从中检测到异常区域30的视频帧14记录在存储设备中。在下文中,将用于存储视频帧14的存储设备称为图像存储单元80。图9是示出连接到图像存储单元80的信息处理装置2000的图。注意,图像存储单元80可以设置在信息处理装置2000内部。
检测单元2020可以将从中检测到异常区域30的视频帧14直接记录在图像存储单元80中,或者可以适当地处理视频帧14并且将处理后的视频帧14记录在图像存储单元80中。例如,检测单元2020将叠加有指示异常区域30的位置的图像(叠加标记60等)的视频帧14记录在图像存储单元80中。通过这样做,可以容易地识别异常区域30在视频帧14中的位置。在另一示例中,检测单元2020将视频帧14与用于确定视频帧14中包括的异常区域30的位置的信息相关联地记录在图像存储单元80中。
[示例实施例2]
图10是示出根据示例实施例2的信息处理装置2000的框图。除了下述事项之外,根据示例实施例2的信息处理装置2000与根据示例实施例1的信息处理装置2000相同。
通常,相机以诸如每秒30帧(fps)的频率生成视频帧。因此,多个视频帧14可以包括相同的部位。例如,当某个异常区域30在相机10的成像范围内持续一秒时,最多从30个视频帧14检测到异常区域30。如上所述,在从多个视频帧14检测到相同的异常区域30的情况下,不一定需要在第一区域22中显示全部的多个视频帧14。例如,仅通过在第一区域22中显示多个视频帧14中的一些(例如,一个),用户可以识别出视频帧14中包括的异常区域30。
在存在如上所述的包括相同的异常区域30的多个视频帧14的情况下,根据示例实施例2的信息处理装置2000在显示设备20上仅显示一些视频帧14。为此,根据示例实施例2的信息处理装置2000包括判定单元2060。判定单元2060判定从多个视频帧14中的每个视频帧检测到的异常区域30是否相同。根据示例实施例2的显示控制单元2040在显示设备20上仅显示多个视频帧14中包括被判定为相同的异常区域30的一些视频帧14。
<判定单元2060的判定>
判定单元2060比较从视频帧14检测到的异常区域30以判定从视频帧14检测到的异常区域30是否相同。例如,判定单元2060计算表示某个视频帧14中包括的异常区域30的图像区域与表示另一视频帧14中包括的异常区域30的图像区域之间的相似度。如果相似度等于或大于预定值,则判定单元2060判定两个视频帧14中包括的异常区域30相同。另一方面,如果相似度小于预定值,则判定单元2060判定两个视频帧14中包括的异常区域30彼此不同。在此,可以使用现有技术作为通过比较图像区域来计算相似度的技术。
注意,判定单元2060可以针对多个视频帧14比较包括异常区域30及其周围的具有预定大小或形状的图像区域。在另一示例中,对于多个视频帧14,判定单元2060可以比较异常区域30周围的图像区域,而非异常区域30。
将描述判定每个视频帧14中包括的异常区域30是否相同的方法的更具体示例。当从视频帧14检测到异常区域30时,检测单元2020计算表示异常区域30的图像区域的特征值(例如,表示图像区域的形状或图案的参数)。检测单元2020将计算出的特征值与视频帧14的辨别符(discriminator)(例如,帧号)相关联地记录在存储设备中。该存储设备可以作为数据库来处理,用于管理从视频数据12检测到的异常区域30的信息存储在该数据库中。在下文中,将要存储在存储设备中的信息称为异常区域信息。
图11是以表形式示出异常区域信息的图。图11所示的表称为表300。表300具有两列:异常区域辨别符302和数据304。异常区域辨别符302是分配给异常区域30的辨别符。数据304指示一组“异常区域30的特征值和从中检测到异常区域30的视频帧14的辨别符”。例如,表300的第一行中的记录表示,从具有辨别符img001的视频帧14和具有辨别符img004的视频帧14检测到具有辨别符r1的异常区域30。此外,表300的第一行中的记录表示,从具有辨别符img001的视频帧14检测到的异常区域30的特征值为v1,并且从具有辨别符img004的视频帧14检测到的异常区域30的特征值为v5。由于特征值v1和v5之间的相似度很高,因此(v1,img001)和(v5,img005)存储在同一记录中。
当从视频帧14检测到异常区域30时,检测单元2020将一组“异常区域30的特征值和视频帧14的辨别符”添加到表300。在这种情况下,判定单元2060从表300中搜索与检测到的异常区域30的特征值具有高相似度的特征值。假定,作为搜索结果,在数据304中找到指示与特征值具有高相似度的特征值的记录。在这种情况下,判定单元2060更新通过搜索获取的记录,以将检测到的异常区域30的特征值和从中检测到异常区域30的视频帧14的辨别符添加到表300。具体地,判定单元2060将一组“检测到的异常区域30的特征值和从中检测到异常区域30的视频帧14的辨别符”添加到通过搜索获取的记录的数据304。
另一方面,假定,作为搜索结果,在数据304中未找到指示与检测到的异常区域30的特征值具有高相似度的特征值的记录。判定单元2060生成指示“检测到的异常区域30的特征值和从中检测到异常区域30的视频帧14的辨别符”的新记录,并且将该记录添加到表300。
注意,在从一个视频帧14检测到多个异常区域30的情况下,针对多个异常区域30中的每个执行上述处理。
通过以这种方式管理从每个视频帧14检测到的异常区域30,可以容易地判定在多个视频帧14中是否包括相同的异常区域30。具体地,当指示特定视频帧14的辨别符的记录与表300中指示另一视频帧14的辨别符的记录相同时,判定单元2060判定这些视频帧14中包括相同的异常区域30。另一方面,当指示特定视频帧14的辨别符的记录与表300中指示另一视频帧14的辨别符的记录不同时,判定单元2060判定这些视频帧14中包括相互不同的异常区域30。
<判定要在显示设备20上显示的视频帧14的方法>
例如,显示控制单元2040在包括被判定为相同的异常区域30的多个视频帧14中确定其中用户最容易识别异常区域30的一个视频帧14,并且在显示设备20上显示所确定的视频帧14。可以采用各种方法用于上述确定。在下文中,将描述上述确定方法的具体示例。
<<使用表示异常的可能性的方法>>
对于包括被判定为相同的异常区域30的多个视频帧14,显示控制单元2040确定表示异常区域30的图像区域表示身体的异常的可能性。例如,在通过特征值匹配或模板匹配从视频帧14检测异常区域30的情况下,表示异常区域30的图像区域表示身体的异常的可能性由图像区域与预先定义的特征值或模板之间的相似度表示。显示控制单元2040将具有最高可能性的视频帧14确定为要在显示设备20上显示的视频帧14。
可以认为,视频帧14中包括的异常区域30表示身体的异常的可能性越高,视频帧14中包括的异常区域30表示异常的可能性越高。因此,通过在异常区域表示身体的异常的可能性很高的情况下在显示设备20上显示视频帧14,使得用户能够更精确地识别对象的身体异常。
<<使用异常区域30的位置的方法>>
显示控制单元2040在包括被判定为相同的异常区域30的多个视频帧14中确定异常区域30的位置最接近视频帧14的中心位置的视频帧14,并且将所确定的视频帧14作为要在显示设备20上显示的视频帧14进行处理。具体地,针对每个视频帧14,显示控制单元2040计算视频帧14中包括的异常区域30与视频帧14的中心坐标之间的距离。显示控制单元2040将具有最小距离的视频帧14确定为要在显示设备20上显示的视频帧14。
通常,由相机生成的图像中包括的对象更容易被看到,因为该对象靠近图像的中心。因此,通过在显示设备20上显示异常区域30的位置接近视频帧14的中心位置的视频帧14,用户更容易看到异常区域30。
<<使用整个视频帧14的对比度的方法>>
显示控制单元2040在包括被判定为相同的异常区域30的多个视频帧14中确定在整个视频帧14中具有最高对比度的视频帧14作为要显示在显示设备20上的视频帧14。具体地,针对每个视频帧14,显示控制单元2040计算表示整个视频帧14的对比度的索引值。显示控制单元2040比较所计算的索引值以确定具有最高对比度的视频帧14,并且将所确定的视频帧14作为要在显示设备20上显示的视频帧14进行处理。注意,例如,可以使用迈克尔逊对比度等用于表示对比度的索引值。
通常,在图像的对比度较高时,更容易辨别图像中包括的各个对象。因此,通过在显示设备20上显示在整个视频帧14中具有高对比度的视频帧14,使得用户更容易看到异常区域。
<<使用表示异常区域30的图像区域的对比度的方法>>
显示控制单元2040可以使用表示异常区域30的图像区域的对比度,而不是整个视频帧14的对比度。也就是说,针对包括被判定为相同的异常区域30的多个视频帧14中的每个,显示控制单元2040计算表示图像异常区域30的图像区域的对比度的索引值。显示控制单元2040比较计算出的索引值以确定在表示异常区域30的图像区域中具有最高对比度的视频帧14,并且将所确定的视频帧14显示在显示设备20上。
通过这种方法,由于具有高对比度的异常区域30被显示在显示设备20上,因此用户更容易看到异常区域30的内部。
<在显示设备20上显示视频帧14的时间>
如上所述,在任何时刻,从中检测到异常区域30的视频帧14被显示在显示设备20上。例如,显示控制单元2040在从视频帧14检测到异常区域30的时刻将视频帧14显示在显示设备20上。在这种情况下,例如,显示控制单元2040将已经显示在显示设备20上的视频帧14与从中检测到与视频帧14中包括的异常区域30相同的异常区域30的新视频帧14进行比较,以便判定要在显示设备20上显示的视频帧14。在判定要在显示设备20上显示新视频帧14的情况下,在显示设备20上更新显示。另一方面,在判定要在显示设备20上显示已经显示在视频帧14中的视频帧14的情况下,显示控制单元2040不在显示设备20上显示新的视频帧14。
例如,显示控制单元2040将已经显示在显示设备20上的视频帧14中包括的异常区域30表示异常的可能性与新视频帧14中包括的异常区域30表示异常的可能性进行比较。在新视频帧14中包括的异常区域30具有更高的可能性表示异常的情况下,显示控制单元2040更新显示设备20上的显示以在显示设备20上显示新视频帧14。另一方面,在已经显示在显示设备20上的视频帧14中的异常区域30具有更高的可能性表示异常的情况下,显示控制单元2040不更新显示设备20上的显示。
图12是示出更新显示设备20的显示的场景的图。在显示设备20的上部,在第一区域22中显示视频帧14-1。此后,假定从在视频帧14-1之后生成的视频帧14-2检测到与视频帧14-1中包括的异常区域30相同的异常区域30。此外,假定视频帧14-2中包括的异常区域30表示异常的可能性高于视频帧14-1中包括的异常区域30表示异常的可能性。
在这种情况下,显示控制单元2040将要在第一区域22中显示的视频帧14从视频帧14-1改变为视频帧14-2(参见图12的下部)。另一方面,在视频帧14-2中包括的异常区域30表示异常的可能性低于视频帧14-1中包括的异常区域30表示异常的可能性的情况下,显示控制单元2040不改变要在第一区域22(未示出)中显示的视频帧14。
显示控制单元2040在显示设备20上显示视频帧14的定时不限于上述定时。例如,当从按时间序列连续的多个视频帧14检测到相同的异常区域30时,显示控制单元2040不在显示设备20上显示视频帧14。在不再从视频帧14检测到相同的异常区域30之后,显示控制单元2040在至今已经从中检测到异常区域30的多个视频帧14中确定要在显示设备20上显示的一个视频帧14。显示控制单元2040在显示设备20上显示所确定的视频帧14。
<关于在图像存储单元80中存储视频帧14>
根据示例实施例2的检测单元2020可以将从中检测到相同异常区域30的视频帧14中的仅一些视频帧14记录在图像存储单元80中。例如,检测单元2020仅将从中检测到相同的异常区域30的视频帧14中要由检测单元2020在第一区域22中显示的视频帧14(通过上述每种方法确定的视频帧14)记录在图像存储单元80中。通过这样做,可以在存储很好地表示异常区域30的视频帧14的同时节省图像存储单元80的存储区域。
在此,检测单元2020在任何时间将视频帧14记录在图像存储单元80中。例如,检测单元2020在从视频帧14检测到异常区域30的时刻将视频帧14记录在图像存储单元80中。在这种情况下,检测单元2020将已经存储在图像存储单元80中的视频帧14与从中检测到与视频帧14中包括的异常区域30相同的异常区域30的新视频帧14进行比较,以便确定要存储在图像存储单元80中的视频帧14。在判定要将新视频帧14存储在图像存储单元80中的情况下,检测单元2020删除已经存储在图像存储单元80中的视频帧14,并且将新视频帧14记录在图像存储单元80中。另一方面,在判定要将已经存储在图像存储单元80中的视频帧14存储在图像存储单元80中的情况下,检测单元2020不在图像存储区80中记录新视频帧14。
在另一示例中,当从按时间序列连续的多个视频帧14检测到相同的异常区域30时,检测单元2020不在图像存储单元80中记录视频帧14。在不再从视频帧14检测到相同的异常区域30之后,检测单元2020确定在至今已经从中检测到异常区域30的多个视频帧14中确定存储在图像存储单元80中的一个视频帧14。检测单元2020将所确定的视频帧14记录在图像存储单元80中。
<关于首次显示>
如上所述,显示控制单元2040可以在显示设备20上显示表示异常区域30的第一显示。在这种情况下,优选的是,相同的第一显示用于相同的异常区域30,并且彼此不同的异常区域30用于不同的异常区域30。通过这样做,可以容易地辨别显示在显示设备20上的多个视频帧14的每个中包括的异常区域30是否相同。因此,可以更顺畅地执行使用信息处理装置2000的检查。
对于彼此不同的异常区域30中的每个,使第一显示不同的方法有多种。例如,显示控制单元2040对于相同的异常区域30使用具有相同颜色或形状的第一显示,并且对于相互不同的异常区域30使用具有不同颜色或形状的第一显示。图13是示出考虑到异常区域30的差异的第一显示的图。在图13a中,视频帧14-1中包括的异常区域30-1和视频帧14-2中包括的异常区域30-2是相同的异常区域30。另一方面,视频帧14-3中包括的异常区域30-3是与异常区域30-1和异常区域30-2不同的异常区域30。显示控制单元2040在异常区域30-1和异常区域30-2上分别显示具有相同图案(点图案)的叠加标记60-1和叠加标记60-2。另一方面,显示控制单元2040在异常区域30-3上显示具有与点图案不同的格子图案的叠加标记60-3。
<要同时显示在第一区域22和第二区域24中的异常区域30>
信息处理装置2000的用户在使相机10在对象的身体中移动的同时进行检查。因此,曾经超出相机10的成像范围的异常区域30可以再次进入相机10的成像范围。例如,假定医生查看显示在第一区域22中的视频帧14,并且识别出医生错过了视频帧14中包括的异常区域30(当该异常区域30在第二区域24中显示为视频时未查看到该异常区域30)。在这种情况下,可能存在以下情况:医生操作相机10(例如,操作观察镜40),使得异常区域30再次落入相机10的成像范围内,以便通过查看视频的异常区域30来识别细节。结果,相同的异常区域30被显示在第一区域22和第二区域24中。换言之,相同的异常区域30被显示在表示过去场景的视频帧和表示实时场景的视频中。
在以这种方式在第一区域22和第二区域24中显示相同的异常区域30的情况下,优选地,显示控制单元2040通知该事实。例如,在从要显示在第二区域24中的视频帧14检测到异常区域30的情况下,显示控制单元2040判定是否在第一区域22中显示包括该异常区域30的视频帧14。在包括异常区域30的视频帧14被显示在第一区域22中的情况下,显示控制单元2040执行预定通知。
可以采用任何通知方法。例如,显示控制单元2040可以突出显示显示在第一区域22中的视频帧14中包括与从要显示在第二区域24中的视频帧14检测到的异常区域30相同的异常区域30的视频帧14。
图14是示出突出显示的图。在图14中,两个视频帧14(视频帧14-1和视频帧14-2)显示在第一区域22中。从视频帧14-1和视频帧14-2中分别检测出异常区域30-1和异常区域30-2。这些是彼此不同的异常区域30。从作为显示在第二区域24中的视频数据12的当前帧的视频帧14-3检测异常区域30-3。异常区域30-2和异常区域30-3表示相同的异常区域30。
在这种情况下,显示控制单元2040突出显示包括与视频帧14-3中包括的异常区域30相同的异常区域30的视频帧14-2。在图14中,视频帧14-2的框线被加粗以突出显示视频帧14-2。通过这样做,医生可以容易地识别出在过去成像的异常区域30中,由相机10实时成像的异常区域30(在第二区域24中显示的异常区域30)与视频帧14-2中包括的异常区域30相同。
注意,突出显示视频帧14的方法不限于图14的示例所示的“加粗视频帧14的框线”的方法。例如,可以采用诸如使视频帧14闪烁的方法或改变视频帧14的颜色的方法等各种方法。
显示控制单元2040可以突出显示指示显示在第一区域22中的异常区域30的第一显示和指示显示在第二区域24中的异常区域30的第一显示。通过这样做,信息处理装置2000的用户可以容易识别过去的视频帧中包括与视频中包括的异常区域30相同的异常区域30的位置。图15是示出第一显示被突出显示的示例的图。图15表示与图14相同的情况,除了第一显示被突出显示。在图15中,叠加标记60显示在异常区域30上。
在图15中,类似于图14,视频帧14-2中包括的异常区域30-2和视频帧14-3中包括的异常区域30是相同的异常区域30。显示控制单元2040使表示这两个异常区域30的叠加标记60的框线变粗。通过这样做,信息处理装置2000的用户可以容易地识别出由叠加标记60-1表示的异常区域30-1和由叠加标记60-2表示的异常区域30-2是相同的。
注意,当要在第一区域22上显示的异常区域30和要在第二区域24上显示的异常区域30相同时,可以允许针对这些异常区域显示相同的第一显示。例如,图15中的叠加标记60-1和60-2具有相同的形状。通过这样做,可以容易地识别实时视频中包括的异常区域30是否与过去视频帧中包括的异常区域30相同。
通知在第一区域22和第二区域24中显示相同的异常区域30的方法不限于上述突出显示。例如,该通知可以是诸如蜂鸣声等预定声音的输出。在另一示例中,该通知可以是输出预定振动的通知。
<硬件配置>
与示例实施例1类似,例如,形成根据示例实施例2的信息处理装置2000的计算机的硬件配置由图3表示。但是,形成根据本示例实施例的信息处理装置2000的计算机1000的存储设备1080还存储用于实现根据本示例实施例的信息处理装置2000的功能的程序模块。
[示例实施例3]
图16是示出根据示例实施例3的信息处理装置2000的框图。除了下述事项之外,根据示例实施例3的信息处理装置2000与根据示例实施例1或2的信息处理装置2000相同。
根据示例实施例3的信息处理装置2000具有指定接收单元2080。判定单元2060从用户接收指定构成视频数据12的多个视频帧14之一的输入。判定单元2060将指定的视频帧14记录在图像存储单元80中。根据第三实施例的检测单元2020将从中检测到异常区域30的视频帧14存储在图像存储单元80中。
在此,检测单元2020记录从中检测到异常区域30的视频帧14,以便能够与要由指定接收单元2080记录在图像存储单元80中的视频帧14(为指定接收单元2080指定的视频帧14)可辨别。换言之,记录要由检测单元2020记录在图像存储单元80中的视频帧14和要由指定接收单元2080记录在图像存储单元80中的视频帧14,以便能够彼此可辨别。在下文中,将要由检测单元2020记录在图像存储单元80中的视频帧14称为自动存储帧。此外,将要由指定接收单元2080记录在图像存储单元80中的视频帧14称为自动存储帧。
关于指定接收单元2080的指定由例如执行检查的医生进行。例如,当医生在检查期间在查看显示在第二区域24中的视频数据12的同时发现异常部位时,医生试图记录包括该部位的视频帧14。在另一示例中,医生可以记录包括要注意的预定部位的视频帧14,而不管该部位是否异常。
在这种情况下,例如,在该部位被包括在显示在第二区域24中的视频帧14中以指定包括该部位的视频帧14的情况下,医生操作诸如键盘或预定按钮等输入装置。指定接收单元2080将以这种方式指定的视频帧14记录在图像存储单元80中。从用户的角度来看,上述操作例如是通过释放相机的快门来拍摄照片的操作。
相反,要由检测单元2020记录在图像存储单元80中的自动存储帧是包括通过信息处理装置2000的图像分析而自动检测到的(而不是由用户指定的)视频帧14。也就是说,自动存储帧是由信息处理装置2000自动记录在图像存储单元80中的视频帧14。
如上所述,指定存储帧和自动存储帧在被记录在图像存储单元80中的触发和帧的含义方面对于用户而言是不同的。因此,优选的是,用户可以容易地辨别存储在图像存储单元80中的视频帧14是指定存储帧还是自动存储帧。
在这一点上,对于根据本示例实施例的信息处理装置2000,要由检测单元2020记录在图像存储单元80中的视频帧14和要由指定接收单元2080记录在图像存储单元80中的视频帧14被记录在图像存储单元80中,以便能够彼此可辨别。因此,可以容易地辨别存储在图像存储单元80中的视频帧14是指定存储帧还是自动存储帧。
<辨别方法>
可以采用以可辨别的方式将指定存储帧和自动存储帧存储在图像存储单元80中的任何方法。例如,信息处理装置2000与视频帧14相关联地将表示视频帧14是指定存储帧还是自动存储帧的标志记录在图像存储单元80中。图17是示出要以表格形式存储在图像存储单元80中的信息格式的图。图17所示的表由表200表示。表200具有两列:视频帧202和类型标志204。视频帧202表示视频帧14本身。类型标志204表示视频帧202中所示的视频帧14是指定存储帧还是自动存储帧。
<关于显示控制单元2040的显示>
在要显示在第一区域22中的视频帧14中存在包括与指定存储帧中包括的异常区域30相同的异常区域30的视频帧14的情况下,显示控制单元2040使视频帧图14能够与其他视频帧14可辨别。例如,显示控制单元2040在包括与指定存储帧或视频帧14的外围中包括的异常区域30相同的异常区域30的视频帧14中执行预定显示。该预定显示器由第二显示表示。例如,第二显示突出显示包括与指定存储帧中包括的异常区域30相同的异常区域30的视频帧14。注意,示例实施例2中描述的方法可以用作突出显示所确定的视频帧14的方法。
在第一区域22中显示从中检测到异常区域30的视频帧14的目的之一是防止用户遗漏异常区域30。在这一点上,包括在指定存储帧(即,由用户指定的视频帧14)中的异常区域30可以被用户注意到并且不会被用户错过。
在第一区域22中显示包括与指定存储帧中包括的异常区域30相同的异常区域30的视频帧14的情况下,检测单元2020使得用户能够识别视频帧14。通过这样做,用户可以容易地识别出用户已经识别出显示在第一区域22中的异常区域30的这一事实。
然而,显示控制单元2040可以在包括与指定存储帧中包括的异常区域30不同的异常区域30的视频帧14中执行第二显示,并且在要显示在第一区域22中的视频帧14中,可以在包括与指定存储帧中包括的异常区域30相同的异常区域30的视频帧14中不执行第二显示。通过这样做,在由信息处理装置2000自动检测到的异常区域30中,包括很可能未被用户识别的异常区域30的视频帧14被突出显示。因此,用户可以容易地识别出未被用户识别出的异常区域30。
在另一示例中,在由检测单元2020检测到异常区域30的视频帧14中,显示控制单元2040可以在第一区域22中不显示(从第一区域22中删除)包括与指定存储帧中包括的异常区域30相同的异常区域30的视频帧14。通过这样做,在由检测单元2020检测到异常区域30的视频帧14中,仅很可能未被用户识别的异常区域30被显示在显示设备20的第一区域22中。因此,用户可以容易地识别出未被用户识别出的异常区域30。
<硬件配置的示例>
与示例实施例1类似,例如,形成根据示例实施例3的信息处理装置2000的计算机的硬件配置由图3表示。但是,形成根据本示例实施例的信息处理装置2000的计算机1000的存储设备1080还存储用于实现根据本示例实施例的信息处理装置2000的功能的程序模块。
[示例实施例4]
图18是示出根据示例实施例4的信息处理装置2000的框图。除了下述事项之外,根据示例实施例4的信息处理装置2000与根据示例实施例1、2或3的信息处理装置2000相同。
根据示例实施例4的信息处理装置2000包括第二检测单元2100。第二检测单元2100检测用户对异常区域30或其外围的预定动作。当检查对象的身体内部的用户发现可能异常的部位时,用户执行各种动作以更详细地观察该部位。动作的示例是1)改变照射到异常区域30或其外围的光的颜色或强度,2)在异常区域30或其外围执行染料喷涂或着色,3)对异常区域30或其外围施以水或药物,以及4)收集异常区域30或其外围的组织。类似于针对指定接收单元2080通过用户操作指定的异常区域30,可能是针对这些动作的异常区域30是很有可能被用户识别的部位。在此,“针对预定动作的异常区域30”是指第二检测单元2100检测到用户针对异常区域30或异常区域30的外围的预定动作的异常区域30。
例如,显示控制单元2040对用户的预定动作针对的异常区域30执行与对与指定存储帧中包括的异常区域30相同的异常区域30执行的显示控制(参考示例实施例3)相同的控制。更具体地,例如,显示控制单元2040执行:在异常区域30上显示预定显示,该异常区域针对用户的预定动作并且显示在第一区域22中或其外围;或者在包括异常区域30或其外围的视频帧14中显示预定显示。该预定显示被称为第三显示。第三显示是例如突出显示异常区域30或视频帧14的显示。通过这样做,用户可以在第一区域22中显示的异常区域30中容易地识别出已经被用户识别出的异常区域30。注意,上述各种显示可以用于突出显示所确定的异常区域30或视频帧14。
图19是示出其中突出显示包括针对用户的预定动作的异常区域30的视频帧14的场景的图。在该示例中,用户的预定动作是对异常区域30的外围进行染色的动作。
在图19中,从显示在第二区域24中的视频帧14-3检测出异常区域30-3。此外,异常区域30-3的外围被染色。
在此,从显示在第一区域22中的视频帧14中的视频帧14-2检测到表示与异常区域30-3相同的异常区域的异常区域30-2。执行使视频帧14-2的框线变粗的突出显示。
注意,在检测到用户的预定动作时执行的处理不限于上述第三显示的显示。例如,显示控制单元2040可以在第一区域22中不显示包括针对用户的预定动作的目标异常区域30的视频帧14。通过这样做,在第一区域22中,在由检测单元2020检测到异常区域30的视频帧14中,仅很有可能未被用户识别的异常区域30被显示在显示设备20的第一区域22中。因此,用户可以容易地识别出用户未识别出异常区域30。
<用户检测预定动作的方法>
上述各种预定动作由用户在内窥镜系统等上进行预定的输入操作来执行。例如,在普通的内窥镜系统中,配备有相机的观察镜设置有用于照射光的机构(诸如光源)、用于喷射染料或着色溶液的机构、用于施以水或药物的机构、用于收集组织的机构等。这些机构响应于用户在内窥镜系统上执行的预定输入操作而操作。换言之,当执行上述各种预定动作时,执行用于操作实现预定动作的机构的输入操作。
例如,第二检测单元2100检测到执行用于操作这些机构的输入操作以便检测到用户执行了预定动作。例如,第二检测单元2100从内窥镜系统等接收指示执行了输入操作的通知以便检测到执行了输入操作。
在此,第二检测单元2100在检测到输入操作的时刻将第二区域24中显示的视频帧14中包括的部位(由相机10捕获的部位)作为针对用户的预定动作的部位进行处理。也就是说,在检测到输入操作的时刻在第二区域24中显示的视频帧14中包括异常区域30的情况下,第二检测单元2100将异常区域30作为针对用户的预定动作的异常区域30进行处理。
注意,第二检测单元2100检测用户的预定动作的方法不限于上述检测输入操作的方法。例如,第二检测单元2100可以执行视频数据12的图像分析以便检测用户的预定动作。例如,第二检测单元2100比较视频数据12中包括的每个视频帧14的亮度分布或颜色分布以便检测相机10的成像范围的亮度或颜色的变化。第二检测单元2100检测到照亮相机10的成像范围的光的颜色或强度改变或者喷射染色溶液。
在以这种方式使用图像分析的情况下,例如,第二检测单元2100将视频帧14中包括的被检测为亮度或颜色变化的部位作为针对用户的预定动作的部位进行处理。也就是说,当视频帧14中包括检测到亮度或颜色改变的异常区域30时,第二检测单元2100将该异常区域30作为针对用户的预定动作的异常区域30。
<硬件配置的示例>
与示例实施例1类似,例如,形成根据示例实施例4的信息处理装置2000的计算机的硬件配置由图3表示。但是,形成根据本示例实施例的信息处理装置2000的计算机1000的存储设备1080还存储用于实现根据本示例实施例的信息处理装置2000的功能的程序模块。
如上所述,参考附图描述了根据本发明的示例实施例,但是这些是本发明的示例。本发明可以采用上述示例实施例的组合或除了上述配置之外的各种配置。
以上示例性实施例中的一些或全部可以如以下补充中所述进行描述,但不限于这些补充。
1.一种信息处理装置,包括:检测单元,所述检测单元从身体的内部在其中被成像的视频检测所述身体的所述内部中的异常区域;以及显示控制单元,所述显示控制单元在显示设备的第一区域中显示构成所述视频的多个视频帧之中的、所述异常区域从其被检测到视频帧,并且在所述显示设备的第二区域中显示包括在所述视频帧之后被生成的视频帧的所述视频。
2.根据补充1所述的信息处理装置,其中所述显示控制单元显示第一显示,所述第一显示指示要被显示在所述显示设备上的所述异常区域从其被检测到的所述视频帧中的所述异常区域的位置。
3.根据补充2所述的信息处理装置,其中所述显示控制单元在所述第一区域中显示所述异常区域从其被检测到的所述多个视频帧。
4.根据补充3所述的信息处理装置,还包括:判定单元,所述判定单元判定从多个视频帧被检测到的异常区域是否表示相同的异常,其中所述显示控制单元执行:当从所述多个视频帧被检测到的所述异常区域被判定为相同时,针对所述异常区域显示相同的第一显示,以及当从所述多个视频帧被检测到的所述异常区域被判定为彼此不同时,针对所述异常区域显示不同的第一显示。
5.根据补充1至4中任一项所述的信息处理装置,还包括:判定单元,所述判定单元判定从多个视频帧被检测到的异常区域是否相同,其中当从所述多个视频帧被检测到的所述异常区域被判定为相同时,所述检测单元在所述第一区域中显示所述多个视频帧中的一些视频帧。
6.根据补充5所述的信息处理装置,其中所述检测单元显示相同异常区域从其被检测到的所述多个视频帧之中的、具有所述异常区域表示异常的最高可能性的所述视频帧、在所述异常区域与所述视频帧的中心位置之间具有最短距离的所述视频帧、在整个图像区域中具有最高对比度的所述视频帧或在所述第一区域中的所述异常区域中具有最高对比度的所述视频帧。
7.根据补充1至6中任一项所述的信息处理装置,其中所述检测单元将所述异常区域从其被检测到的所述视频帧记录在存储单元中。
8.根据补充7所述的信息处理装置,还包括:指定接收单元,所述指定接收单元接收指定构成所述视频的多个视频帧中的一个视频帧的输入,并且将指定的所述视频帧记录在所述存储单元中,其中所述检测单元将所述异常区域从其被检测到的所述视频帧记录在所述存储单元中,以便从由所述指定接收单元记录在所述存储单元中的所述视频帧可辨别。
9.根据补充8所述的信息处理装置,还包括:判定单元,所述判定单元判定从多个视频帧被检测到的异常区域是否相同,其中当第二视频帧被指定为对所述指定接收单元的所述输入时,所述显示控制单元在被显示在所述第一区域中的第一视频帧中或在所述第一视频帧的外围中显示预定显示,所述第二视频帧被判定为包括与从所述第一视频帧被检测到的所述异常区域相同的异常区域。
10.根据补充8所述的信息处理装置,还包括:判定单元,所述判定单元判定从多个视频帧被检测到的所述异常区域是否相同,其中当第二视频帧被指定为对所述指定接收单元的所述输入时,所述显示控制单元不在所述第一区域中显示第一视频帧,所述第二视频帧被判定为包括与从所述第一视频帧被检测到的所述异常区域相同的所述异常区域。
11.根据补充1至10中任一项所述的信息处理装置,还包括:第二检测单元,所述第二检测单元检测由用户对检测到的所述异常区域或所述异常区域的外围的预定动作,其中当对检测到的所述异常区域或所述异常区域的所述外围的所述预定动作被检测到时,所述显示控制单元在包括检测到的所述异常区域并且被显示在所述第一区域中的所述视频帧中或所述视频帧的外围中显示预定显示。
12.根据补充1至10中任一项所述的信息处理装置,还包括:第二检测单元,所述第二检测单元检测由用户对检测到的所述异常区域或所述异常区域的外围的预定动作,其中当由所述用户对检测到的所述异常区域或所述异常区域的所述外围的所述预定动作被检测到时,所述显示控制单元不在所述第一区域中显示包括检测到的所述异常区域的所述视频帧。
13.根据补充11或12所述的信息处理装置,其中由所述用户的所述预定动作是改变被照射到检测到的所述异常区域或所述异常区域的所述外围的光的颜色或强度的动作、在检测到的所述异常区域或所述异常区域的所述外围中执行染料喷涂或着色的动作、对检测到的所述异常区域或所述异常区域的所述外围施以水或药物的动作或收集检测到的所述异常区域或所述异常区域的所述外围的组织的动作。
14.一种由计算机执行的控制方法,所述方法包括:从身体的内部在其中被成像的视频检测所述身体的所述内部中的异常区域的检测步骤;以及在显示设备的第一区域中显示构成所述视频的视频帧之中的、所述异常区域从其被检测到的视频帧、并且在所述显示设备的第二区域中显示包括在所述视频帧之后被生成的所述视频帧的所述视频的显示控制步骤。
15.根据补充14所述的控制方法,还包括:在所述显示控制步骤中,显示第一显示,所述第一显示指示要被显示在所述显示设备上的所述异常区域从其被检测到的所述视频帧中的所述异常区域的位置。
16.根据补充15所述的控制方法,还包括:在所述显示控制步骤中,在所述第一区域中显示所述异常区域从其被检测到的多个视频帧。
17.根据补充16所述的控制方法,还包括:判定从多个视频帧被检测到的异常区域是否表示相同的异常的判定步骤,在所述显示控制步骤中,执行:当从所述多个视频帧被检测到的所述异常区域被判定为相同时,针对所述异常区域显示相同的第一显示,以及当从所述多个视频帧被检测到的所述异常区域被判定为彼此不同时,针对所述异常区域显示不同的第一显示。
18.根据补充14至17中任一项所述的控制方法,还包括:判定从多个视频帧被检测到的异常区域是否相同的判定步骤,在所述检测步骤中,当从所述多个视频帧被检测到的所述异常区域被判定为相同时,在所述第一区域中显示所述多个视频帧中的一些视频帧。
19.根据补充18所述的控制方法,其中在所述检测步骤中,显示相同异常区域从其被检测到的所述多个视频帧之中的、具有所述异常区域表示异常的最高可能性的所述视频帧、在所述异常区域与所述视频帧的中心位置之间具有最短距离的所述视频帧、在整个图像区域中具有最高对比度的所述视频帧或在所述第一区域中的、被显示的所述异常区域中具有最高对比度的所述视频帧。
20.根据补充14至19中任一项所述的控制方法,还包括:在所述检测步骤中,将所述异常区域从其被检测到的所述视频帧记录在存储单元中。
21.根据补充20所述的控制方法,还包括:接收指定构成所述视频的多个视频帧中的一个视频帧的输入、并且将指定的所述视频帧记录在所述存储单元中的指定接收步骤,在所述检测步骤中,将所述异常区域从其被检测到的所述视频帧记录在所述存储单元中,以便从通过所述指定接收步骤被记录在所述存储单元中的所述视频帧可辨别。
22.根据补充21所述的控制方法,还包括:判定从多个视频帧被检测到的异常区域是否相同的判定步骤,在所述显示控制步骤中,当第二视频帧被指定为对所述指定接收单元的所述输入时,在被显示在所述第一区域中的第一视频帧中或所述第一视频帧的外围中显示预定显示,所述第二视频帧被判定为包括与从所述第一视频帧被检测到的所述异常区域相同的异常区域。
23.根据补充21所述的控制方法,还包括:判定从多个视频帧被检测到的所述异常区域是否相同的判定步骤,其中在所述显示控制步骤中,当第二视频帧被指定为所述指定接收步骤中的所述输入时,第一视频帧未被显示在所述第一区域中,所述第二视频帧被判定为包括与从所述第一视频帧被检测到的所述异常区域相同的所述异常区域。
24.根据补充14至23中任一项所述的控制方法,还包括:检测由用户对检测到的所述异常区域或所述异常区域的外围的预定动作的第二检测步骤,在所述显示控制步骤中,当对检测到的所述异常区域或所述异常区域的所述外围的所述预定动作被检测到时,在包括检测到的所述异常区域并且被显示在所述第一区域中的所述视频帧中或所述视频帧的外围中显示预定显示。
25.根据补充14至23中任一项所述的控制方法,还包括:检测由用户对检测到的所述异常区域或所述异常区域的外围的预定动作的第二检测步骤,其中在所述显示控制步骤中,当由所述用户对检测到的所述异常区域或所述异常区域的所述外围的所述预定动作被检测到时,包括检测到的所述异常区域的所述视频帧未被显示在所述第一区域中。
26.根据补充24或25所述的控制方法,其中由所述用户的所述预定动作是改变被照射到检测到的所述异常区域或所述异常区域的所述外围的光的颜色或强度的动作、在检测到的所述异常区域或所述异常区域的所述外围中执行染料喷涂或着色的动作、对检测到的所述异常区域或所述异常区域的所述外围施以水或药物的动作或收集检测到的所述异常区域或所述异常区域的所述外围的组织的动作。
27.一种程序,该程序引起计算机执行根据补充14至26中任一项所述的控制方法的每个步骤。
本申请要求基于2017年5月25日提交的日本专利申请no.2017-103348的优先权,其全部公开内容合并于此。