1.本技术涉及电子技术领域,特别涉及一种冰箱。
背景技术:2.随着电子技术的发展,对于家用电器(如冰箱)的使用智能化和便捷性的要求越来越高,目前要求冰箱可以对其中储藏的食材进行管理。
3.相关技术中,冰箱包括储藏室、摄像头和控制器。用户在冰箱的储藏室中存取食材时,该摄像头可以抓取食材的图像,控制器可以对该食材的图像进行识别得到存取的食材的类型。进而,控制器可以确定冰箱中存取的是什么食材,以对冰箱的食材表进行更新。
4.但是,目前通过图像识别的方式确定冰箱中存取的食材的类型,进而对冰箱的食材表进行更新的复杂度较高。
技术实现要素:5.本技术提供了一种冰箱,可以解决确定冰箱中存取的食材的类型的准确性较低的问题。所述技术方案如下:
6.一方面,提供了一种冰箱,所述冰箱包括:
7.机壳,所述机壳包括储藏室,所述储藏室具有开口;
8.门,与所述机壳活动连接,用于遮挡所述开口;
9.标签盒,用于放置电子标签;
10.控制器,被配置为:
11.在所述标签盒中缺失或者新增所述电子标签时,触发所述冰箱的存取录入操作,更新冰箱的食材表。
12.本技术提供的技术方案带来的有益效果至少包括:
13.本技术实施例提供的冰箱中,控制器可以在标签盒中缺失或新增电子标签时,触发冰箱的存取录入操作,更新冰箱的食材表。进而,控制器无需进行复杂的图像识别过程,降低了更新冰箱的食材表的复杂度。
附图说明
14.图1是本技术实施例提供的一种冰箱的结构示意图;
15.图2是本技术实施例提供的一种食材表更新方法的流程图;
16.图3是本技术实施例提供的标签盒的结构示意图;
17.图4是本技术实施例提供的另一种冰箱的结构示意图;
18.图5是本技术实施例提供的一种感知模组的结构示意图;
19.图6是本技术实施例提供的另一种食材表更新方法的流程图。
具体实施方式
20.为使本技术的目的、技术方案和优点更加清楚,下面将结合附图对本技术实施方式作进一步地详细描述。
21.随着电子技术的发展,对于各种家用电器的要求越来越高。目前对于冰箱中食材的智能化管理是已成为冰箱发展的趋势之一,而对存取的食材的食材类型的准确识别是实现其智能化管理的重要前提。目前通常基于视觉识别的方法实现了在冰箱中存取食材时对食材类型进行自动识别,其实现方法多为在用户存取食材的过程中采用摄像设备抓取一帧食材的图像输入识别模型以识别得到食材类型,进而对冰箱的食材表进行更新。但是对图像进行准确识别的复杂度较高,故对冰箱的食材表进行更新的复杂度较高。且目前时常会出现根据某食材的图像无法识别出食材类型的情况,且存在不同食材较为相似,故图像识别的准确率较低,因此,冰箱确定存取的食材的食材类型的效果较差,使得冰箱对食材的智能化管理的效果较差。本技术实施例提供了一种冰箱,可以简化对冰箱的食材表进行更信的复杂度,提高确定存取的食材的食材类型的效果。
22.图1是本技术实施例提供的一种冰箱的结构示意图。如图1所示,该冰箱10可以包括:机壳101、门102、标签盒103和控制器(图1中未示出)。该机壳101包括储藏室,储藏室具有开口k;门102与机壳101活动连接,用于遮挡开口k;标签盒103用于放置电子标签。
23.控制器可以位于机壳101内部的任意位置,被机壳101所包裹;或者控制器也可以位于机壳101外部的任意位置;或者控制器也可以位于门102内部的任意位置,被门包裹;或者控制器也可以位于门102外部的任意位置;或者控制器也可以独立于机壳101与门102,本技术实施例对控制器的设置位置不做限定。
24.控制器可以被配置为在标签盒中缺失或者新增电子标签时,触发冰箱的存取录入操作,更新冰箱的食材表。
25.需要说明的是,冰箱的食材表可以包括储藏室中储藏的食材,如包括储藏中储藏的食材的类型。本技术实施例中用户在向储藏室中存入储藏室的食材时可以从标签盒中取出电子标签,将该电子标签设置在待存入的食材上,之后再将该食材存入冰箱的储藏室。用户在从储藏室中取出食材时可以将食材上的电子标签取下,并放入标签盒中。如此一来,控制器便可以在标签盒中缺失目标电子标签时,确定用户向储藏室中存入了食材;在标签盒中新增目标电子标签时,确定用户从储藏室中取出了食材;进而控制器可以对冰箱的食材表进行更新。
26.综上所述,本技术实施例提供的冰箱中,控制器可以在标签盒中缺失或新增电子标签时,触发冰箱的存取录入操作,更新冰箱的食材表。进而,控制器无需进行复杂的图像识别过程,降低了更新冰箱的食材表的复杂度。
27.可选地,控制器可以执行如图2所示的食材表更新方法,以更新冰箱的食材表。如图2所示,该方法可以包括:
28.步骤201、在标签盒中缺失电子标签时,确定存入储藏室的食材。
29.步骤202、在食材表中增加存入储藏室的食材。
30.步骤203、在标签盒中新增电子标签时,确定从储藏室中取出的食材包括:该电子标签对应的食材。
31.步骤204、从食材表中删除从储藏室中取出的食材。
32.本技术实施例中,控制器可以通过电子标签对应的食材确定从储藏室中存取的食材。由于基于电子标签可以准确地获知电子标签所对应的食材,因此通过电子标签可以准确地确定存取的食材。
33.需要说明的是,图1以标签盒安装在门102靠近开口k的表面上为例进行示意,可选地,标签盒也可以安装在门102远离开口k的表面上。或者,标签盒也可以位于机壳101或者门102上的任意其他位置,本技术实施例对此不做限定。
34.图3是本技术实施例提供的一种标签盒的结构示意图。如图3所示,标签盒103可以包括盒体1031与盒盖1032,盒体1031可以用于放置标签夹j,每个标签夹j上可以贴附有电子标签q。图3以标签夹j呈长方体,且电子标签q贴附于标签夹j的底部为例。可选地,标签夹j也可以呈正方体、夹子状或其他形状,电子标签q也可以贴附于标签夹的其他位置,本技术实施例对此不作限定。
35.可选地,冰箱还可以包括天线x,该天线x可以与控制器有线连接。天线x可以位于标签盒103上,如天线x可以位于标签盒的盒体1031的侧壁或底部,或者天线x也可以位于盒盖1032上。示例地,如图3所示,可以直接将标签盒的盒体1031的底部作为天线x。控制器能够通过天线x发射射频信号,且发出的射频信号能够覆盖天线周围一定的范围。电子标签在处于该范围中时,可以接收到该射频信号,并凭借在该射频信号的激发下获得的能量向天线发送存储在电子标签中的信息,如该信息为电子标签的标识;进而,控制器能够通过天线接收到电子标签发送的信息。当标签盒中电子标签位于标签夹的底部,且标签盒的底部作为天线时,电子标签与天线的距离较近,保证了电子标签接收射频信号的稳定性,且保证了天线接收电子标签发送的信息的稳定性。
36.可选地,标签盒采用能够屏蔽射频信号的材质制成,如标签盒的材质可以包括金属。此时,天线发射的射频信号仅可覆盖标签盒中的空间,进而仅有标签盒中的电子标签可以接收到天线发送的射频信号,并向天线发送该电子标签的标识;控制器可以仅检测到标签盒中的电子标签。可选地,控制器也可以通过调整射频信号的发射功率,以使射频信号仅覆盖标签盒中的空间,此时标签盒可以由任意材质制成。
37.需要说明的是,本技术实施例中当标签盒安装在门靠近开口的表面上时,该安装方式不影响冰箱外部结构,保证了冰箱外观的美观性。当标签盒安装在门远离开口的表面上时,由于门的遮挡使得储藏室中的电子标签无法接收到控制器通过天线发射的射频信号,进一步保证控制器可以仅检测标签盒中的电子标签。可选地,当标签盒安装在门远离开口的表面上时,标签盒无需盒盖来屏蔽射频信号,故标签盒也可以不包括盒盖。
38.需要说明的是,本技术实施例中以控制器直接与天线连接,以通过天线发射射频信号且通过天线接收电子标签发送的信息为例。可选地,冰箱还可以包括阅读器,该阅读器可以与天线连接,该阅读器用于通过天线发射射频信号,且通过天线接收电子标签发送的信息。该阅读器可以与控制器通信连接,在接受到电子标签发送的信息后再将该信息发送至控制器。
39.本技术实施例提供的冰箱还可以包括摄像设备、存储器、门开关检测器、显示屏、扬声器以及麦克风等多个结构,且该多个结构均可以与控制器通信连接。其中,扬声器与显示屏中的至少一个可以作为信息输出组件,以输出用于与用户进行交互的信息;麦克风与显示屏中的至少一个可以作为信息输入组件,以接收用户与冰箱交互的信息。当信息输出
组件包括扬声器时,信息输出组件输出的信息为扬声器播放的语音信息;当信息输出组件包括显示屏时,信息输出组件输出的信息为显示屏显示的信息(如文字或图像信息)。当信息输入组件包括麦克风时,信息输入组件输入的信息为麦克风采集的语音信息;当信息输入组件包括显示屏时,信息输入组件输入的信息为用户在显示屏上操作以触发显示屏显示的信息(如文字或图像信息)。
40.可选地,摄像设备可以用于采集冰箱的开口处的图像,如获取该开口处的包括手部区域的图像。本技术实施例中,摄像设备的视野范围至少需要覆盖储藏室的开口,由于用户在冰箱中存取食材时食材必然需要经过该开口处,因此能够保证摄像设备可以采集到用户存取食材的过程中的图像。可选地,摄像设备可以在冰箱的门处于打开状态时采集图像,在冰箱的门处于关闭状态时停止采集图像。如图1所示,该摄像设备104可以位于机壳101的顶部。可选地,该摄像设备104也可以位于其他位置,如门102的顶部,或者储藏室的顶部,本技术实施例对此不做限定。需要说明的是,本技术实施例中所述的某结构的“顶部”也即是冰箱放置在地面上正常使用时,该结构远离地面的一端。
41.可选地,存储器可以设置在机壳或者门中,也可以独立于机壳和门。存储器可以用于存储摄像设备采集的图像,控制器对食材图像进行识别得到的识别结果,以及其他需要存储的信息。可选地,门开关检测器可以用于检测门处于打开状态或者关闭状态。示例地,门开关检测器可以设置至外壳中能够与门接触的位置,当该门开关检测器未与门接触时确定门处于打开状态,当门开关检测器接触门时确定门处于关闭状态。可选地,显示屏可以设置在冰箱的门远离机壳的表面。控制器可以控制显示屏显示对食材图像的识别结果或者其他信息,此时显示屏作为信息输出组件。该显示屏还可以为触控显示屏,此时用户可以通过该触控显示屏与冰箱进行交互,如用户可以在该触控显示屏上进行触控以触发控制器生成相应的指令,并执行该生成的指令,此时显示屏作为信息输入组件。
42.可选地,扬声器和麦克风可以设置在机壳上也可以设置在门上。示例地,扬声器和麦克风可以与摄像设备设置在同一位置。如扬声器、麦克风与摄像设备可以共同构成感知模组,该感知模组设置在机壳的顶部。控制器可以控制扬声器发出语音信息,以提示用户进行相应的操作。控制器可以控制麦克风采集冰箱所在的环境中的声音信息,以便于生成相应的指令。
43.示例地,图4是本技术实施例提供的另一种冰箱的结构示意图,且图4所示的冰箱可以为冰箱的左视图,图4示出的冰箱中的门102处于关闭状态。如图4所示,该冰箱10还包括位于机壳101的顶部的驱动部件105与感知模组100,感知模组100可以与驱动部件105连接。该驱动部件105也与控制器通信连接。图5是本技术实施例提供的一种感知模组的结构示意图,且图5为该感知模组100的仰视图。如图5所示,该感知模组100包括:摄像设备104、麦克风106与扬声器107,摄像设备104包括深度相机1041和彩色相机1042。如图4所示,摄像设备104的视野范围为以摄像设备104为顶点的圆锥形区域(图4中两条虚线之间的区域)。如图5所示,麦克风106可以为线性4麦阵列,扬声器107位于感知模组的侧面,如此可以增加麦克风106与扬声器107之间的距离。
44.可选地,控制器可以根据门102所处的状态(打开状态或者关闭状态)或者用户发出的语音指令,控制驱动部件105移动感知模组100。示例地,当控制器确定门102处于打开状态时,可以控制驱动部件105将感知模组100向靠近门102的方向推出,并在将感知模组推
出到预定位置时,控制驱动部件105停止推出动作。接着触发感知模组100中的摄像设备104工作。当控制器确定门102处于关闭状态时,可以控制摄像设备104停止工作,且控制驱动部件105将感知模组100向远离门102的方向收回,在将感知模组收回到原位置时,控制驱动部件105停止收回动作。
45.可选地,本技术实施例中摄像设备可以包括深度相机和彩色相机中的至少一种。彩色相机可以是普通彩色相机,也可以是广角彩色相机;深度相机可以是双目相机,也可以是结构光相机,还可以是基于飞行时间(英文:time of fly,tof)的相机。深度相机采集的图像可以为深度图像(depth image),也称为距离影像(range image),彩色相机采集的图像可以彩色图像。其中深度图像中像素点的像素值为深度相机的视野范围覆盖的场景中,该像素点对应的点到深度相机的距离(也称为深度),彩色图像中像素点的像素值为灰度值。可选地,深度相机和彩色相机采集图像的频率可以相同,深度图像的采集时刻与彩色图像的采集时刻的最小时间间隔可以小于时长阈值。深度相机采集的多帧深度图像与彩色相机采集的多帧彩色图像可以一一对应,每帧深度图像对应的彩色图像为该多帧彩色图像中与该帧深度图像的采集时刻相距最近的采集时刻采集的彩色图像。进而,可以保证对应的深度图像与彩色图像所表示的场景差异较小。示例地,深度相机和彩色相机可以每次均在相同的时刻采集图像。
46.麦克风的拾音方式可根据拾音距离选择,可以是近场拾音,也可以选择为远场拾音。在近场拾音中麦克风一般能够采集到三米以内的声音信息,在远场拾音中麦克风一般能够采集到三米到五米的范围内的声音信息。在近场拾音时麦克风可以包括原生录音模组,也可以包括单麦回消模组。在远场拾音时麦克风可以包括近场拾音时包括的模组,还可以包括多麦模组如线性四麦模组一级环形六麦模组等。
47.控制器可以包括中央处理器(central processing unit,cpu),图形处理器(graphics processing unit,gpu)或者cpu和gpu的组合。处理器还可以进一步包括硬件芯片。上述硬件芯片可以是专用集成电路(application-specific integrated circuit,asic),可编程逻辑器件(programmable logic device,pld)或其组合。上述pld可以是复杂可编程逻辑器件(complex programmable logic device,cpld),现场可编程逻辑门阵列(field-programmable gate array,fpga),通用阵列逻辑(generic array logic,gal)或其任意组合。
48.存储器通过总线或其它方式与控制器相连,存储器中存储有至少一条指令、至少一段程序、代码集或指令集,上述至少一条指令、至少一段程序、代码集或指令集由控制器加载并执行,以实现本技术实施例提供的食材表更新方法。存储器可以为易失性存储器(英文:volatile memory),非易失性存储器(non-volatile memory)或者它们的组合。易失性存储器可以为随机存取存储器(random-access memory,ram),例如静态随机存取存储器(static random access memory,sram),动态随机存取存储器(dynamic random access memory,dram)。非易失性存储器可以为只读存储器(read only memory image,rom),例如可编程只读存储器(programmable read only memory,prom),可擦除可编程只读存储器(erasable programmable read only memory,eprom),电可擦除可编程只读存储器(electrically erasable programmable read-only memory,eeprom)。非易失性存储器也可以为快闪存储器(英文:flash memory),磁存储器,例如磁带(英文:magnetic tape),软
盘(英文:floppy disk),硬盘。非易失性存储器也可以为光盘。
49.图6是本技术实施例提供的另一种食材表更新方法的流程图,该方法可以用于控制器。如图6所示,该方法可以包括:
50.步骤601、生成标签检测指令。执行步骤602。
51.可选地,控制器可以在检测到用户对冰箱进行的第一触发操作时,生成标签检测指令。
52.示例地,该第一触发操作可以为用户将冰箱的门打开的操作。如控制器可以获取门开关检测器检测的门的状态,进而在确定门的状态由关闭状态变为打开状态时,生成标签检测指令。又示例地,该第一触发操作可以为用户说出触发语音。如控制器可以通过麦克风获取第一触发语音,在确定该第一触发语音携带指示控制器进行标签检测的信息时,生成标签检测指令。或者控制器也可以在用户对冰箱进行的其他动作的触发下生成标签检测指令。
53.步骤602、响应于标签检测指令,触发天线发射射频信号。执行步骤603。
54.控制器在生成标签检测指令后,便可以根据该标签检测指令触发天线发射射频信号。该射频信号覆盖的空间中的电子标签可以接收到该射频信号,如标签盒中放置的电子标签可以接收到该射频信号。可选地,本技术实施例中控制器触发天线发射的射频信号由于标签盒的遮挡,可以仅覆盖标签盒内部的空间,进而标签盒中的电子标签可以接收到天线发射的射频信号。
55.步骤603、触发天线接收标签盒中的电子标签发送的电子标签的标识。执行步骤604。
56.标签盒中的每个电子标签均可以在接收到射频信号时向天线发送该每个电子标签的标识,控制器在生成标签检测指令后,还可以触发天线接收标签盒中的电子标签的标识。需要说明的是,关于电子标签发送其标识的介绍可以参考图3中的相关介绍,本技术实施例不再赘述。
57.步骤604、根据标签盒中的电子标签的标识,确定标签盒中放置的电子标签的第一电子标签集合。执行步骤605。
58.控制器在触发天线接收标签盒中的电子标签的标识后,可以获取该天线接收的标签盒中的电子标签的标识。控制器根据获取到的每一个电子标签的标识时,均可以确定该电子标签的标识所指示的电子标签为标签盒中放置的一个电子标签。进而,控制器根据接收到的所有电子标签的标识,确定标签盒中放置的所有电子标签,该所有电子标签可以构成第一电子标签集合。
59.可选地,电子标签在接收到射频信号后,可以连续多次向天线发送该电子标签的标识。控制器可以在接收到某个电子标签的标识的次数大于次数阈值后,再确定标签盒中放置有该电子标签的标识指示的电子标签,进而将该电子标签的标识指示的电子标签确定为第一电子标签集合中的一个电子标签。
60.该第一电子标签集合表示当前时刻标签盒中放置的电子标签的集合。可选地,当控制器生成标签检测指令后,控制器可以从天线持续获取电子标签发送的电子标签的标识,直至控制器响应于停止检测指令停止获取电子标签发送的电子标签的标识。在控制器获取电子标签的标识的过程中,控制器可以持续更新第一电子标签集合。
61.示例地,该检测停止指令可以由控制器在检测到用户对冰箱的第二触发操作时生成。例如,该第二触发操作可以为用户将冰箱的门关闭的操作。如控制器当确定门开关检测器检测的门的状态由打开状态变为关闭状态时,生成停止检测指令。又例如,该第二触发操作可以为用户说出第二触发语音。如控制器确定通过麦克风获取的第二触发语音携带指示控制器停止进行标签检测的信息时,生成停止检测指令。或者控制器也可以在用户对冰箱进行的其他动作的触发下生成停止标签指令。
62.可选地,在控制器停止获取电子标签的标识后,控制器可以将此时确定的最新的第一电子标签集合存储至冰箱的存储器中。
63.步骤605、获取第二电子标签集合。执行步骤606。
64.其中,第二电子标签集合表示当前时刻之前标签盒中放置的电子标签的集合。该第二电子标签集合可以存储在冰箱的存储器中,控制器可以在冰箱的存储器中获取该第二电子标签集合。
65.可选地,第二电子标签集合可以为控制器上一次生成标签检测指令后,根据获取的电子标签的标识确定的标签盒中放置的电子标签的集合。如该第二电子标签集合可以为用户上一次打开冰箱门进行食材存取时标签盒中放置的电子标签的集合。需要说明的是,第二电子标签集合的确定方法与第一电子标签集合的确定方法相同,第二电子标签集合的存储方式与第一电子标签集合的存储方式相同,请参考步骤601至步骤604的相关介绍,本技术实施例不再赘述。
66.步骤606、确定第一电子标签集合在第二电子标签集合中的第一相对补集,以及第二电子标签集合在第一电子标签集合中的第二相对补集。在第一相对补集为非空集合时,执行步骤607;在第二相对补集为非空集合时,执行步骤608。
67.当控制器确定第一电子标签集合与第二电子标签集合后,便可以根据该第一电子标签集合在第二电子标签集合中的第一相对补集,以及第二电子标签集合在第一电子标签集合中的第二相对补集。
68.该第一相对补集中的电子标签属于第二电子标签集合但不属于第一电子标签集合,该第二相对补集中的电子标签属于第一电子标签集合但不属于第二电子标签集合。示例地,第一电子标签集合包括电子标签a,b和c,第二电子标签集合包括电子标签a,b和d。第一电子标签集合在第二电子标签集合中的第一相对补集包括电子标签d,第二电子标签集合在第一电子标签集合中的第二相对补集包括电子标签c。
69.步骤607、在第一相对补集中确定标签盒中缺失的第一电子标签。执行步骤609。
70.当第一相对补集为非空集合时,说明第一相对补集中的电子标签在当前时刻之前放置在标签盒,在当前时刻之后并未继续放置在标签盒中,因此,控制器可以确定第一相对补集中的电子标签为标签盒中缺失的电子标签。需要说明的是,为了便于描述本技术实施例中将标签盒中缺失的电子标签称为第一电子标签,第一电子标签为标签盒中缺失的所有电子标签中的任一电子标签。图2中所述的缺失的电子标签可以为一个第一电子标签。
71.示例地,第一相对补集包括电子标签d,控制器可以确定标签盒中缺失了电子标签d,且确定用户将从标签盒中取出电子标签d置于(如贴附于或夹于)要存入储藏室中的食材上,进而确定储藏室中存入了食材。
72.步骤608、在第二相对补集中确定标签盒中新增的第二电子标签。执行步骤611。
73.当第二相对补集为非空集合时,说明第二相对补集中的电子标签在当前时刻之前并未放置在标签盒,而在当前时刻之后放置在标签盒中,因此,控制器可以确定第二相对补集中的电子标签为标签盒中新增的电子标签。需要说明的是,为了便于描述本技术实施例中将标签盒中新增的电子标签称为第二电子标签,第二电子标签为标签盒中新增的所有电子标签中的任一电子标签。图2中所述的新增的电子标签可以为一个第二电子标签。
74.示例地,第二相对补集包括电子标签c,控制器可以确定标签盒中新增了电子标签c,用户从储藏室中取出携带有电子标签c的食材,且将该食材上的电子标签c从食材上取下放置在标签盒中。
75.需要说明的是,当第一相对补集与第二相对补集均为非空集时,控制器可以确定用户既从储藏室中取出了食材,又向储藏室中存入了食材。第一相对补集与第二相对补集中的任一个集合均可能为空集。当第一相对补集为空集时,第二相对补集为非空集时,控制器可以确定用户仅从储藏室中取出了食材。当第一相对补集为非空集时,第二相对补集为空集时,控制器可以确定用户仅在储藏室中存入了食材。
76.可选地,控制器还可以在确定门打开时控制扬声器播放提示用户将电子标签置于存入储藏室的食材上,以及将从储藏室取出的食材上的电子标签放置于标签盒中的提示语音。
77.步骤609、确定存入储藏室的食材。执行步骤610。
78.可选地,本技术实施例中所述的确定某食材可以表示确定该食材的类型。需要说明的是,控制器可以通过多种可选实现方式确定存入储藏室的食材,本技术实施例中以其中的三种可选实现方式为例进行解释说明。
79.第一种可选实现方式中,控制器可以通过用户的输入确定用户存入储藏室的食材,如此可以保证确定的存入储藏室的食材的准确性。示例地,控制器在确定标签盒中缺失的第一电子标签后,可以控制冰箱的信息输出组件输出提示输入存入储藏室的食材的类型的第一提示信息。进而控制器可以通过信息输入组件获取第一信息提示信息的第一响应信息,并基于该第一响应信息,确定存入储藏室的食材。可选地,与控制器通信连接的终端也可以作为冰箱的信息输入组件和信息输出组件。如用户可以通过说出语音(也即是麦克风采集用户说出的语音)的方式、在冰箱的触控显示屏上输入的方式或者在与控制器通信连接的终端上输入的方式输入该食材的类型。
80.可选地,本技术实施例中可以仅通过一个信息输出组件输出第一提示信息,如可以仅通过扬声器播放第一提示语音,或者仅通过显示屏显示第一提示信息,或者仅通过与控制器通信连接的终端展示第一提示信息。该第一提示语音也即是语音形式的第一提示信息。可选地,也可以通过多个信息输出组件同时输出第一提示信息,以提高第一提示信息被用户获知的概率。如可以同时通过扬声器播放第一提示语音,且通过显示屏显示第一提示信息;或者也可以同时通过扬声器播放第一提示语音,通过显示屏显示第一提示信息,且通过与控制器通信连接的终端展示第一提示信息。
81.当用户获知第一提示信息时,可以任选一种信息输入方式输入第一响应信息。如用户可以说出存入储藏室的食材的类型,以使得麦克风采集到第一响应语音,进而控制器可以解析该第一响应语音得到存入储藏室的食材的类型。该第一响应语音也即是语音形式的第一响应信息。或者,用户也可以在触控显示屏上进行触摸,以输入包括存入的食材的类
型的第一响应信息,进而控制器可以直接根据该第一响应信息确定存入储藏室的食材的类型。
82.示例地,控制器在确定标签盒中缺失的第一电子标签后,可以控制扬声器播放提示输入存入储藏室的食材的类型的第一提示语音。麦克风可以采集在扬声器播放第一提示语音后的第一时长内的第一响应语音,控制器可以获取该第一响应语音,并基于第一响应语音确定存入储藏室的食材的类型。需要说明的是,麦克风可以持续性地采集语音,进而控制器可以随时获取麦克风采集的语音,或者控制器也可以在需要获取语音时再控制麦克风采集语音,本技术实施例对此不作限定。
83.例如,该第一提示语音可以为“您存入的是什么食材”。该第一时长可以为10秒、20秒或者其他时长。该第一响应语音可以指示存入储藏室的食材的类型。当用户听到扬声器播放的第一提示语音时,用户可以说出第一响应语音,例如该第一响应语音为“苹果”。控制器可以对麦克风采集的第一响应语音进行信息提取,以确定该第一响应语音指示的食材的类型,进而将该食材的类型确定为存入储藏室的食材的类型。需要说明的是,本技术实施例中的第一提示语音与第一响应语音的内容仅为示例性描述,实际应用中的该内容可以任意更改,本技术实施例对此不做限定。
84.第二种可选实现方式中,控制器可以通过图像识别的方式确定存入储藏室的食材的类型。
85.示例地,控制器在确定标签盒中缺失的第一电子标签后,可以获取摄像设备采集的开口处的包括手部区域的图像,对该包括手部区域的图像进行食材类型识别得到存入储藏室的食材的类型。需要说明的是,由于用户在存取食材的过程中均需通过手部拿取食材,而手部的特征较为明显,故根据包括手部区域的图像能够较为简单地确定包含食材的图像,如也可以直接用包括手部区域的图像表示包含食材的图像。
86.可选地,当控制器通过门开关检测器检测到门处于打开状态时,控制器可以控制驱动部件将感知模组推出,接着控制摄像设备开始采集图像。控制器可以控制摄像设备每秒连续采集特定数量的图像。在控制器确定门从打开状态变为关闭状态时,控制器可以控制摄像设备停止采集图像。如此,门从关闭状态变为打开状态再变为关闭状态的过程中,摄像设备可以完成一个采集周期的图像采集。本技术实施例中摄像设备包括深度相机和彩色相机,该深度相机和彩色相机可以同时采集图像,故摄像设备在同一采集时刻采集的图像包括深度图像及其对应的彩色图像。摄像设备在一个采集周期中采集的储藏室开口处的图像包括:一组深度图像以及与该一组深度图像中的各帧深度图像一一对应的一组彩色图像,该一组深度图像包括多帧深度图像。需要说明的是,本技术实施例中摄像设备在控制器的控制下采集图像为例进行解释说明。可选地,摄像设备无需控制器的控制也可以进行图像采集,本技术实施例对此不做限定。
87.控制器可以在摄像设备采集的一组深度图像中确定包括手部区域的多帧目标图像。如控制器可以在摄像设备每采集到一帧深度图像后便获取该帧深度图像,进而对该帧深度图像进行手部检测,以确定该帧深度图像是否为包括手部区域的目标图像。控制器可以在每确定一帧目标图像后直接将该目标图像输入识别模型,得到识别模型输出的该帧目标图像的识别结果。该识别模型可以用于基于输入的目标图像输出食材类型以及该食材类型的置信度。控制器可以将得到的多帧目标图像的识别结果中最大的置信度对应的食材类
型,确定为存入储藏室的食材的类型。
88.可选地,控制器在步骤601生成标签检测指令后,还可以响应于标签检测指令控制摄像设备采集图像,进而执行该第二种可选实现方式中确定存入储藏室的食材的类型的过程。控制器通过图像识别的方式确定存入储藏室的食材的类型的过程可以与检测标签盒中的电子标签的过程并行执行。
89.第三种可选实现方式中,控制器可以在标签信息库中查询是否存在第一电子标签对应的历史食材,进而在标签信息库包括第一电子标签对应的历史食材时,将该第一电子标签对应的历史食材确定为存入储藏室的食材。该标签信息库包括:在标签盒中缺失第一电子标签之前,标签盒中的缺失电子标签对应的历史食材。可选地,该标签信息库还可以包括标签盒中放置的电子标签对应的历史食材。示例地,该第一电子标签对应的历史食材可以为:用户上一次从标签盒中取出第一电子标签置于的存入储藏室的食材。
90.可选地,本技术实施例中电子标签可以用该电子标签的标识来表示,食材可以用该食材的类型来表示。标签信息库中可以存储电子标签的标识及对应的历史食材类型。控制器可以在获取到第一电子标签的标识后,确定该标签信息库中是否存在该第一电子标签的标识对应的历史食材类型,以确定第一电子标签对应的历史食材。可选地,标签信息库中每个电子标签的标识对应的历史食材类型可以为:该电子标签最近一次置于的存入储藏室的食材的类型。
91.需要说明的是,控制器可以在上述三种可选实现方式中任选一种确定存入储藏室的食材。可选地,控制器也可以按照该三种可选实现方式的优先级,选择确定存入储藏室的食材时采用的方式。在采用优先级高的可选实现方式无法确存入储藏室的食材时,再采用优先级次之的可选实现方式。
92.示例地,上述第一种可选实现方式的优先级可以大于第二种可选实现方式和第三种可选实现方式的优先级。故控制器可以在采用第一种可选实现方式未确定出存入储藏室的食材时,采用第二种可选实现方式确定存入储藏室的食材,也即将对包括手部区域的图像进行食材类型识别得到的食材类型,确定为存入储藏室的食材。或者,在采用第一种可选实现方式未确定出存入储藏室的食材时,采用第三种可选实现方式确定存入储藏室的食材,也即确定标签信息库是否包括第一电子标签对应的历史食材类型;且在标签信息库包括第一电子标签对应的历史食材时,将该历史食材确定为存入储藏室的食材。需要说明的是,采用第一种可选实现方式未确定出存入储藏室的食材,可能由于用户未配合输入存入储藏室的食材的类型,也可能由于控制器未成功解析第一响应信息得到食材类型。可选地,上述第一种可选实现方式、第二种可选实现方式和第三种可选实现方式的优先级可以依次递减,或者上述第一种可选实现方式、第三种可选实现方式和第二种可选实现方式的优先级可以依次递减。
93.需要说明的是,本技术实施例中标签信息库用于至少存储当前时刻之前,标签盒中的缺失电子标签所置于的存入储藏室的食材的类型。当控制器确定标签盒中的第一电子标签缺失后,第一电子标签也即是当前时刻之前标签盒中的缺失电子标签,故控制器可以将第一电子标签所置于的存入储藏室的食材的类型,确定为第一电子标签的标识对应的历史食材类型,进而将该第一电子标签的标识对应的历史食材类型存储至标签信息库中。如此也即是触发了冰箱的标签信息录入操作,录入了第一电子标签的信息,实现了对标签信
息库的更新。可选地,对于同一电子标签,标签信息库中也仅存储有该电子标签的标识对应的一个食材类型。
94.示例地,控制器可以确定标签信息库是否包括第一电子标签的标识对应的历史食材类型。若标签信息库包括第一电子标签的标识对应的历史食材类型,则控制器可以用将第一电子标签的标识对应的历史食材类型,更新为在确定第一电子标签缺失时存入储藏室的食材的类型。若标签信息库不包括第一电子标签的标识对应的历史食材类型,则控制器可以直接将在确定第一电子标签缺失时存入储藏室的食材的类型,确定为第一电子标签的标识对应的食材类型存储至标签信息库。
95.需要说明的是,本技术上述实施例中均以第一电子标签对应的食材可以根据用户存入储藏室的食材而变化为例。可选地,标签盒中也可以放置对应固定类型的食材的电子标签,该电子标签对应的食材无法发生更改,该电子标签对应的食材的类型也可以存储在食材标签库中。可选地,对应固定类型的食材的电子标签上或者该电子标签所贴附的标签夹上可以携带有该电子标签对应的食材的指示信息。如某电子标签对应固定类型的食材“苹果”,则该电子标签所在的标签夹上可以贴附有苹果的图案。
96.当标签盒中放置有对应固定类型的食材的电子标签时,控制器在确定第一电子标签后可以先确定该第一电子标签是否为对应固定类型的食材的电子标签。若第一电子标签为对应固定类型的食材的电子标签,则控制器可以直接确定该第一电子标签对应的食材,进而将该第一电子标签对应的食材确定为存入储藏室的食材。若第一电子标签不为对应固定类型的食材的电子标签,则控制器可以在按照上述三种可选实现方式确定存入储藏室的食材。
97.步骤610、在食材表中增加存入储藏室的食材。
98.控制器在确定存入储藏室的食材后,便可以确定储藏室中新增了该食材,进而可以更新冰箱的食材表,在该食材表中增加存入储藏室的食材。
99.可选地,本技术实施例中冰箱的食材表还可以包括储藏室中储藏的食材的储藏位置与保质时长中的至少一种信息。此时,控制器还可以获取存入储藏室的食材的该至少一种信息,进而可以将获取该至少一种信息也存入储藏室的食材表。以下对存入储藏室的食材的储藏位置和保质时长的获取方式进行介绍。
100.对于存入储藏室的食材的储藏位置,控制器可以通过用户输入的方式进行获取。示例地,控制器在确定标签盒中缺失的第一电子标签后,可以触发冰箱的信息输出组件输出提示输入存入储藏室的食材的储藏位置的第二提示信息。进而控制器可以通过信息输入组件获取第二提示信息的第二响应信息,并基于该第二响应信息,确定存入储藏室的食材的储藏位置。如用户可以通过说出语音的方式,在冰箱的触控显示屏上输入的方式,或者在与控制器通信连接的终端上输入的方式输入该储藏位置。需要说明的是,控制器通过用户输入的方式获取存入储藏室的食材的储藏位置,可以参考上述通过用户输入的方式确定存入储藏室的食材的相关介绍,也即是上述步骤609中第一种可选实现方式中的相关介绍,本技术实施例不再赘述。
101.示例地,控制器在确定标签盒中缺失的第一电子标签后,可以控制扬声器播放提示输入存入储藏室的食材的储藏位置的第二提示语音。该第二提示语音也即是语音形式的第二提示信息。麦克风可以采集在扬声器播放第二提示语音后的第二时长内的第二响应语
音。控制器可以获取该第二响应语音,并基于第二响应语音确定存入储藏室的食材的储藏位置。该第二响应语音也即是语音形式的第二响应信息。如此也即是用户通过说出语音的方式输入食材的储藏位置。
102.可选地,控制器也可以通过图像识别的方式确定存入储藏室的食材的储藏位置。示例地,控制器在确定标签盒中缺失的第一电子标签后,可以获取摄像设备采集的开口处的包括手部区域的多帧图像。控制器可以根据该多帧图像确定手部的移动轨迹,进而根据该移动轨迹确定存入储藏室的食材的储藏位置。
103.控制器获取该多帧图像的过程可以参考步骤609中第二种可选实现方式中的相关介绍,本技术实施例不再赘述。该多帧图像也即是步骤609中所述的多帧目标图像。控制器在确定包括手部区域的每帧目标图像后,还可以确定每帧目标图像中手部区域的质心位置,进而通过对质心位置的跟踪确定手部的移动轨迹,如控制器可以对图像中手部区域的像素点进行聚类以确定手部的质心位置。控制器还可以根据相邻两帧目标图像确定手部的一个轨迹向量,进而根据该多帧目标图像得到多个轨迹向量。控制器可以根据该多个轨迹向量组合得到的轨迹向量,确定手部的一个连续的移动轨迹。储藏室可以包括多个储物区,控制器可以确定该多个储物区中该移动轨迹经过的目标储物区,如此,控制器可以确定用户在目标储物区存入储藏室的食材,进而确定存入储藏室的食材的储藏位置为该目标储物区。
104.需要说明的是,控制器可以任选用户输入以及图像识别中的一种方式确定存入储藏室的食材的储藏位置,也可以在通过用户输入的方式未确定出存入储藏室的食材的储藏位置时,再采用图像识别的方式确定存入储藏室的食材的储藏位置。
105.对于存入储藏室的食材的保质时长,控制器可以通过用户输入的方式进行获取。示例地,控制器在确定标签盒中缺失的第一电子标签后,可以控制冰箱的信息输出组件输出提示输入存入储藏室的食材的保质时长的第五提示信息。进而控制器可以通过信息输入组件获取第五提示信息的第五响应信息,并基于该第五响应信息,确定存入储藏室的食材的保质时长。如用户可以通过说出语音的方式,在冰箱的触控显示屏上输入的方式,或者在与控制器通信连接的终端上输入的方式输入该保质时长。需要说明的是,控制器通过用户输入的方式获取存入储藏室的食材的储藏位置,可以参考上述通过用户输入的方式确定存入储藏室的食材的相关介绍,也即是上述步骤609中第一种可选实现方式中的相关介绍,本技术实施例不再赘述。
106.示例地,控制器在确定标签盒中缺失的第一电子标签后,可以控制扬声器播放提示输入存入储藏室的食材的保质时长的第五提示语音。该第五提示语音也即是语音形式的第五提示信息。麦克风可以采集在扬声器播放第五提示语音后的第五时长内的第五响应语音。控制器可以获取该第五响应语音,并基于第五响应语音确定存入储藏室的食材的保质时长。该第五响应语音也即是语音形式的第五响应信息。如此也即是用户通过说出语音的方式输入食材的保质时长。
107.可选地,控制器也可以通过数据库查询的方式确定存入储藏室的食材的保质时长。示例地,控制器在确定标签盒中缺失的第一电子标签后,在食材数据库中查找存入储藏室的食材的保质时长,该食材数据库可以包括多种食材的保质时长。进而控制器可以确定存入储藏室的食材的保质时长。可选地,该食材数据库中食材的保质时长可以为经验值。
108.需要说明的是,控制器可以任选用户输入以及数据库查询中的一种方式确定存入储藏室的食材的保质时长,也可以在通过用户输入的方式未确定出存入储藏室的食材的保质时长时,再采用数据库查询的方式确定存入储藏室的食材的保质时长。
109.可选地,当冰箱的食材表中还包括食材的其他信息时,控制器还可以获取该其他信息,本技术实施例不作限定。如该其他信息可以包括食材的体积,食材的体积的获取方式可以参考保质时长的获取方式,本技术实施例不再赘述。
110.可选地,本技术实施例中控制器可以通过一条提示信息提示输入存入储藏室的食材及其储藏位置以及保质时长,此时,第一提示信息、第二提示信息和第五提示信息可以为一条提示信息中的部分信息。用户可以在获取到该完整的提示信息后,说出包含存入储藏室的食材及其储藏位置以及保质时长的响应语音。麦克风可以采集用户说出的该响应语音,控制器可以对该响应语音进行解析,以一次性得到存入储藏室的食材及其储藏位置以及保质时长。此时,第一响应信息、第二响应信息和第五响应信息可以为一条响应信息中的部分信息。
111.步骤611、确定从储藏室取出的食材。执行步骤612。
112.控制器在步骤608中确定标签盒中新增的第二电子标签后,便可以确定用户从储藏室取出了食材,进而控制器可以确定用户从储藏室取出了什么食材。示例地,控制器可以查询标签信息库以确定第二电子标签对应的历史食材,进而将第二电子标签对应的历史食材确定为从储藏室取出的食材。
113.需要说明的是,在标签盒中新增该第二电子标签之前,该第二电子标签为标签盒中的缺失电子标签,而标签信息库用于存储当前时刻之前标签盒中的缺失电子标签对应的历史食材,故该第二电子标签对应的历史食材可以存储在标签信息库。故在确定标签盒中新增了第二电子标签后,控制器可以从标签信息库中查询该第二电子标签对应的历史食材。关于标签信息库可以参考步骤609中对标签信息库的相关介绍,本技术实施例在此不做赘述。
114.可选地,控制器也可以通过用户的输入确定用户从储藏室取出的食材。示例地,控制器在确定标签盒中新增的第二电子标签后,可以控制冰箱的信息输出组件输出输入从储藏室取出的食材的类型的第四提示信息。进而控制器可以通过信息输入组件获取第四提示信息的第四响应信息,并基于该第四响应信息,确定从储藏室取出的食材。需要说明的是,控制器通过用户输入的方式确定从储藏室取出的食材,可以参考上述通过用户输入的方式确定存入储藏室的食材的相关介绍,也即是上述步骤609中第一种可选实现方式中的相关介绍,本技术实施例不再赘述。
115.可选地,控制器也可以通过图像识别的方式确定从储藏室取出的食材。通过图像识别的方式确定从储藏室取出的食材的方式,可以参考上述通过图像识别的方式确定存入储藏室的食材的相关介绍,也即是上述步骤609中第二种可选实现方式中的相关介绍,本技术实施例不再赘述。
116.可选地,本技术实施例中标签信息库用于存储标签盒中缺失的电子标签对应的食材类型,当标签盒中新增了第二电子标签后,该第二电子标签不为标签盒中的缺失电子标签,故控制器可以删除标签信息库中该第二电子标签对应的历史食材。如可以删除标签信息库中该第二电子标签的标识对应的历史食材类型。如此也即是触发了冰箱的标签信息录
入操作,删除了第二电子标签的信息,实现了对标签信息库的更新。可选地,控制器可以在用户的触发下删除该第二电子标签对应的历史食材。
117.示例地,控制器在确定标签盒中新增了第二电子标签时,可以控制冰箱的信息输出组件输出提示是否删除标签信息库中第二电子标签对应的历史食材的第三提示信息,进而控制器可以触发信息输入组件获取第三提示信息的第三响应信息。在第三响应信息指示删除第二电子标签对应的历史食材时,控制器可以基于第三响应信息,删除标签信息库中第二电子标签对应的历史食材。
118.如控制器可以控制器扬声器播放第三提示语音,该第三提示语音即为语音形式的第三提示信息。之后麦克风可以采集在扬声器播放第三提示语音后的第三时长内的第三响应语音,进而控制器可以获取该第三响应语音,该第一响应语音也即是语音形式的第三响应信息。在第三响应语音指示删除第二电子标签对应的历史食材时,控制器可以基于该第三响应语音,删除标签信息库中第二电子标签对应的历史食材。
119.需要说明的是,标签信息库中可以存储有电子标签的标识及对应的食材类型。当控制器删除标签信息库中第二电子标签对应的历史食材时,控制器可以删除标签信息库中第二电子标签的标识及对应的历史食材类型。可选地,标签信息库还可以包括电子标签对应的其他信息,如该其他信息可以包括食材储藏位置、食材保质时长以及食材体积等。此时,控制器在删除第二电子标签对应的历史食材类型时,可以将第二电子标签对应的其他信息也一并删除。
120.步骤612、在食材表中删除从储藏室中取出的食材。
121.控制器在确定从储藏室中取出的食材后,便可以确定储藏室中缺失了该食材,进而可以更新冰箱的食材表,在该食材表中删除从储藏室中取出的食材。
122.可选地,冰箱的食材表还可以包括:食材上放置的电子标签的标识、存放方法以及加工状态等其他信息。当控制器删除食材表中从储藏室中取出的食材时,可以将从储藏室中取出的食材的该其他信息也一并删除。
123.以下以一种示例对本技术实施例中对食材表的更新进行解释:
124.示例地,当控制器确定标签盒中缺失了第一电子标签,且确定存入储藏室的食材为面包时,可以在食材表中增加该食材的相关信息。如第一电子标签的标识为123456,存入储藏室的食材为面包,该食材的储藏位置为冰箱的冷藏室第二层,该食材的保质时长为10天。若储藏室中还储藏有汽水,且该汽水上携带的电子标签的标识为456789,该汽水的储藏位置为冰箱的冷藏室第一层,该汽水的保质时长为20天,则更新后的食材表可以包括如下表1所示的对应关系。示例地,当控制器确定标签盒中新增了第二电子标签,且第二电子标签的标识为456789时,控制器可以确定用户从储藏室取出的食材为汽水时,控制器可以在食材表中删除汽水的相关信息。
125.表1
126.标签标识食材类型储藏位置保质时长456789汽水储藏室第一层20天123456面包储藏室第二层10天
127.可选地,控制器可以根据食材表中的食材的相关信息,向用户推荐食谱,提醒用户购买食材,且用户可以便捷地查询食材的储藏位置,丰富冰箱的功能,保证了冰箱的使用智
能化。
128.需要说明的是,当控制器检测到用户打开冰箱门后,若未检测到标签盒中存在新增或缺失的电子标签,则也可以仅通过图像识别的方式确定用户存取的食材类型以及食材的储藏位置。
129.综上所述,本技术实施例提供的冰箱中,控制器可以在标签盒中缺失或新增电子标签时,触发冰箱的存取录入操作,更新冰箱的食材表。进而,控制器无需进行复杂的图像识别过程,降低了更新冰箱的食材表的复杂度。
130.且控制器可以通过电子标签对应的食材确定从储藏室中存取的食材。由于基于电子标签可以准确地获知电子标签所对应的食材,因此通过电子标签可以准确地确定存取的食材。
131.需要说明的是,本技术实施例中用户通过说出语音的方式输入各个信息的过程及相关的要求均可以相互参考。应当理解,本技术中说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,例如能够根据本技术实施例图示或描述中给出那些以外的顺序实施。
132.此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖但不排他的包含,例如,包含了一系列组件的产品或设备不必限于清楚地列出的那些组件,而是可包括没有清楚地列出的或对于这些产品或设备固有的其它组件。
133.本技术实施例还提供了一种包含指令的计算机程序产品,当该计算机程序产品在计算机上运行时,使得计算机执行本技术实施例提供的食材表更新方法方法。以上所述仅为本技术的可选实施例,并不用以限制本技术,凡在本技术的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本技术的保护范围之内。