本发明涉及自闭症医疗设备技术领域,尤其涉及一种自闭症康复干预系统。
背景技术:
儿童孤独症(childhoodautism)是一类神经系统发育障碍性疾病。。
目前的康复干预疗法利用环境场景、游戏、动作组合等训练方式来增加患者的感知,促进患者的智力发育,增强与患者的语言交流和情感交流。这些训练方式又称为康复干预项目。根据训练的强度和/或难度可以将康复干预项目分成不同的等级。传统的治疗自闭症儿童患者的方式需要制作大量的卡片,或预先提供大量的视频。通过不断的更换卡片或者视频来观察患者的情绪变化,从而确定儿童患者的兴趣偏好,这样的方式繁琐而低效。同时,治疗的效果与医师的经验还有关系,难以根据自闭症患者的情绪反应调整最佳干预方案,也难以标准化,效果有限。此外,在现有技术中,还提出了利用虚拟现实技术构造虚拟场景来帮助自闭症患者进行康复训练的疗法。该疗法的主要设备是头盔。但是,由于自闭症儿童的年龄普遍较小,而头盔具有一定的质量,因此,他们对头盔这种接触式方式都存在抵触情绪,这影响了患儿的注意力以及康复训练效果。
此外,在目前的研究中,还尝试通过有效地诱发大脑对刺激信号的“注意”,同时不断使大脑的“注意”指向在不同信息通道之间进行切换,从而达到强化训练大脑进行“注意”切换的能力。但是,目前的疗法缺乏温度和和对患者的情感关怀。幼小的自闭症儿童患者极易对此产生抵触,不配合治疗,导致效果不好。
另外,在现有技术中,还有通过摄像头来获取用户的图像的技术方案。
技术实现要素:
本发明的一个目的是提供一种用于自闭症康复干预的新技术方案。
本发明提供一种自闭症康复干预系统,包括:显示屏;不可见光源;光敏传感器,该光敏传感器通过检测由不可见光源所发出的光经由用户所反射的反射光而对用户进行成像;以及处理单元,该处理单元接收来自光敏传感器的成像数据,基于所述成像数据检测用户的行为特征,并基于所述行为特征使得在所述显示屏上显示对应的康复干预项目。
根据这里公开的实施例,可以减小在治疗过程中自闭症康复干预设备对于自闭症儿童的影响,从而改进治疗效果。
通过以下参照附图对本发明的示例性实施例的详细描述,本发明的其它特征及其优点将会变得清楚。
附图说明
被结合在说明书中并构成说明书的一部分的附图示出了本发明的实施例,并且连同其说明一起用于解释本发明的原理。
图1是根据本公开的一个实施例提供的自闭症康复干预系统的示意性框图。
图2是根据本公开的另一个实施例提供的自闭症康复干预系统的示意性框图。
图3是根据本公开的又一个实施例提供的自闭症康复干预系统的示意性框图。
图4-6是根据本公开的自闭症康复干预系统的一个例子。
具体实施方式
现在将参照附图来详细描述本发明的各种示例性实施例。应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本发明的范围。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本发明及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
在这里示出和讨论的所有例子中,任何具体值应被解释为仅仅是示例性的,而不是作为限制。因此,示例性实施例的其它例子可以具有不同的值。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
下面,参照附图描述根据本发明的各个实施例和例子。
<自闭症康复干预系统>
图1是根据本公开的一个实施例提供的自闭症康复干预系统的示意性框图。
如图1所示,该自闭症康复干预系统中包括:显示屏22、不可见光源23、光敏传感器24以及处理单元21。
显示屏22至少用于在处理单元21的控制下显示对应的康复干预项目。康复干预项目是自闭症治疗领域的专用术语,指的是为治疗自闭症而设计的图像或视频。此外,如图2所示,在自闭症康复干预系统中包括扬声器25的情况下,康复干预项目还可以包括音频输出。在这种情况下,康复干预项目可以是图像、视频和/或音频的组合。康复干预项目可以分成多种强度。在康复训练过程中,需要根据患者的个人情况选择对应级别强度的康复干预项目展示给用户。康复干预项目的强度的划分可以是基于大数据统计的。这不是本公开所关注的,因此,不在这里详细解释。
不可见光源23可以发射不可见光。光敏传感器24通过检测由不可见光源23所发出的光经由用户所反射的反射光而对用户进行成像。
处理单元21接收来自光敏传感器24的成像数据,基于所述成像数据检测用户的行为特征,并基于所述行为特征使得在所述显示屏22上显示对应的康复干预项目。
处理单元21可以包括本地的处理器和存储器。在这种情况下,可以在本地对接收的成像数据进行处理,并且确定康复干预项目。此外,处理单元21还可以包括处于网络中处理器和存储器,例如,位于云端的服务器等。在这种情况下,可以将所获取的图像数据发送给网络上的处理器和存储器进行处理。
在这里,可以基于用户的当前状况来确定适当的康复干预项目,这使得对用户的治疗能够实时地适应用户的当前状况。此外,由于采用了不可见光源来检测用户的状况,因此,即使使用光源的光照射用户以准确检测用户的状态,用户也不会察觉。使用特定光源来对对象成像,能较准确检测用户的状态。与一般的成年人不同,自闭症儿童对于某些外界影响比较敏感。有时,自闭症儿童会对进行拍摄的摄像头比较敏感,从而产生抵触情绪。在这种情况下,有时难于判断是由于摄像的原因导致用户情绪变化,还是康复干预项目本身的问题导致治疗效果不理想。因此,通过本实施例中的方式可以在保证检测效果的同时减小检测处理对于用户的影响。对于自闭症儿童而言,这能够显著减小治疗设备对于他的影响,从而显著提高治疗效果并提高测量的准确性。
不可见光源23可以为近红外光源。近红外光(nearinfrared,nir)是介于可见光(vis)和中红外光(mir)之间的电磁波。按astm(美国试验和材料检测协会)的定义,近红外光的波长在780~2526nm范围内。由于近红外光源稳定,受外界干扰较小,这可使得光敏传感器24能够基于不可见光源24生成较准确的用户的图像。由于自闭症儿童的行为不可控并且较难预测,而且自闭症儿童的表情、动作变化有时较为微小,因此,采用近红外光源,可以提高检测准确率,为调整康复干预项目提供更加准确的依据。
不可见光源23可以设置在显示屏22的外表面上。例如,设置在显示屏23底部。
在一个例子中,不可见光源23可嵌入在显示屏23中并且是透明的。在这种情况下,不可见光源23不易被用户察觉。这样可进一步避免不可见光源23对用户造成干扰,导致用户不配合的情况发生。
此外,光敏传感器24也可以嵌入在显示屏22中并且是透明的,以避免对用户的影响。
在这里,可以同时隐藏不可见光源23和光敏传感器24。这样,在治疗过程中,可以进一步屏蔽检测装置对用户的影响,从而能够得到更加准确地获取用户对于康复干预项目的反应,为康复干预项目的调整提供更加准确的依据。可选地,例如,不可见光源23和光敏传感器24可以被设置在显示屏外表面上的边框部分中并被设置成与显示屏的边框同色,例如均为黑色,以隐藏它们。
可以在显示屏22的外表面上设置多个不可见光源23,或者在显示屏22中嵌入多个不可见光源23。本发明实施例对不可见光源23的数量并不做限定。
光敏传感器24可以为结构光法的深度相机,例如,飞行时间tof(timeofflight)摄像机。tof摄像机可获得用户更多的行为信息,这样可使得处理单元21可以基于光敏传感器24成像的成像数据提取到准确且丰富的用户特征,从而使得康复干预项目的调整更加准确。
光敏传感器24与不可见光源23均指向用户。例如,可通过如下四种方式实现光敏传感器24与不可见光源23的指向。
方式一:光敏传感器24和不可见光源23的指向固定且相同。在使用自闭症康复干预系统时,用户移动到光敏传感器24和不可见光源23的指向上。
方式二:光敏传感器24的指向固定。在使用自闭症康复干预系统时,用户移动到光敏传感器24的指向上。通过处理单元21将不可见光源23的指向调整到用户所在的方位。
方式三:不可见光源23的指向固定。在使用自闭症康复干预系统时,用户移动到不可见光源23的指向上。通过处理单元21将光敏传感器24的指向调整到用户所在的方位。
方式四:在使用自闭症康复干预系统时,通过处理单元21将不可见光源23和光敏传感器24的指向调整到用户所在的方位。
可以通过手动方式调整不可见光源23和/或光敏传感器24的指向,从而将用户设置在不可见光源23和/或光敏传感器24的检测范围之内。也可以通过光敏传感器24检测的图像,确定用户是否位于检测范围之内,并指示用户进行相应的移动。
此外,还可以利用麦克风阵列来确定用户的方位,从而调整不可见光源23和/或光敏传感器24的指向。
例如,自闭症康复干预系统还可以包括设置在光敏传感器24附近的麦克风阵列25。所述麦克风阵列25感测用户的方位。所述麦克风阵列25可以通过多种方式来感测方位。例如,可以通过检测特定频率范围内的声音来确定发出声音的是用户。基于麦克风阵列25的声源定位算法可以为基于声音时间差(time-delayestimation,tde)的声源定位算法、基于最大输出功率的可控波束形成算法、基于高分辨率谱图估计算法等。在这种情况下,麦克风阵列25中的麦克风可以不是用于语音检测的麦克风,而可以是检测某些特定频段的麦克风。
由于这里采用的是隐藏式的不可见光源23和/或光敏传感器24,因此,受隐藏条件的制约,不可见光源23和/或光敏传感器24可能会丧失一些方位信息,或检测较慢。通过利用麦克风整列来辅助定位,可以帮助不可见光源23和/或光敏传感器24更快地定位用户,例如,确定用户的凝视方位。
此外,还可以利用不可见光源23和/或光敏传感器24辅助用户方位的检测。例如,首先利用麦克风阵列25感测用户的方位,然后,利用不可见光源23和/或光敏传感器24获取该方位的图像数据。如果处理单元21在该图像数据中检测到人像,则确定所感测的方位是正确的;否则,处理单元21可以指示麦克风阵列25重新感测用户的方位。
在这里,处理单元21可以利用麦克风阵列25确定用户的方位,并基于所感测的方位控制不可见光源23和/或光敏传感器24指向用户所在的方位。这可使得用户无需调整自身位置以配合自闭症康复干预系统。这样既可以提高用户体验,避免在康复干预治疗过程中,电子设备对自闭症儿童的影响,还可以避免自闭症儿童对该系统产生抵触心理。
用户的行为特征可以为用户的凝视方向、凝视时间、凝视方向的转移变化以及用户肢体动作特征中的至少一种和/或用户的语言交互反馈特征等。
下面以用户凝视方向和对应的凝视时间为例说明本公开的实施例的处理方式。例如,麦克风阵列25感测用户的方位。处理单元21利用所感测的用户方位控制不可见光源23和/或光敏传感器24的指向方向。光敏传感器24获取用户的成像数据。处理单元21基于成像数据确定用户的凝视方向和凝视时间,从而确定用户的当前状态,以调整康复干预项目。例如,处理单元21可以提取光敏传感器24生成的用户图像数据中用户眼部信息,并确定该眼部信息在一定范围内保持不变的时间,以将该时间作为凝视时间。
例如,处理单元21基于行为特征通过如下两种方式使得显示屏22上显示对应的康复干预项目。
方式一:处理单元21中预先存储有行为特征与康复干预项目的映射关系。处理单元21将检测到的用户行为特征输入至该映射关系中,以得到对应的康复干预项目。处理单元21将所得到的康复干预项目显示在显示屏22上。映射关系可以是一种预先训练好的基于深度学习的神经网络。
方式二:处理单元21基于检测到的用户行为特征,对用户的症状级别进行评估。然后,处理单元21根据最终评估出的症状级别,从查找与该最终评估出的症状级别对应的康复干预项目。最后,处理单元21将该康复干预项目显示在显示屏中。
需要说明的是,处理单元21可以是位于本地的,也可以是分布式的:它的一部分处理在本地执行;一部分处理在服务器(或云端)执行。
在本公开的实施例所提供的自闭症康复干预系统中,可以尽量减小电子设备对于用户的干扰。此外,该系统还可以在最小干扰的情况下实时根据用户的状况调整适当的康复干预项目。这对于自闭症儿童的康复训练是非常有益的,减小了对于儿童的干扰,可以提高治疗效果。
根据一个实施例的自闭症康复干预系统还可以利用用户的语音信号,判断用户的状态。例如,自闭症康复干预系统可以包括语音麦克风。该语音麦克风可以是麦克风阵列25,或者可以麦克风阵列25中的至少一个麦克风。语音麦克风接收来自用户的语音信号。处理单元21基于语音信号改变在显示屏上显示的康复干预项目。
例如,处理单元21可以基于语音信号通过如下方式改变在显示屏22上显示的康复干预项目。
方式一:处理单元21对语音信号的内容进行识别,以及当语音信号被识别为针对当前康复干预项目的答复并且是错误的答复时,处理单元21使得在显示屏22上显示与当前康复干预项目相比强度较低的康复干预项目。
这里,处理单元21可以存储不同强度级别的康复干预项目。处理单元21对语音信号的内容进行识别,当语音信号被识别为针对当前康复干预项目的答复并且是错误的答复时,说明当前康复干预项目的强度超出了用户的认知,不能对用户达到有效的康复干预。此时,处理单元21可以使得在显示屏22上显示与当前康复干预项目相比强度降低一个级别的康复干预项目。
为了避免误识别,处理单元21可以在出现预定次数的错误答复时,才使得在显示屏22上显示与当前康复干预项目相比强度较低的康复干预项目。例如,所述的预定次数可以为两次、或者三次等。
方式二:处理单元21可以对语音信号的内容进行识别,以及当语音信号被识别为非针对当前康复干预项目的异常语音时,处理单元21使得在显示屏22上显示不同类型的康复干预项目。
异常语音例如可以是吵闹声等。当语音信号被识别为非针对当前康复干预项目的异常语音时,说明用户对该当前康复干预项目存在抵触心理,或者当前康复干预项目的强度超出了用户的认知等,此时,处理单元21在显示屏22上显示不同类型的康复干预项目。不同类型的康复干预项目可以是基于历史用户数据选择的。历史用户数据表示在历史上较适用于用户的康复干预项目。不同类型的康复干预项目还可以是用于安抚用户的康复干预项目。
如图3所示,自闭症康复干预系统还可以包括:扬声器26。扬声器26发出基于当前康复干预项目的不同语音指令。处理单元21基于成像数据检测与不同语音指令对应的不同用户动作幅度并且确定用户动作幅度的变化量。处理单元21基于用户动作幅度的变化量,使得在显示屏22上显示改变的康复干预项目。
在一个例子中,扬声器26可以设置在显示屏22上,还可设置在自闭症康复干预系统的外壳上。
在一个例子中,例如,当前康复干预项目指示用户向上举起右手。扬声器26发出例如“向上举起右手”的语音指令。不可见光源23向用户发出不可见光,光敏传感器24通过检测由不可见光源所发出的光经由用户所反射的反射光而对用户进行成像。处理单元21接收来自光敏传感器24的成像数据,基于成像数据检测用户的右手的位置。重复执行前述步骤至少两次。处理单元21基于依次检测到的用户的右手的位置,得到用户右手位置的变化量。在很多情况下,自闭症儿童不会直接举起右手。但是,如果他的右手有细微变化,那么对于自闭症儿童来说,这已经足以证明康复效果。处理单元21基于用户右手位置的变化量改变的康复干预项目。这种方式可以较准确地确定自闭症儿童的状态。
处理单元21在确定变化量增大时使得在显示屏22上显示强度增加的康复干预项目的强度。处理单元21在确定变化量减小时使得在显示屏22上显示强度减小的康复干预项目或者改变的康复干预项目。
以上面的向上举起右手的用户动作为例说明这个例子。可以预先存储康复干预项目及其对应的强度级别。当处理单元21在确定变化量增大时,说明用户能够很好的配合当前康复干预项目,此时在显示屏22上显示相比于当前康复干预项目强度增加一个强度的康复干预项目。反之,说明用户不能够很好的配合当前康复干预项目,此时在显示屏22上显示相比于当前康复干预项目强度减少一个强度的康复干预项目,或者改变的康复干预项目。所改变的康复干预项目可以为一个默认的最低强度的康复干预项目。
还可对所显示的康复干预项目进行优化,这样可生成更符合用户自身情况的康复干预项目,可进一步提高治疗效果。这里的自闭症康复干预系统还可以对基于上述任一实施例得到的康复干预项目进行评估。
在一个进行评估的例子中,处理单元21基于成像数据确定用户的凝视方向、凝视时间、凝视方向的转移变化以及用户肢体动作特征中的至少一种。此外,处理单元21还可以基于来自麦克风的语音信号确定用户的语言交互反馈特征。处理单元21基于凝视方向、凝视时间、凝视方向的转移变化、用户肢体动作特征以及语言交互反馈特征中的至少一种,确定当前康复干预项目对于用户是否是适当的。
在该例子中,用户的行为特征包括:凝视方向、凝视时间、凝视方向的转移变化、用户肢体动作特征以及语言交互反馈特征中的至少一种。其中,语言交互反馈特征可以为:反馈正确、反馈基本正确及反馈错误。
在另一个进行评估的例子中,处理单元21还基于凝视方向、凝视方向的转移变化、用户肢体动作特征以及语言交互反馈特征中的至少两个特征之间的时序关系确定确定当前康复干预项目对于用户是否是适当的。
处理单元21可以基于上述特征和/或上述特征之间的时间关系,确定用户的“主意”对康复干预项目的反应。例如,当指示用户向右看时,用户转移视线到右侧,并凝视一段时间。这表明用户的“主意”随着康复干预项目的指示而转移。因此,当前的康复干预项目是有效的。
此外,还可以基于上述特征来改善指示用户的语音信号。处理单元21还可基于成像数据确定用户的凝视方向、凝视时间、凝视方向的转移变化以及用户肢体动作特征中的至少一种,和/或处理单元21基于来自麦克风26的语音信号确定用户的语言交互反馈特征。处理单元21可以基于凝视方向、凝视方向的转移变化、用户肢体动作特征以及语言交互反馈特征中的至少一种,调整用于向用户发送指令的指示语音的频率组合及语速中的至少一种,以确定适于该用户的指示语音。
可以通过上述特征,确定用户对于指令所使用的语音的反应。例如,用户对某些语音展现出诸如吵闹等的不适感,或者用户对于某些语音更加容易产生反应等。可以基于这些特征的变化,调整并选择适合于用户的语音。
目前,已有的康复干预设备通常基于成人自己的理解来设置语音。这种方式是站在成人的角度的设计的,而不是站在自闭症儿童的角度设计的。实际上,语音往往对于儿童的心理会产生一定的影响。在固定语音设置的情况下,有时很难确定是由于康复干预项目本身的原因导致训练效果不理想,还是由于语音的原因导致训练效果不理想。通过这种调整语音的方式,一方面,体现了从用户本身情感出发的关怀;另一方面,可以在一定程度上提高训练的准确性。
此外,尽管没有示出,但是,自闭症康复干预系统还可以包括诸如振动器、喷雾器、加热器或制冷器的触觉发生装置。例如,可以通过振动提示使用者转换注意。例如,可以通过喷雾器发出气味,吸引使用者的注意。还可以通过加热器或制冷器,激发使用者的触感。此外,可同喷雾器、加热器或制冷器制造令用户感到愉悦的感受。例如,可以通过喷雾器喷射用户喜欢的气味。可以通过加热器/制冷器,设置令用户事宜的温度。例如,在较冷的环境中(冬天)设置加热器进行加热,以给用户提供温暖的感受,从而安抚用户的情绪。在较热的环境中(夏天)设置制冷器进行制冷,以给用户提供适宜的感受。这些方式对于敏感的自闭症儿童是非常有利的。因此,这都有利于改善自闭症康复干预系统的康复效果。
<例子>
图4-6是根据本公开的自闭症康复干预系统的一个例子。
图4示出了自闭症康复干预系统的结构框图。
如图4所示,自闭症康复干预系统1000包括处理单元1100。处理单元1100可以包括处理器1110、输入/输出接口单元1120、存储单元1130和网络单元1140。
存储单元1130例如包括随机存取存储器ram1131、高速缓存1132、非易失性存储器1133。存储单元1130用于存储自闭症康复干预系统运行所需的程序和/或数据,例如,康复干预项目数据等。在存储单元1130中可以存储指令。处理器1110基于存储单元中的指令,运行程序以执行上面所述的处理。
输入/输出接口单元1120例如可以连接显示器1150、不可见光源1160、光敏传感器1170、麦克风阵列1180、扬声器1190以及其他外部设备1200。
显示器1150、不可见光源1160、光敏传感器1170、麦克风阵列1180和扬声器1190可以是上面实施例中所述的装置,在这里不再重复。
其他外部设备1200例如可以包括键盘、鼠标,以及还可以包括振动器、喷雾器、加热器或制冷器的触觉发生装置。
网络单元1140例如可以包括有线/无线网络适配器。它例如可以是wifi网络适配器、蓝牙网络适配器、3g/4g/5g网络适配器等。可以通过网络单元与网络上的其他处理器/存储器连接,以共同形成一个较大的处理单元。
图5示出了将终端设备通过网络连接的例子。
在图5中,可以在终端位置设置如图4所述的结构的终端设备1000-a、1000-b。用户4000-a、4000-b使用终端设备1000-a、1000-b进行康复训练。
终端设备1000-a、1000-b通过网络接入点3000-a、3000-b与网络2000(云端)连接。在图5中示出了终端设备1000-a、1000-b通过无线方式连接到网络接入点3000-a、3000-b,但是,它们也可以通过有线方式连接。
在网络2000中包括多个服务器设备2100。每个服务器设备2100例如包括各自的处理器2101和存储单元2102。它们可以与终端中的处理器、存储单元一起协作,实现康复训练处理。
图6示出了终端设置的一个例子。
如图6所示,在终端位置,用户4000使用终端设备1000进行康复训练。终端设备1000例如具有图4所示的结构。
在终端设备1000的屏幕1050的下方设置隐藏式的不可见光源1160、光敏传感器1170。
这里实施例总结如下。
a1、一种自闭症康复干预系统,包括:
显示屏;
不可见光源;
光敏传感器,该光敏传感器通过检测由不可见光源所发出的光经由用户所反射的反射光而对用户进行成像;以及
处理单元,该处理单元接收来自光敏传感器的成像数据,基于所述成像数据检测用户的行为特征,并基于所述行为特征使得在所述显示屏上显示对应的康复干预项目。
a2、根据a1所述的自闭症康复干预系统,其中,所述不可见光源是近红外光源。
a3、根据a1或a2所述的自闭症康复干预系统,其中,所述不可见光源嵌入在所述显示屏中并且是透明的。
a4、根据a1-a3中的任何一项所述的自闭症康复干预系统,其中,所述光敏传感器嵌入在所述显示屏中并且是透明的。
a5、根据a1-a4中的任何一项所述的自闭症康复干预系统,其中,所述光敏传感器是飞行时间tof摄像机。
a6、根据a1-a5中的任何一项所述的自闭症康复干预系统,还包括:设置在所述光敏传感器附近的麦克风阵列,其中,所述麦克风阵列感测用户的方位,所述行为特征包括用户的凝视方向和凝视时间,以及所述处理单元利用所感测的用户方位控制不可见光源和/或光敏传感器的指向方向并基于所述成像数据确定用户的凝视方向和凝视时间。
a7、根据a1-a6中的任何一项所述的自闭症康复干预系统,还包括:设置在所述光敏传感器附近的麦克风阵列,其中,所述麦克风阵列感测用户的方位,所述处理单元还利用所感测的方位控制不可见光源和/或光敏传感器的指向方向。
a8、根据a1-a7中的任何一项所述的自闭症康复干预系统,还包括:语音麦克风,其中,所述语音麦克风接收来自用户的语音信号,以及所述处理单元基于所述语音信号改变在所述显示屏上显示的康复干预项目。
a9、根据a1-a8中的任何一项所述的自闭症康复干预系统,其中,所述处理单元对所述语音信号的内容进行识别,以及当所述语音信号被识别为针对当前康复干预项目的答复并且是错误的答复时,所述处理单元使得在所述显示屏上显示与当前康复干预项目相比强度较低的康复干预项目。
a10、根据a1-a9中的任何一项所述的自闭症康复干预系统,其中,所述处理单元在出现预定次数的错误答复时,所述处理单元使得在所述显示屏上显示与当前康复干预项目相比强度较低的康复干预项目。
a11、根据a1-a10中的任何一项所述的自闭症康复干预系统,其中,所述处理单元对所述语音信号的内容进行识别,以及当所述语音信号被识别为非针对当前康复干预项目的异常语音时,所述处理单元使得在所述显示屏上显示不同类型的康复干预项目。
a12、根据a1-a11中的任何一项所述的自闭症康复干预系统,其中,不同类型的康复干预项目是基于历史用户数据选择的,
其中,所述历史用户数据表示在历史上较适用于用户的康复干预项目。
a13、根据a1-a12中的任何一项所述的自闭症康复干预系统,还包括:扬声器,
其中,所述扬声器发出基于当前康复干预项目的不同语音指令,
其中,所述处理单元基于所述成像数据检测与不同语音指令对应的不同用户动作幅度并且确定用户动作幅度的变化量,以及
其中,所述处理单元基于所述用户动作幅度的变化量,使得在所述显示屏上显示改变的康复干预项目。
a14、根据a1-a13中的任何一项所述的自闭症康复干预系统,其中,所述处理单元在确定所述变化量增大时使得在所述显示屏上显示强度增加的康复干预项目,或者,所述处理单元在确定所述变化量减小时使得在所述显示屏上显示强度减小的康复干预项目或者改变的康复干预项目。
a15、根据a1-a14中的任何一项所述的自闭症康复干预系统,其中,所述处理单元基于所述成像数据确定用户的凝视方向、凝视时间、凝视方向的转移变化以及用户肢体动作特征中的至少一种,和/或所述处理单元基于来自麦克风的语音信号确定用户的语言交互反馈特征,以及
其中,所述处理单元基于所述凝视方向、凝视时间、凝视方向的转移变化、用户肢体动作特征以及语言交互反馈特征中的至少一种,确定当前康复干预项目对于用户是否是适当的。
a16、根据a1-a15中的任何一项所述的自闭症康复干预系统,其中,所述处理单元还基于所述凝视方向、凝视方向的转移变化、用户肢体动作特征以及语言交互反馈特征中的至少两个特征之间的时序关系确定当前康复干预项目对于用户是否是适当的。
a17、根据a1-a16中的任何一项所述的自闭症康复干预系统,其中,所述处理单元基于所述成像数据确定用户的凝视方向、凝视时间、凝视方向的转移变化以及用户肢体动作特征中的至少一种,和/或所述处理单元基于来自麦克风的语音信号确定用户的语言交互反馈特征,以及
其中,所述处理单元基于所述凝视方向、凝视方向的转移变化、用户肢体动作特征以及语言交互反馈特征中的至少一种,调整用于向用户发送指令的指示语音的频率组合及语速中的至少一种,以确定适于该用户的指示语音。
这里的处理单元可以体现为电子设备和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本发明的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、静态随机存取存储器(sram)、便携式压缩盘只读存储器(cd-rom)、数字多功能盘(dvd)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本发明操作的计算机程序指令可以是汇编指令、指令集架构(isa)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如smalltalk、c++等,以及常规的过程式编程语言—诸如“c”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(lan)或广域网(wan)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(fpga)或可编程逻辑阵列(pla),该电子电路可以执行计算机可读程序指令,从而实现本发明的各个方面。
这里参照根据本发明实施例的系统和计算机程序产品的框图描述了本发明的各个方面。应当理解,框图的每个方框可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现上面所述的流程或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现上述流程和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本发明的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图中的每个方框、以及框图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。对于本领域技术人员来说公知的是,通过硬件方式实现、通过软件方式实现以及通过软件和硬件结合的方式实现都是等价的。
以上已经描述了本发明的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。本发明的范围由所附权利要求来限定。