治疗自闭症谱系障碍相关受试者的扩展现实系统的制作方法

文档序号:31996088发布日期:2022-11-02 07:16阅读:123来源:国知局
治疗自闭症谱系障碍相关受试者的扩展现实系统的制作方法
治疗自闭症谱系障碍相关受试者的扩展现实系统
1.相关专利申请的交叉引用
2.本技术要求于2019年12月23日提交的名称为“diagnostic device,system and method for monitoring and assessing associated with autism spectrum disorder”的美国临时专利申请62/952,804的优先权,该专利申请的公开内容据此通过引用整体并入本文。
技术领域
3.本文所述的方面通常涉及用于改进的受试者测试和分析的医学治疗和医疗装置。更具体地,本文所述的方面提供了用于通过对受试者进行主动测试、被动监测和/或治疗来解决受试者的社交、交流和感官限制(诸如患有自闭症谱系障碍的个体所经历的那些)的装置、系统和方法。


背景技术:

4.自闭症谱系障碍(asd)涵盖范围广泛的病症,这些病症可能会对个体的社交、交流和/或行为能力产生负面影响。患有asd的个体可能会经历与他人沟通和互动的困难,可能有特别受限的兴趣,和/或可能表现出重复的行为。例如,涉及社交互动的日常生活任务可能会给患有asd的个体带来特别的困难。asd通常伴随着感官敏感性和健康问题,诸如胃肠道疾病、癫痫或睡眠障碍以及心理健康挑战(诸如焦虑、抑郁和注意力问题)。如此,患有asd的个体可能在学校、工作和其他社会环境中遇到困难。
5.针对自闭症谱系障碍存在多种治疗方法。一般来说,早期识别儿童的asd症状是有价值的,因为早期干预策略(例如,帮助患有asd的儿童进行谈话、行走以及通常另外的与他人互动的治疗)可以是有益的。应用行为分析(aba)是一种常见方法,其涉及鼓励积极行为(例如,社交互动)和阻止消极行为(例如,孤僻或不爱交流)。在aba类别中,存在许多方法,包括离散试验训练(例如,在离散任务中测试和奖励积极行为)、早期强化行为干预、关键反应训练(例如,鼓励受试者学习监测自己的行为)、言语行为干预、职业治疗(例如,通过学习穿衣、吃饭、洗澡和执行其他任务来帮助受试者独立生活)、感觉统合治疗(例如,帮助受试者处理不友好的景象、声音和气味)等等。其他方法包括改变个体的饮食、使用药物等。
6.上述方法有很多缺点。患有asd的个体可能会脱离社交互动,这意味着他们可能不太可能定期寻求治疗。此外,即使患有asd的个体愿意定期参加治疗,但此类治疗课程的频率可能不足以改善个体的症状。对于患有asd的个体来说,调节感官输入的强烈程度也可能很困难,这意味着可能难以逐渐使个体适应更大强度的感官输入。例如,在治疗环境中逐渐引入越来越复杂的社交互动可能很困难(而且成本很高)。另外,让临床医生在整个培训过程中持续监测受试者的表现可能会产生巨大花费。例如,对患有asd的受试者进行培训可能需要数小时,使得如果临床医生必须持续监测和修改培训的各个方面,则此类培训的成本可能会非常高。


技术实现要素:

7.下文呈现了本文所述的各个方面的简化概述。该概述不是广泛的概述,并且不旨在标识所需或重要的元素或描绘权利要求的范围。以下概述仅以简化形式呈现一些概念,作为下面提供的更详细说明的介绍性序言。
8.为了克服上述现有技术中的限制并且为了克服在阅读和理解本说明书时将显而易见的其他限制,本文所述的方面涉及使用扩展现实(例如,虚拟现实、增强现实和/或混合现实)环境来测量和改善表现出一种或多种社交、交流和/或感官缺陷症状的个体中的此类症状。
9.计算装置可以耦接到扩展现实(xr)装置(通过数据连接间接地或直接并因此物理地成为其一部分),该xr装置能够提供xr环境。计算装置可以接收识别与asd症状相关联的一种或多种行为的数据。计算装置可以接收指定多个不同任务的场景,这些任务被配置为训练与一种或多种行为(与asd症状相关联)相关联的技能。计算装置可以使xr装置向受试者呈现xr环境,并且可以使xr装置在xr环境中并向受试者呈现场景中指定的多个不同任务中的至少一个第一任务。该至少一个第一任务可以被配置为训练与对与asd症状相关联的一种或多种行为的改善相关联的第一技能。至少一个第一任务可以被配置为提示受试者与xr环境中的一个或多个对象交互。计算装置可以检测与xr环境中的一个或多个对象的受试者交互。计算装置可以基于一个或多个受试者交互来计算指示与asd症状相关联的一种或多种行为的行为分数。计算装置可以从多个不同任务并基于指示与asd症状相关联的一种或多种行为的行为分数来选择多个不同任务中的至少一个第二任务。第二任务可以不同于第一任务,并且可以被配置为训练与对与asd症状相关联的一种或多种行为的改善相关联的第二技能。
10.另外地或可替代地,可以为受试者收集现有数据。现有数据可以包括关于由临床医生、护理人员和/或受试者填写的摄入调查和/或临床仪器的信息、电子病历数据和/或一种或多种生物标志物的存在/不存在。可以提供扩展现实环境,并且可以使用该环境来收集治疗数据。此类扩展现实环境可以包括视频和/或音频,并且可以包括一个或多个场景,诸如测试场景、观察场景、学习场景、实践场景和/或放松场景中的一者或多者。治疗数据可以包括数据参数,诸如隐性非语言交流参数、非语言交流参数、语言交流参数、感官强度参数、感官复杂性参数、感官可预测性参数、社交强度参数等。可以将治疗数据与现有数据进行比较,并且可以修改扩展现实环境。例如,可以修改扩展现实环境中各种感官挑战的强度和/或难度。
11.受益于下文更详细讨论的公开内容,将理解这些方面和其他方面。
附图说明
12.通过参考以下参考附图的说明,可获得对本文所述的方面及其优点的更完整的理解,其中相同的附图标记表示相同的特征,并且其中:
13.图1描绘了可根据本文所述的一个或多个说明性方面而使用的说明性计算机系统架构。
14.图2描绘了说明性扩展现实装置。
15.图3示出了包括可以使用扩展现实装置来执行以监测、评估和训练asd症状的步骤
的流程图。
16.图4描绘了表示可如何将不同场景呈现为扩展现实环境的一部分的图。
17.图5示出了包括可以使用扩展现实装置来执行以监测、评估和训练asd症状的步骤的流程图。
18.图6a示出了扩展现实环境的实例,示出了其中提示受试者点餐的实例。
19.图6b示出了在xr环境中与受试者的行为相关联的输出的实例。
具体实施方式
20.在各个实施例的以下描述中,参考了上文确定且形成本文的一部分的附图,并且在这些附图中通过图示的方式示出了其中可实践本文所述的方面的各种实施例。应当理解,在不脱离本文所述的范围的情况下,可利用其他实施例,并且可进行结构和功能上的修改。各个方面能够用于其他实施例并且能够以各种不同方式来实践或执行。
21.作为对下文更详细描述的主题的一般介绍,本文所述的方面涉及使用增强现实来评估和/或治疗个体的一种或多种社交、交流和/或感官缺陷症状。一种方法可以包括识别患有社交、交流和/或感官限制的受试者。该方法可以进一步包括确定至少一个数据参数作为受试者的参考值。这种确定可以在预定义的时间窗口和/或摄入课程期间进行。数据参数可以例如包括在由临床医生或受试者填写的摄入调查或临床仪器中或之上提供的一个或多个参数;历史电子病历数据;和/或数字生物标志物数据。该方法可以进一步包括通过使用扩展现实装置(如本文所用,除非另有明确说明,否则提及扩展、虚拟、增强和/或混合现实装置中的任一者也可以包括其他设备或替代物)向受试者实施渐进的一组治疗干预)。通过将来自受试者的数据参数的至少一个新确定的值与数据参数的参考值进行比较,可以计算差值,这可以指示症状的改善或恶化。可以重复此类步骤,直到获得社交和交流功能和/或日常生活技能的改善,或检测到其他行动过程。治疗性扩展现实干预可以包括从以下组选择的一个或多个阶段,包括:观察训练场景、仪器训练场景、对表现的情感评估以及允许心理和生理唤醒恢复到基线的虚拟“平静”房间或安全空间。该方法可以进一步包括定义观察训练场景或仪器训练场景、对此类场景分阶段、使临床医生和护理人员在扩展现实中与受试者互动和/或监测受试者、将所有结果数据并入评分系统中等等。
22.又如,并且如将在本文中所描述,计算装置可以耦接到扩展现实(xr)装置。该xr装置能够提供虚拟、增强或混合现实环境中的一者或多者。计算装置可以接收识别与asd症状相关联的一种或多种行为的数据。例如,一种或多种行为可以包括在对话期间不看说话参与者的眼睛。计算装置可以接收指定多个不同任务的场景。多个不同任务可以被配置为训练与一种或多种行为(与asd症状相关联)相关联的技能。例如,多个不同任务中的一个任务可以包括训练受试者看说话伙伴的眼睛。计算装置可以使xr装置向受试者呈现xr环境。计算装置还可以使xr装置在xr环境中并向受试者呈现场景中指定的多个不同任务中的至少一个第一任务。该至少一个第一任务可以被配置为训练与对与asd症状相关联的一种或多种行为的改善相关联的第一技能。例如,如上所示,至少一个第一任务可以包括训练受试者看说话伙伴的眼睛。至少一个第一任务可以被配置为提示受试者与xr环境中的一个或多个对象交互。此类互动可以包括:例如,看化身对象的眼睛、站在距离化身对象的适当距离处、使用虚拟钱包在商店为商品付款等。计算装置可以检测与xr环境中的一个或多个对象的受
试者交互。例如,计算装置可以监测受试者的眼睛移动以产生眼睛跟踪数据,然后处理眼睛跟踪数据以确定受试者是否正在注视化身对象。计算装置可以基于一个或多个受试者交互来计算指示与asd症状相关联的一种或多种行为的行为分数。例如,计算装置可以提供关于受试者看说话伙伴的眼睛的程度的分数。计算装置可以从多个不同任务并基于指示与asd症状相关联的一种或多种行为的行为分数来选择多个不同任务中的至少一个第二任务。第二任务可以不同于第一任务,并且可以被配置为训练与对与asd症状相关联的一种或多种行为的改善相关联的第二技能。例如,第二任务会要求受试者与化身对象进行语音互动。计算装置可以基于场景修改xr环境以呈现第二任务。
23.应当理解,本文所使用的措词和术语是出于说明的目的,而不应被认为是限制性的。相反,本文中使用的短语和术语将被给予其最广泛的解释和含义。“包括”和“包含”及其变体的使用意味着涵盖其后列出的项目及其等同物,以及其他项目及其等同物。术语“连接”、“耦接”、“接合”和类似术语的使用意在包括直接和间接连接、耦接、和接合。
24.扩展现实环境和计算装置
25.图1是示出示例性计算装置100的硬件元件的框图。如下文将更详细说明的,此类计算装置可用于提供扩展现实环境。例如,示例性计算装置100等计算装置可以包括执行指令(存储在存储器中)的一个或多个处理器,这些指令使计算装置使用扩展现实装置111来提供扩展现实(例如,虚拟现实、增强现实和/或混合现实)环境。示例性计算装置100等计算装置可以是扩展现实装置111的一部分和/或通信地连接到扩展现实装置。扩展现实装置111可以被配置为向受试者提供扩展(例如,虚拟现实、增强现实和/或混合现实中的一者或多者的)环境。扩展现实装置111可以如下文相对于图2更详细说明的那样将计算装置100用于向受试者提供增强现实环境的一个或多个部分。在一些实例中,诸如本文所述的计算装置可以省略图1所示的一个或多个元件。
26.计算装置100可以包括一个或多个处理器101,该一个或多个处理器可以执行计算机程序的指令以执行本文所述的任何特征。指令可以存储在计算机可读介质或存储器中,以配置处理器101的操作。例如,指令可以存储在只读存储器(rom)102、随机存取存储器(ram)103、可移动介质104(诸如通用串行总线(usb)驱动器、光盘(cd)或数字多用盘(“dvd”)、软盘驱动器、云或网络存储或其他存储介质)中。指令也可以存储在附接的(或内部的)硬盘驱动器105中。计算装置100可以包括一个或多个输出装置,诸如显示器106(例如,外部电视或监视器),并且可以包括一个或多个输出装置控制器107,诸如视频处理器。还可以存在一个或多个用户输入装置108,诸如遥控器、键盘、鼠标、触摸屏、麦克风、相机(例如,用于捕捉用户手势的输入)等。计算装置100还可以包括一个或多个网络接口(诸如网络输入/输出(i/o)电路109(例如,网卡))以与外部网络110通信。网络输入/输出电路109可以是有线接口、无线接口或两者的组合。另外,该装置可以包括位置检测装置,诸如全球定位系统(gps)微处理器111,其可以被配置为接收和处理全球定位信号并在外部服务器和天线的可能的协助下计算装置的地理位置。
27.虽然图1示出了可以在一些布置中使用的硬件配置的实例,但在其他布置中,一个或多个部件可以实现为软件。此外,可以进行修改以对计算装置100的部件进行添加、移除、组合、分割等。另外,可以使用基本计算装置和部件来实现这些部件,并且相同的部件(例如,处理器101、rom存储器102、显示器106等)可以用于实现本文所述的任何其他计算装置
和部件。例如,可以使用具有执行存储在计算机可读介质上的计算机可执行指令的处理器等部件的计算装置来实现本文所述的各种部件中的一个或多个部件,如图1所示。本文所述的一些或所有实体可以是基于软件的,并且可以在公共物理平台中共存(例如,请求实体可以是与从属实体分开的软件进程和程序,两者都可以作为软件而在公共计算装置上执行)。
28.图2描绘了扩展现实(xr)装置202的实例,该xr装置可以与扩展现实装置111相同或相似。xr装置202可以通信地连接到机载计算装置204,该机载计算装置可以与计算装置100相同或相似。xr装置202可以包括多个不同元件,诸如显示装置203a、音频装置203b、运动敏感装置203c、相机203d、位置跟踪元件203e和输入/输出装置203f。此类元件可以另外地和/或可替代地称为传感器。未示出的其他此类元件可包括耳内脑电图(eeg)和/或心率变异性(hrv)测量装置、基于头皮和/或前额的eeg和/或hrv测量装置、眼睛跟踪装置(例如,使用红外线)等。xr装置202可以进一步包括支持计算装置201,该支持计算装置可以与计算装置100相同或相似。并非图2中所示的所有元件都需要存在以用于操作xr装置202。例如,xr装置202可能不具有相机203d。又如,xr装置202可能缺少任何支持计算装置201,使得机载计算装置204直接与显示装置203a、音频装置203b、运动敏感装置203c、相机203d、位置跟踪元件203e和/或输入/输出203f交接以提供扩展现实环境。又如,支持计算装置201可以足够强大,使得可以省略机载计算装置204。支持计算装置可以(例如,经网络,诸如网络110)通信地耦接到生物识别跟踪装置205和数据库206。
29.在一些情况下,机载计算装置204和/或支持计算装置201可能不具有任何特定的处理能力或功能来提供扩展现实环境。机载计算装置204和/或支持计算装置201可以包括例如提供基本视频和/或音频的相对不够强大的处理器。在其他情况下,机载计算装置204和/或支持计算装置201可以例如包括提供高度逼真的视频和/或音频的相对强大的处理器。
30.xr装置202可以向使用者(诸如受试者)提供扩展现实(例如,虚拟现实、增强现实和/或混合现实)环境。一般来说,虚拟现实环境提供完全虚拟的世界,而增强现实环境和/或混合现实环境混合了真实世界和虚拟世界中的元素。xr装置202可以是专门被配置为提供扩展现实环境的装置(例如,扩展现实头戴式耳机),或者可以是装置的组合(例如,插入和/或通信耦接到头戴式耳机的智能电话),当以特定方式操作时,该装置的组合可提供扩展现实环境。可以说xr装置202至少部分是不受束缚的,因为其可能缺少与另一装置的物理连接(并且例如可能是电池供电的)。如果xr装置202连接到另一装置(例如,支持计算装置201、电源等),则可以说其是受束缚的。xr装置202的实例可以包括华盛顿贝尔维尤的valve corporation所开发的valve index虚拟现实装置、加利福尼亚门洛帕克的facebook technologies,llc所销售的oculus quest虚拟现实装置以及中国台湾新北市宏达电公司所销售的htc vive虚拟现实装置。xr装置202的实例还可以包括智能电话,该智能电话可以放置在头戴式耳机(诸如韩国首尔的三星集团所销售的gear vr产品)中以用于扩展现实目的。xr装置202的实例还可以包括佛罗里达普兰泰申的magic leap公司所销售的增强现实头戴式耳机、华盛顿雷德蒙德的微软公司所销售的hololens混合现实头戴式耳机以及中国北京的杭州泰若科技有限公司所销售的nreal light头戴式耳机等。xr装置202的实例还可以包括基于音频的装置,诸如华盛顿西雅图的亚马逊公司所销售的echo frames。所有此类扩展现实装置可具有不同的规格。例如,一些扩展现实装置可具有摄像头,而另一些可能没
有。这些仅仅是实例,也可以或可替代地使用其他ar/vr系统。此外,如下文将进一步详细描述的(并且例如相对于图3中所示的步骤),机载计算装置204和/或支持计算装置201中的任一者或两者可以执行本文所述的步骤。因此,本文的公开内容可仅由机载计算装置204执行(例如,使得xr装置202不受束缚),仅由支持计算装置201执行(例如,使得xr装置202受束缚于计算装置,诸如在实验室环境中),和/或由它们的组合执行(例如,使得机载计算装置204执行本文所述的一些步骤,支持计算装置201执行本文所述的其他步骤,并且这些装置共同执行本文所述的所有步骤)。
31.支持计算装置201可以将扩展现实环境的全部或部分提供给xr装置202,例如,如系带oculus rift所使用的那样。例如,支持计算装置201可以向xr装置202提供视频数据流,该视频数据流在由xr装置202(例如,通过显示装置203a)显示时显示虚拟世界。在xr装置202(例如,作为xr装置202的一部分的机载计算装置204)不足以显示完整的扩展现实环境的情况下,此类配置可以是有利的。支持计算装置201不需要针对xr装置202而存在以便提供扩展现实、增强现实和/或混合现实环境。例如,在机载计算装置204足够强大的情况下,支持计算装置201可以被省略(或者,可替代地,被认为已经在机载计算装置204内实现),例如,无系带oculus quest。
32.显示装置203a可以是被配置为显示扩展现实环境的全部或部分的任何装置。此类显示装置203a可以包括例如平板显示器,诸如一个或多个液晶显示(lcd)面板。显示装置203a可以与显示器106相同或相似。显示装置203a可以是单个或多个,并且可以被配置为向使用者的不同眼睛显示不同的图像。例如,显示装置203a可以包括与透镜(例如,菲涅耳透镜)耦接的一个或多个显示装置,其将所有或部分显示分开以供使用者的不同眼睛观看。
33.音频装置203b可以是可以接收和/或输出与扩展现实环境相关联的音频的任何装置。例如,音频装置203b可以包括将音频引向使用者的耳朵的扬声器。又如,音频装置203b可以包括接收来自使用者的语音输入的一个或多个麦克风。音频装置203b可用于向xr装置202的使用者提供基于音频的扩展现实环境。
34.运动敏感装置203c可以是接收与xr装置202的使用者的运动相关的输入的任何元件。例如,运动敏感装置203c可以包括一个或多个加速度计,其可以检测扩展现实装置的使用者何时移动(例如,倾斜、向前移动、向后移动、转向等)。三维加速度计和/或陀螺仪可用于检测xr装置202的完整运动。任选的外向相机203d也可以用于3d定向。运动敏感装置203c可以允许xr装置202呈现基于使用者的运动而改变的扩展现实环境。
35.相机203d可用于帮助确保使用者的安全和呈现扩展现实环境。相机203d可用于监视使用者的周围环境,以避免使用者无意中接触到真实世界中的元素(例如,墙)。相机203d可以另外地和/或可替代地监测使用者(例如,使用者的眼睛、使用者的眼睛的焦点、使用者的瞳孔扩张等)以确定要渲染扩展现实环境的哪些元素、使用者在此类环境中的移动等。
36.位置跟踪元件203e可以是被配置为帮助跟踪xr装置202的位置和/或移动的任何元件。位置跟踪元件203e可以是红外发射器系统的全部或部分,当由传感器监测到时,该红外发射器系统指示xr装置202的位置(例如,xr装置202在房间中的位置)。位置跟踪元件203e可以被配置为允许:“由内而外”跟踪,其中xr装置202跟踪一个或多个元件(例如,xr装置202本身、使用者的手、外部控制器等)的位置;或“由外而内”跟踪,其中外部装置有助于跟踪一个或多个元素的位置。位置跟踪元件203e可以帮助确定使用者在真实世界(例如,在
房间中)和扩展现实环境中的位置。例如,使用者可以同时与真实世界对象(例如,墙)和扩展现实对象(例如,化身对象)保持一定距离。
37.输入/输出203f可以被配置为接收和发送与扩展现实环境相关联的数据。例如,输入/输出203f可以被配置为将与使用者的移动相关联的数据传递到支持计算装置201。又如,输入/输出203f可以被配置为接收与大型多人扩展现实环境的其他使用者相关联的信息。
38.机载计算装置204可以被配置为经由显示装置203a、音频装置203b、运动敏感装置203c、相机203d、位置跟踪元件203e和/或输入/输出203f来提供扩展现实环境。机载计算装置204可以包括一个或多个处理器(例如,图形处理器)、存储装置(例如,存储扩展现实程序)等。在一种或多种布置中,机载计算装置204可以足够强大以在不使用支持计算装置201的情况下提供扩展现实环境,使得支持计算装置201可以不需要并且可以不连接到xr装置202。在其他配置中,支持计算装置201和机载计算装置204可以协力工作以提供扩展现实环境。在其他配置中,xr装置202可以不具有机载计算装置204,使得支持计算装置201与显示装置203a、音频装置203b、运动敏感装置203c、相机203d、位置跟踪元件203e和/或输入/输出203f直接交接。
39.xr装置202的上述元件仅仅是实例。xr装置202可以具有更多或类似的元件。例如,xr装置202可以包括耳内eeg和/或hrv测量装置、基于头皮和/或前额的eeg和/或hrv测量装置、眼睛跟踪装置(例如,使用对准使用者的眼睛的相机、瞳孔跟踪、红外线)等。
40.扩展现实环境中asd评估和治疗
41.现在讨论将转向使用虚拟现实、增强现实和/或混合现实来监测、评估和/或改善asd症状。
42.图3示出了包括可以使用扩展现实装置(诸如xr装置202)来执行以监测、评估和治疗asd症状的步骤的流程图。图3中所示的步骤可以由计算装置(诸如计算装置100、机载计算装置204和/或支持计算装置201)执行,并且可以是算法的全部或部分。图3中所示的步骤可以被执行来监测、评估和/或治疗与经测试受试者的一种或多种社交、交流和/或感官缺陷症状相关的技能。
43.在步骤301中,机载计算装置204和/或支持计算装置201可以收集与受试者相关联的现有数据。可以经由数据库(诸如从数据库206)接收现有数据。现有数据可能包括关于受试者的个人数据。现有数据可以包括经由临床医生、护理人员和受试者中的一者或多者所填写的摄入调查和/或临床仪器提供的信息。现有数据可以包括电子病历数据。现有数据可以包括关于受试者的任何其他类似形式的历史信息,并且不必源自临床环境。例如,现有数据可以包括反映来自受试者的父母或配偶的反馈的信息。与受试者相关联的现有数据可(例如,由xr装置202)用于计算受试者的基线。基线可以与时间段(诸如先前的治疗期)相关联。机载计算装置204和/或支持计算装置201可以使用现有数据来计算受试者的现状或基线状况。
44.现有数据可以包括指示存在和/或不存在关于asd的存在、不存在和/或严重程度的一种或多种生物标志物的信息。例如,受试者胃肠系统的一些差异可指示存在asd。又如,受试者的免疫系统、神经系统和/或毒理学系统的某些差异可指示存在asd。也可以使用来自计算机化摄入系统的数字生物标志物。
45.确定与受试者相关联的现有数据可以包括从一个或多个外部源(诸如数据库206)接收现有数据。机载计算装置204和/或支持计算装置201可以存储现有数据,并且确定现有数据可以包括从这些计算装置检索现有数据。例如,确定外部数据可以包括从外部数据库(例如,数据库206)检索外部数据的一个或多个部分。确定与受试者相关联的现有数据可以另外地和/或可替代地包括接收来自受试者的输入。例如,确定外部数据可以包括经由用户界面并从护理人员、临床医生和/或受试者检索外部数据。
46.在步骤302中,xr装置202可以提供扩展现实环境(xr环境)。扩展现实环境可以被配置为确定一个或多个数据参数,如下文所详述。扩展现实环境可以作为对受试者的一个或多个治疗干预(例如,一系列任务)的一部分而呈现。例如,扩展现实环境可以作为治疗性干预和/或一系列治疗性干预的一部分而呈现。作为特定实例,扩展现实环境可以被配置为监测、评估和/或训练与至少一种与asd相关联的症状(例如,社交沟通和社交互动困难、受限、重复的行为模式、兴趣或活动等)相关联的技能。
47.扩展现实环境(例如,其可以由xr装置202在步骤302提供)可以向使用者呈现和/或以其他方式包括一个或多个任务(其可以是场景的一部分,该场景可包括一个或多个任务)。一个或多个任务可包括一个或多个观察任务,其中向受试者展示一个或多个社交、交流和/或感官技能。另外地和/或可替代地,扩展现实环境可以呈现一个或多个任务,诸如日常生活技能任务(例如,与银行出纳员、男服务员/女服务员互动、在机场通过安检)、个人卫生任务等。一个或多个任务可包括一个或多个学习任务,其中使受试者通过与扩展现实环境中的对象和/或化身交互来展示他们对一个或多个社交、交流和/或感官技能的学习。一个或多个任务可以包括一个或多个实践任务,其中受试者可以学习在扩展现实环境之外的世界中安排、计划、评估和/或回忆一个或多个习得的社交、交流和/或感官技能。一个或多个任务可以包括一个或多个平静任务,其中受试者可以逃避观察任务、学习任务和实践任务中的一者或多者,同时仍使用扩展现实装置。例如,一个或多个平静任务可以包括冥想、与受试者相关联的个人区域等。所有此类任务都可与培训材料(例如,小册子、智能电话应用程序等)相关联,这些培训材料有助于教育受试者了解在扩展现实环境中测试的一个或多个社交、交流和/或感官技能。一个或多个平静任务可以与其他任务交错,以允许受试者返回基线和/或允许受试者从其他任务中休息和恢复,这些其他任务可能会在总体上压倒受试者。在下文进一步讨论的图4中更详细地描述了此类任务。
48.例如,一个或多个任务可以包括经由使用xr装置202呈现的xr环境并向受试者呈现一个或多个友好或不友好的化身对象组,其中友好或不友好的行为通过语言和非语言行为来证实,包括眼睛注视、身体接近度、肤色、瞳孔扩张、姿势、手臂位置、身体朝向与远离受试者、相互眼睛注视、眼轮匝肌或额肌收缩引起的眼窝变宽、以及话语的速度、音高、节奏和语义内容。又如,一个或多个任务可以包括经由使用xr装置202呈现的xr环境并向受试者呈现一个或多个化身对象,该一个或多个化身对象相对于彼此和相对于受试者的行为的特征在于关于以下方面的化身之间的时滞语言和非语言模仿:眼睛注视、身体接近度、肤色、瞳孔扩张、姿势、手臂位置、身体朝向与远离受试者、相互眼睛注视、眼轮匝肌或额肌收缩引起的眼窝变宽、以及话语的速度、音高、节奏和语义内容。
49.扩展现实环境可以由扩展现实装置外部的计算装置(诸如支持计算装置201)管理。例如,扩展现实环境可以由xr装置202等扩展现实装置呈现,但是该环境的控制(例如,
决定要呈现哪些场景、决定要模拟哪些感官输入)可以由单独的计算设备(诸如在临床医生所管理的平板电脑上执行的应用程序)控制。临床医生可以在各种情境(例如当在扩展现实环境中监测受试者的活动时等)中控制环境。
50.可以使用视频、文本或其他学习材料来增强扩展现实环境。例如,提供扩展现实环境可以包括xr装置202初始向受试者提供指示环境的目标的指令(例如,在环境中或其他地方,诸如在平板电脑上、在小册子中等)。这样,受试者可以被告知要在扩展现实环境中测试的一个或多个社交、交流和/或感官技能。
51.在步骤303中,机载计算装置204和/或支持计算装置201可以收集包括一个或多个数据参数的治疗数据。xr装置202所呈现的扩展现实环境可以被配置为在各种场景中收集(例如,周期性地)与受试者相关联的一个或多个数据参数(例如,以及执行一个或多个任务)。作为简单实例,扩展现实环境可以包括模拟虚拟商店的场景,其中受试者的任务是使用口头交流技能来购买物品,并且其中受试者的语音音量被监控以确定受试者是否以适当的音量说话。该场景可以但不必模拟真实世界情况(其中患有asd的受试者可能会遇到困难)。例如,该场景可以模拟人群拥挤的聚会,呈现出一种情况,其中患有asd的受试者可能有特别困难,并且可以监测受试者忽略突然的干扰的能力。该场景可以测试一个或多个此类参数。例如,场景可以被配置为测试受试者与陌生人说话的能力和受试者忽略干扰(例如,意外的巨响)的能力两者。
52.数据参数可以包括与受试者、扩展现实环境、场景等相关联的任何信息。数据参数可以对应于从例如生物识别跟踪装置205接收的生物标志物数据,使得数字参数可以包括例如受试者的心率。数字参数不必来自与扩展现实装置相关联的传感器或装置。例如,可以使用扩展现实装置和/或外部装置(诸如生物识别跟踪装置205(例如,其可以是受试者的健身装置或其他可穿戴装置或监视器))来收集生物标志物数据。又如,可以从生物识别跟踪装置205(例如,受试者的智能手表或智能电话)收集心率数据。再如,此类心率数据可以来自脑电图(eeg)(其可以是生物识别跟踪装置205中的一个生物识别跟踪装置)。再如,数字参数可以包括叠加在如使用eeg(其可以是生物识别跟踪装置205的一部分)获取的脑节律数据上的心率数据。
53.数据参数可以是主观的或客观的。例如,一些数据参数可以与对受试者词语使用的主观评价有关,而其他数据参数可对应于对受试者的瞳孔扩张的客观测量。数据参数可以包括临床医生得出的受试者的社交、交流和/或感官功能的分数。另外地和/或可替代地,此类数据参数可以包括临床医生得出的受试者的日常生活技能的分数。此类临床医生得出的分数可以是主观的或客观的。此类临床医生得出的分数可以源自临床医生所操作的装置,诸如膝上型计算机或平板电脑。类似地,数据参数可包括护理人员得出的受试者的社交、交流和/或感官功能的分数。另外地和/或可替代地,此类数据参数可以包括护理人员得出的受试者的日常生活技能的分数。此类护理人员得出的分数可以是主观的或客观的。此类护理人员得出的分数可以源自护理人员所操作的装置,诸如智能电话。
54.在扩展现实环境中呈现场景期间,机载计算装置204和/或支持计算装置201可以收集数据参数,包括受试者与其他个体(例如,表示个体的化身)的身体接近度。患有asd的个体可能倾向于在自己与他人之间保持过大或过小的距离。如此,可以收集受试者与个体(例如,场景中显示的化身,无论此类化身是否表示真实的个体)的身体接近度作为一个此
类数据参数。可以使用提供扩展现实环境的如在机载计算装置204和/或支持计算装置201等计算装置上执行的软件以及运动敏感装置203c和/或位置跟踪元件203e等传感器来收集此类数据参数。身体接近度可以指示受试者是离个体(例如,化身)太近还是太远。因此,指示受试者与其他个体的身体接近度的所收集的数据参数可以指示数据参数是否满足与站得太近相关联的阈值和/或与站得太远相关联的阈值。可以修改此类阈值以考虑例如文化差异、情境差异等。例如,与机场相比,人群拥挤的聚会可具有不同的阈值,法国的社交适当距离可能与中国的社交适当距离略有不同。这样,可以评估受试者在互动过程中是否与他人保持可接受的距离。
55.在扩展现实环境中呈现场景期间,机载计算装置204和/或支持计算装置201可以收集数据参数,包括隐性非语言交流参数,诸如受试者的瞳孔扩张和/或身体姿势。此类非语言交流参数可以指示受试者的感受,包括受试者是否受到压力(和/或经历所谓的“战斗或逃跑”反应)。例如,处于压力下的受试者可能表现出瞳孔扩张。对此类数据参数的监测可以由扩展现实装置(诸如xr装置202)并使用传感器(诸如运动敏感装置203c、相机203d和/或位置跟踪元件203e)来执行。作为特定实例,相机203d中的一个或多个相机可以被配置为监测受试者的瞳孔大小。
56.在扩展现实环境中呈现场景期间,机载计算装置204和/或支持计算装置201可以收集数据参数,包括非语言交流参数,诸如点头、受试者是注视还是眼睛移离另一个人和/或化身对象、使用者是注视还是眼睛移离另一个人和/或化身对象的面部、使用者是注视还是眼睛移离另一个人和/或化身对象的眼睛等等。可以在受试者参与场景的一个或多个任务期间(诸如当被提示看向特定方向时)收集此类数据参数。患有asd的受试者可能不太可能看向他们正在与其交谈的人。特别地,因为看向其他人的眼睛可能会使受试者感到脆弱,所以他们看向化身的眼睛的可能性可表明他们在特定场景和/或执行特定任务时的舒适度。对此类数据参数的监测可以由扩展现实装置(诸如xr装置202)并使用传感器(诸如运动敏感装置203c、相机203d和/或位置跟踪元件203e)来执行。
57.在xr装置202在扩展现实环境中呈现场景期间,机载计算装置204和/或支持计算装置201可以收集数据参数,包括语言交流参数,诸如受试者的语音速度、语音音量、语音振幅微扰、语音频率微扰和语音频率轨迹。可以在受试者参与场景的一个或多个任务期间(诸如当被提示与化身说话时)收集此类数据参数。此类数据参数可以指示asd症状,因为患有asd的受试者可能(特别是在紧张的情况下)会出乎意料地快速、安静地说话和/或以不寻常的方式调整他们的声音。另外,该场景可以测试数据参数,包括需要分析受试者的语音的语言交流参数。此类分析可以提供关于例如受试者的直率和同理心的信息。例如,数据参数可以包括受试者的语音矢量化词语嵌入。又如,数据参数可以反映受试者的语音的语义分析,包括此类语音的情感分析。可以经由xr装置202等扩展现实装置,使用音频装置203b等传感器,并且在受试者处于包括一个或多个任务的场景中的同时来执行对此类数据参数的监测。可以在提供场景期间或之后执行对受试者的语音的分析。例如,可以以文本形式记录(例如,使用语音识别算法)受试者的语音,然后分析该语音以评估词语选择。
58.在xr装置202在扩展现实环境中呈现场景期间,机载计算装置204和/或支持计算装置201可以收集数据参数,包括社交强度参数,诸如真实或模拟的其他受试者的存在、此类真实或模拟的受试者的数量、这些真实或模拟的受试者相对于彼此以及相对于该受试者
的时间协调性、相对于单独活动共同参与的真实或模拟的其他受试者的数量、参与每个此类共同活动的受试者的数量、社交活动与非社交活动的相对奖励、和/或与真实或模拟的其他人和在它们之间共享的与非共享的社交目标的存在。可以在受试者参与场景的一个或多个任务期间(诸如当被提示穿过模拟的繁忙街道或在模拟的拥挤商店中行走时)收集此类数据参数。此类数据参数可以指示呈现给受试者的场景的总体难度。例如,嘈杂的人群拥挤的聚会可能会对受试者呈现特别困难的场景,而具有单个虚拟化身的安静房间可能会呈现难度相对较低的场景。
59.在xr装置202在扩展现实环境中呈现场景期间,机载计算装置204和/或支持计算装置201可以收集数据参数,包括感官强度参数,诸如听觉和空间频率含量以及各种频率下的听觉和空间功率。可以在受试者参与场景的一个或多个任务期间(诸如当被提示在嘈杂或其他令人讨厌的环境中执行任务时)收集此类数据参数。此类数据参数可以指示受试者接收到的感官信息的强度(例如,场景中受试者周围的噪音有多大),这可以(与上文一样)为患有asd的个体指示场景的总体难度。可以另外地和/或可替代地由xr装置202等扩展现实装置并使用音频装置203b等传感器来执行对此类数据参数的监测。
60.在xr装置202在扩展现实环境中呈现场景期间,机载计算装置204和/或支持计算装置201可以收集数据参数,包括感官复杂度参数,诸如虚拟场景中听觉和视觉对象的数量。与上文一样,场景中分散注意力和/或不友好的元素的数量(例如,特定场景中亮灯的数量)可能会影响此类场景针对患有asd的个体的难度。此外,场景中的人数(无论是化身还是真人)可能会影响此类场景针对患有asd的个体的难度。
61.在xr装置202在扩展现实环境中呈现场景期间,机载计算装置204和/或支持计算装置201可以收集数据参数,包括感官可预测性参数,诸如确定感官强度和复杂度的时序熵。可以在受试者参与场景的一个或多个任务期间(诸如当被提示在发生突然和意外问题的类似危机的环境中执行任务时)收集此类数据参数。患有asd的个体可能更难处理不可预测的感官输入,诸如突然的巨响。如此,数据参数可(与上文讨论的一些其他数据参数一样)表明场景针对受试者的总体难度。可以使用在扩展现实环境中提供场景的如在机载计算装置204和/或支持计算装置201等计算装置上执行的软件来收集此类数据参数。
62.机载计算装置204和/或支持计算装置201可以基于场景的时间和/或条件来收集和评估所有数据参数,包括将第一数据参数与第二数据参数进行比较。对于这些数据参数中的一个或多个数据参数,机载计算装置204和/或支持计算装置201可以计算时间滞后。例如,可以计算最大代理间相关性的时间滞后和/或最大代理间相关性。机载计算装置204和/或支持计算装置201可以基于场景的条件来归一化这些数据参数中的一个或多个数据参数。例如,如果场景的声音也很大,则受试者的语音音量可能被认为是正常的(即使很高)。数据参数可以包括在合适的线性或非线性变换下的值(例如,上述数据参数中的一个或多个数据参数的值)的加权总和。例如,数据参数可以包括在线性或非线性变换下护理人员报告的、临床医生报告的和自我报告的结果的加权总和。数据参数可以用于特定的时间窗口和/或时期。机载计算装置204和/或支持计算装置201可以以预定间隔收集数据参数,并且此类预定间隔可以基于例如收集的数据参数的数量、场景的强度、数据参数所需的保真度等。
63.在步骤304中,机载计算装置204和/或支持计算装置201可以评估治疗数据(包括
一个或多个数据参数)。可以将治疗数据与相对于步骤301讨论的现有数据进行比较。步骤304可以包括机载计算装置204和/或支持计算装置201确定受试者在asd症状方面是否已经改善或退步。
64.确定受试者是否在他们的技能获得方面已经改善、保持不变或退步可以包括:机载计算装置204和/或支持计算装置201将治疗数据与现有数据之间的差异与预定阈值进行比较。可以设置预定阈值以避免微小的测量变化不正确地指示改善或退步。即,治疗数据不必显示一个或多个维度的改善以证明受试者的改善。例如,在步骤302中呈现的虚拟、增强和/或混合环境中呈现的场景可能比先前的场景更复杂(例如,涉及更多的化身,涉及更多意想不到的感官信息),使得受试者可能在该场景中表现得更糟糕但相对于过去的行为可能会有所改善。因此,作为步骤304的一部分,机载计算装置204和/或支持计算装置201可以基于关于所提供的场景的信息(例如,感官强度参数、感官复杂度参数、感官可预测性参数、社交强度参数等)来归一化某些参数(例如,隐性非语言交流参数、非语言交流参数、语言交流参数等)。
65.在步骤305中,基于评估,机载计算装置204和/或支持计算装置201可以确定是否修改在扩展现实环境中呈现的场景。特别地,基于对治疗数据的评估(例如,受试者在一个或多个技能方面是提高还是退步),可能期望修改扩展现实环境以鼓励受试者在例如不同的场景中继续提高一个或多个技能。增加场景的难度可能是有利的,特别是当受试者已经熟练掌握了较简单的场景时。例如,在确定受试者已经掌握简单的社交场景(例如,与朋友共进晚餐)之后,可有益的是,机载计算装置204和/或支持计算装置201修改扩展现实环境以呈现相对更复杂的社交场景(例如,有陌生人的拥挤聚会)。如果步骤305的回答是肯定的,则流程图进行到步骤306。否则,流程图进行到步骤307。
66.在步骤306中,基于确定修改扩展现实环境(例如,修改扩展现实环境中呈现的一个或多个场景),机载计算装置204和/或支持计算装置201可以使xr装置所呈现的环境根据治疗数据进行修改。机载计算装置204和/或支持计算装置201可以通过例如修改现有场景或呈现新场景来增大或减小扩展现实环境的感官输入的强度。机载计算装置204和/或支持计算装置201可以通过例如修改现有场景或呈现新场景来增大或减小扩展现实环境的复杂度。扩展现实环境的上下文(例如,位置、化身的身份等)可以由机载计算装置204和/或支持计算装置201改变。
67.机载计算装置204和/或支持计算装置201对扩展现实环境的修改可以包括:修改一个或多个场景中各种感官挑战的强度或难度,诸如修改视觉和/或听觉和/或触觉分量,诸如频率含量(例如,在触觉、空间和听觉频谱中)、强度(例如,每个频率上的振幅和/或功率)、复杂度(例如,环境中视觉对象和/或不同的音频源或触觉源的数量)和/或这些感官特征随时间的可预测性(例如,时序熵)。
68.机载计算装置204和/或支持计算装置201对扩展现实环境的修改可以包括:在一个或多个场景中修改各种社交挑战的强度或难度,诸如真实或模拟的其他受试者的存在、这些其他真实或模拟的受试者的数量、这些受试者的行为相对于彼此和相对于该受试者的时间协调性、相对于单独活动共同参与的真实或模拟的其他受试者的数量、参与每个此类共同活动的受试者的数量、社交活动与非社交活动的相对奖励、与真实或模拟的他人以及在真实或模拟他人之间共享的与非共享的社会目标的存在、这些社交特征随时间的可预测
性等。
69.机载计算装置204和/或支持计算装置201对扩展现实环境的修改可以包括:修改一个或多个场景的各种交流挑战的强度或难度,诸如真实和/或模拟的使用者之间的非语言行为(例如,肢体语言、面部表情和身体接近)的效价和强度、语言行为(例如,音量、音高、节奏和音调等声学特征以及包括语义词语嵌入向量的语义特征)的效价、强度和一致性、同时进行交流的真实或模拟的他人的数量、与真实或模拟的他人和在真实或模拟的他人之间共享的与非共享的交流目标的存在、这些交流特征随时间的可预测性等。使用上述语义词语嵌入向量可以基于word2vec等模型和/或glove等替代嵌入算法。
70.作为步骤306的一部分,机载计算装置204和/或支持计算装置201可以显示步骤304的评估结果。结果可以显示给受试者或其他个体(诸如临床医生)。受试者可以因为他们的进步而获得奖励(例如,使用积分系统)。此类奖励可以允许受试者例如装饰场景中的空间。
71.在步骤307中,机载计算装置204和/或支持计算装置201可以确定是否结束扩展现实环境的呈现。呈现可以在以下时间结束:特定时间段结束时、当受试者在扩展现实环境中完成特定场景时、当受试者在治疗数据中产生特定值时等。如果回答是肯定的,则流程图结束。否则,流程图返回步骤302。
72.不同场景的实例
73.图4描绘了表示可如何将不同任务呈现为图3的步骤302中呈现的扩展现实环境的一部分的图。示出了测试场景401、观察场景402、学习场景403、实践场景404和放松场景405。如图4中箭头所示,不同的任务可以相互关联,使得例如治疗性干预可以包括:将受试者从学习场景403移动到测试场景401、从测试场景401移动到放松场景405等。
74.在测试场景401中,机载计算装置204和/或支持计算装置201可以确定要训练的一个或多个技能。例如,可以向受试者呈现一系列快速的场景以测试哪些技能可能特别薄弱和/或需要注意。又如,可以向受试者、临床医生和/或护理人员呈现要训练的技能的列表。测试场景401可以被称为“技能温度计”模块。
75.在观察场景402中,机载计算装置204和/或支持计算装置201可以经由xr装置202所呈现的xr环境向受试者提供观察症状相关行为的机会。例如,可以向受试者展示应该发展的技能的实例、其中技能没有被正确使用的交互的实例等。观察场景402可以被称为“see one(看一看)”模块。
76.在学习场景403中,机载计算装置204和/或支持计算装置201可以经由xr装置202所呈现的xr环境向受试者提供扩展现实环境中的学习机会。此类机会可以包括允许受试者测试社交互动、练习看化身的眼睛、练习说话等。学习场景403可以被称为“do one(做一做)”模块。
77.在实践场景404中,机载计算装置204和/或支持计算装置201可以经由xr装置202所呈现的xr环境向受试者提供将在扩展现实环境中学习到的技能转移到真实世界的策略。作为实践场景404的一部分,可以评估受试者将此类技能转移到真实世界的能力。实践场景404可以称为“live one(生活实践)”模块。
78.实践场景404可以包括向受试者提供实施在扩展现实环境中学习到的技能的策略。例如,实践场景404可以包括将技能对应的数据添加到受试者的日历中,以便提醒受试
者在特定时间练习该技能。又如,实践场景404可以包括向受试者发送消息(例如,文本消息、电子邮件)以提醒他们在扩展现实环境中学习到的技能。再如,实践场景404可以包括在现实生活中执行与技能相关联的特定任务之前和之后检查受试者,这可以使受试者为任务做好准备(例如,通过询问“你准备好了吗?”)以及从受试者接收有关技能的反馈(例如,通过询问“进展如何?”)。
79.在放松场景405中,机载计算装置204和/或支持计算装置201可以经由xr装置202所呈现的xr环境向受试者提供在虚拟环境中的生理和/或心理放松。此类场景可以包括向受试者提供具有由受试者选择和/或修改的元素的房间,使得受试者可以享受放松场景405的熟悉感。放松场景405可以被称为“我的房间”模块。
80.可以重复图4中描述的所有场景。任何场景的强度都可基于任何其他场景的结果而提高。例如,学习场景403的强度可以基于以下来提高:确定来自实践场景404的结果表明受试者没有准备好将一个或多个技能转移到真实世界。
81.图5描绘了用于呈现扩展现实环境的流程图。图3中所示的步骤可以被执行来例如监测、评估和/或治疗与经测试受试者的一种或多种社交、交流和/或感官缺陷症状。
82.在步骤501中,机载计算装置204和/或支持计算装置201可以加载行为数据。例如,机载计算装置204和/或支持计算装置201可以接收识别与asd症状相关联的一种或多种行为数据。行为数据可以识别和/或以其他方式指示与asd症状相关联的行为。数据可以由一个或多个服务器或其他源(诸如数据库206)接收。例如,可以从由临床医生维护的数据库接收数据,该数据指定与asd症状相关的行为。可以基于分析与asd相关联的原始数据集来产生行为数据。例如,可以收集来自患有asd的受试者的受试者数据的数据集,并且可以处理此类数据以确定受试者之间的共性。
83.在步骤502中,机载计算装置204和/或支持计算装置201可以加载场景数据。可以数据库206等数据库加载此类场景数据。场景数据可以是定义场景的数据(包括要在场景中执行的任何任务),并且可以包括对场景环境的指示(例如,便利店等位置)、环境中的一个或多个对象(例如,化身对象、椅子、墙等)、要在环境中执行的一个或多个任务(例如,在便利店中查找并购买商品)(包括这些任务是否应按特定顺序执行(例如,购买物品的任务次序:定位物品、定位收银员、取出钱、为物品付款、离开商店))和/或要测量以评估任务是否完成以及完成的程度的数据以及用于计算评估任务完成的水平/程度的行为分数的任何逻辑。例如,机载计算装置204和/或支持计算装置201可以接收指定多个不同任务的场景数据,其中多个不同任务被配置为训练与一种或多种行为(与asd症状相关联)相关联的技能。场景数据可以包括训练场景。场景数据可以指示用于训练一种或多种asd症状的参数。例如,场景数据可以指示不患asd的个体在与其他人交谈时看向其他人的眼睛的适当时间量。场景数据可以包括要完成的活动(例如,任务)的列表。例如,场景数据可指示患有asd的受试者应该练习清楚地说话,以提高他们说话的信心。场景数据可以包括指示一个或多个阈值的数据。例如,场景数据可以包括指定受试者应该与另一个人保持的可接受距离(例如,最小距离和最大距离两者)的数据。
84.场景数据可以包括任务序列。任务序列可以是受试者执行多个任务的任何次序。例如,物品购买活动的任务序列可包括:首先进入虚拟商店,然后定位物品,然后拿起物品,然后将物品带到柜台,然后与店员交谈,然后为物品付款,然后离开。
85.场景数据可以包括相对于图3的步骤301讨论的现有数据的全部或部分。例如,场景数据可以包括指示特定受试者的表现历史的信息、对受试者擅长哪些任务的指示等。如下文进一步描述的,此类信息可用于帮助确定供受试者执行的后续任务。
86.在步骤503中,xr装置202可以向受试者提供扩展现实环境。例如,机载计算装置204和/或支持计算装置201可以使xr装置向受试者呈现xr环境。该xr环境可包括具有一个或多个任务的场景(例如,由场景数据定义的场景)。该步骤可以与图3的步骤302相同或相似。
87.在步骤504中,xr装置202可以在扩展现实环境中的场景中呈现对象。例如,机载计算装置204和/或支持计算装置201可以使xr装置在xr环境中向受试者呈现包括场景中指定的多个不同任务中的至少一个第一任务的场景,其中至少一个第一任务被配置为训练与对与asd症状相关联的一种或多种行为的改善相关联的第一技能,并且其中至少一个第一任务被配置为提示受试者在xr环境中与一个或多个对象进行互动。例如,场景数据可以对应于在社交互动中训练受试者,并且基于场景数据呈现在xr环境中的场景可以包括与从店员处购买物品相关联的一个或多个任务。在扩展现实环境中呈现对象可以包括显示对象的一个或多个视觉表示。例如,在上述场景中,可以描述对象的各种视觉表示:店员、商店货架、柜台、虚拟货币等。例如,在扩展现实环境中呈现对象可以包括机载计算装置204和/或支持计算装置201确定与对象相对应的三维模型并将其显示在扩展现实环境中。回到上面的实例,此类三维模型可对应于上面的对象,使得xr环境被配置为看起来像真实的三维商店。呈现对象不必意指对象总是呈现给受试者。例如,如果受试者在扩展现实环境中远离对象,则出于处理效率的目的,可以将对象从环境中移除。如此,例如,并且返回到上述场景实例,远离店员可能导致xr环境停止渲染该店员以保留处理资源。
88.呈现对象可以是由xr装置202并在扩展现实环境中的场景中呈现任务(诸如相对于图3和图4所讨论的任务)的一部分。该任务可以是由例如场景数据指定的多个不同任务中的一个任务。该任务可以被配置为训练与对与asd症状相关联的一种或多种行为的改善相关联的技能。该任务可以提示受试者与一个或多个对象交互。该技能可以对应于以下中的一者或多者:受试者的语音模式、受试者的眼睛注视、受试者的位置和/或受试者的移动。
89.xr装置202可以使扩展现实环境在场景中一次呈现多个任务。例如,呈现对象可能是呈现多个任务(诸如第一任务(例如,训练asd症状的任务)和日常生活任务(例如,受试者必须在第一任务期间完成的任务))的一部分。这样,本文讨论的步骤可涉及多个任务,这些任务可以被分配给受试者以顺序或并行地执行。如将在下文进一步详述的,这可以有利地允许测试一个任务(例如,与训练asd症状相关联的一个任务),同时指派受试者执行一系列其他模拟任务(例如,日常生活任务)。
90.作为对象的实例,xr装置202可以经由扩展现实环境(并且例如在场景中)呈现化身对象。可以提示受试者通过例如与化身对象交谈、将他们自己定位在化身对象周围等来与化身对象交互。xr装置202可以监测此类交互(例如,成功的对话、成功地与化身握手)的执行。
91.在步骤505中,机载计算装置204和/或支持计算装置201可以接收交互数据。例如,机载计算装置204和/或支持计算装置201可以检测与在xr环境中呈现的场景中的一个或多个对象的受试者交互。交互数据可以包括指示利用扩展现实环境的任何部分与受试者交互
的任何数据。交互数据可以另外地和/或可替代地被称为受试者数据。交互数据可以包括例如受试者站立或移动的位置、受试者看向(例如眼睛注视)的位置、受试者发出的语音或其他声音等。
92.交互数据可以包括与相对于图3的步骤303描述的治疗数据相同或相似的数据。例如,交互数据可以包括关于受试者的各种信息,诸如他们的语音模式、他们的眼睛在看哪里、他们的心率等。
93.交互数据可以基于检测与扩展现实环境中(例如,场景中)的一个或多个对象交互的受试者。受试者可以例如移动对象、对对象说话、注视对象或以其他方式相对于对象执行或不执行任何动作。
94.交互数据不必包括关于受试者肯定地与任何对象交互的信息。例如,受试者不与对象交互本身可以是有价值的数据。例如,受试者盯着地板且不与化身对象交互本身可以是有价值的数据点,用于确定该受试者是否正在完成场景中的分配任务(例如,形成并保持与对话伙伴的眼神接触)。
95.如相对于图3的步骤303简要讨论的那样,机载计算装置204和/或支持计算装置201接收交互数据可以另外地和/或可替代地包括收集眼睛跟踪数据。可以使用扩展现实装置的一个或多个眼睛跟踪系统来收集此类眼睛跟踪数据。例如,眼睛跟踪数据可以由相机203d和/或位置跟踪元件203e收集。使用眼睛跟踪数据,可以通过识别在执行任务期间受试者在场景中所观察的一个或多个第二对象来产生注视数据。例如,可以将眼睛跟踪数据与扩展现实环境所呈现的场景中的对象的位置进行比较,以确定受试者是否正在观察对象。注视数据可由此指示受试者是否观察了一个或多个第二对象(例如,化身对象)的特定区(例如,眼睛、脚)。这样,使用注视数据,可以确定受试者是观察了对象的社交适当部分(例如,化身对象的眼睛)还是对象的社交不适当部分(例如,化身对象的胸部)。类似地,注视数据可以指示受试者是否在时间段内从一个或多个对象移开了目光。这样,注视数据可指示受试者躲避看向对话伙伴。如此,该信息中的任何信息都可以是场景(例如,在步骤502中接收的场景)的输入,该输入可以用于确定是否和/或如何修改场景(例如,由xr装置202呈现的xr环境)。例如,机载计算装置204和/或支持计算装置201可以使用该场景来确定眼睛跟踪数据是否指示asd症状。
96.还如相对于图3的步骤303简要讨论的那样,机载计算装置204和/或支持计算装置201接收交互数据可以另外地和/或可替代地包括收集声音数据。声音数据可以对应于受试者与扩展现实环境中呈现的场景中的一个或多个对象的声音交互。例如,声音数据可以对应于由受试者朝化身对象说出的语音。声音数据可以由诸如可以是音频装置203b的一部分的麦克风接收。基于声音数据,可以计算信心分数。信心分数可以与受试者说话时的信心相关联。例如,过多的停顿或引起不确定性的词语可与相对低的信心分数相关联,而清晰、简洁和足够响亮的语音可与相对高的信心分数相关联。基于声音数据,可以计算清晰度分数。清晰度分数可以与受试者说话时的清晰度相关联。例如,较低的语音可提供相对低的清晰度分数,而可以为足够响亮和清晰的语音提供相对高的清晰度分数。如此,该信息中的任何信息都可以是场景(例如,在步骤502中接收的场景)的输入,该输入可以用于确定是否和/或如何修改场景(例如,由xr装置202呈现的xr环境)。例如,机载计算装置204和/或支持计算装置201可以使用该场景来确定声音数据是否指示asd症状。
97.在步骤506中,机载计算装置204和/或支持计算装置201可以确定是否存在附加传感器。附加传感器可以包括除了在步骤505中接收的交互数据之外还可以提供细节的任何传感器装置。例如,附加传感器可以包括生物识别传感器,诸如生物识别跟踪装置205。如果存在附加传感器,则流程图进行到步骤507。否则,流程图进行到步骤508。
98.在步骤507中,如果存在附加传感器,则机载计算装置204和/或支持计算装置201可以接收传感器数据。例如,机载计算装置204和/或支持计算装置201可以从一个或多个生物识别跟踪装置接收与受试者相关联并且在至少一个第一任务的执行期间收集的生物识别数据,其中计算行为分数包括进一步基于生物识别数据来计算行为分数。传感器数据可以与受试者相关联。例如,传感器数据可以包括对受试者的心率的指示。所收集的传感器数据可以与相对于图3的步骤303讨论的所有或部分治疗数据相同或相似。如此,该传感器数据中的任何传感器数据都可以是场景(例如,在步骤502中接收的场景)的输入,该输入可以用于确定是否和/或如何修改场景(例如,由xr装置202呈现的xr环境)。例如,机载计算装置204和/或支持计算装置201可以使用该场景来确定传感器数据是否指示asd症状。
99.传感器数据可以包括从一个或多个生物识别跟踪装置接收的、对应于受试者并且在执行任务期间收集的生物识别数据。生物识别数据可以包括例如受试者的心率、受试者的血氧水平等。此类信息可以指示例如受试者的紧张或受试者的专注。
100.在步骤508中,机载计算装置204和/或支持计算装置201可以执行场景数据以识别对扩展现实环境(例如,在扩展现实环境中呈现的场景)的修改。该步骤可以与图3的步骤305相同或相似。修改可以基于交互数据、传感器数据和/或场景数据。场景数据可以包括要由受试者执行的任务序列。例如,任务序列可以指定,为了训练对象在商店中进行的交互,可以提示对象首先进入商店,然后定位物品,然后将物品带到收银员,然后为物品付款。换句话说,基于任务序列,可以识别任务序列的下一步骤,并且可以基于任务序列的下一步骤来确定修改。
101.作为识别对扩展现实环境的修改的一部分,机载计算装置204和/或支持计算装置201可以计算指示(例如,基于指示以下行为的数据而产生)与asd症状相关联的一种或多种行为的行为分数。例如,机载计算装置204和/或支持计算装置201可以基于一个或多个受试者交互来计算指示(例如,提供对以下行为的客观测量)与asd症状相关联的一种或多种行为的行为分数。计算分数可以包括计算对应于受试者交互的执行度量。例如,执行度量可以对应于受试者对问题的响应速度、他们离化身对象多近或多远等。又如,计算装置可以计算行为分数,该行为分数包括特定受试者表现出可能与asd症状相关的行为的频率的排序,并且执行度量可以与这些行为相关联。如果接收到生物识别数据,则计算行为分数可以包括:机载计算装置204和/或支持计算装置201将生物识别数据与由场景数据建立的标准进行比较。例如,场景数据可以包括对心率超过每分钟100次表示紧张的指示,并且来自生物识别数据的心率可以与该每分钟100次的阈值进行比较。
102.机载计算装置204和/或支持计算装置201识别对扩展现实环境(例如,在扩展现实环境中呈现的场景)的修改可以包括选择第二任务。可以从由场景数据指定的多个不同的任务选择该任务。选择该任务可以基于行为分数。第二任务可以与最初呈现给受试者的任务相同或不同。例如,受试者可能首先被呈现两个任务(例如,与收银员交谈并打开钱包以定位信用卡),并且修改可能包括呈现替代两个任务中的一个任务的第二任务(例如,使得
受试者的任务是在使用销售点系统为商品付款时仍与收银员交谈)。因此,选择第二任务可以包括替换场景的一个任务,同时还保持同一场景的另一任务进行。
103.可以基于受试者对一个或多个先前任务的执行来选择第二任务。如例如上面讨论的交互数据所指示,受试者可能很好地或较差地执行一个或多个任务。沿着这些思路,仅仅受试者完成任务这一事实不必指示受试者很好地完成了任务,也不必指示受试者正在解决与asd相关的症状。如此,可以基于一个或多个先前任务的执行质量来选择第二任务。例如,如果受试者在过去的任务中做得特别好,则可以选择第二任务来增加场景难度级别。此类场景难度级别可以是场景中呈现的多个任务的难度级别的总和。例如,对于涉及走进聚会的场景,打开门的任务可能相对容易,但对于患有asd的个体来说,下一任务(例如,向聚会上的某人问好)可能要困难得多,使得场景难度级别可能相对高。相反,如果受试者在过去的任务中表现不佳,则可以选择第二任务来降低场景难度级别。也可存在完成了一个或多个先前任务,但受试者执行这些先前任务的质量是平均的和/或如预期的那样的情况。在此类情况下,可以基于任务的逻辑顺序来选择第二任务,该逻辑顺序可以由场景数据定义。例如,如果场景数据指示三个任务的逻辑顺序并且受试者很好地执行第一任务(但不是特别好或很差),则可以相应地选择顺序中的下一任务。
104.可以另外地和/或可替代地基于行为分数等交互数据来选择第二任务。受试者的交互数据(例如,相对于一种或多种asd症状)可用于选择第二任务,使得第二任务训练、改善和/或以其他方式解决asd症状。例如,如果受试者很好地完成了任务并且行为分数为正(例如,这表明受试者没有以反映asd症状的方式做出表现),则可以将第二任务选择为稍微困难,以便训练受试者。相反,如果受试者很好地完成了任务,但行为分数为负(例如,这表明受试者的行为方式反映了处理asd症状的困难),则第二任务可以被选择为稍微容易,以便让受试者休息。
105.可以基于来自受试者的反馈来选择第二任务。受试者可以提供关于场景和/或场景的一个或多个任务的反馈。例如,反馈可指示受试者感到自信、担心、不知所措等。可以经由机载计算装置204和/或支持计算装置201通过例如在xr环境中呈现提示、接收来自受试者的语言反馈等来接收此类反馈。基于反馈,可以选择第二任务。例如,如果受试者感到自信,则可以选择相对更困难的第二任务。又如,如果受试者感到担心和/或不知所措,则可以选择相对更容易的任务。
106.在步骤509中,机载计算装置204和/或支持计算装置201可以确定是否修改扩展现实环境(例如,通过修改由扩展现实环境呈现的场景)。例如,机载计算装置204和/或支持计算装置201可以从多个不同任务并基于指示与asd症状相关联的一种或多种行为的行为分数来选择多个不同任务中的至少一个第二任务,其中至少一个第二任务被配置为训练与对与asd症状相关联的一种或多种行为的改善相关联的第二技能,该第二技能不同于第一技能。确定是否修改扩展现实环境可以基于场景数据。例如,如果场景数据指定任务序列,则确定是否修改扩展现实环境可以包括确定一个任务完成,使得应该将下一任务(例如,任务序列中的下一任务)呈现给受试者。如果确定修改扩展现实环境,则流程图进行到步骤510。否则,流程图返回步骤508。
107.在步骤510中,机载计算装置204和/或支持计算装置201可以使xr装置202呈现的扩展现实环境被修改。例如,机载计算装置204和/或支持计算装置201可以基于场景来修改
xr环境以呈现场景中的第二任务。可以基于在步骤508中识别的修改来修改扩展现实环境。该步骤可以与图3的步骤306相同或相似。例如,如果修改包括向受试者呈现第二任务,则修改可以包括修改扩展现实环境以在同一或不同场景中呈现第二任务。又如,如果修改包括使当前任务更容易,则可以修改扩展现实环境以降低当前任务的一个或多个部分的难度。
108.在步骤511中,xr装置可以向受试者提供经修改的扩展现实环境。该步骤可以与步骤503和/或图3的步骤302相同或相似。作为呈现经修改的扩展现实环境的一部分,可以确定更新后的行为分数。此类更新后的行为分数可以涉及如相对于图5的步骤508描述的相同或相似的步骤。
109.可以在没有人参与的情况下执行步骤508到步骤511。换句话说,可以自动地并且基于场景数据提供的逻辑来执行这些步骤。这样,临床医生不必参与修改针对受试者的训练计划的过程。这可以有利地允许受试者继续完成多个任务(例如,并行的多个任务、任务序列),而无需另一个人进行肯定监测和干预。
110.在步骤512中,机载计算装置204和/或支持计算装置201可以确定是否结束扩展现实环境的呈现。机载计算装置204和/或支持计算装置201可以确定结束扩展现实环境的呈现,例如,在受试者已经完成了一个或多个场景的一个或多个任务的情况下。例如,如果经修改的扩展现实环境提示受试者并行完成两个任务,则机载计算装置204和/或支持计算装置201可以基于确定两个任务均已完成来结束扩展现实环境的呈现。另外地和/或可替代地,机载计算装置204和/或支持计算装置201可以基于交互数据和/或传感器数据来确定结束扩展现实环境的呈现。例如,如果受试者看起来疲倦、分心或因其他原因而筋疲力尽,则机载计算装置204和/或支持计算装置201可以确定结束扩展现实环境的呈现。如果确定结束扩展现实环境,则流程图结束。否则,流程图返回步骤511。
111.图6a示出了可由xr装置202产生、呈现和/或以其他方式提供的扩展现实环境的实例。特别地,图6a示出了其中提示受试者点餐的示例性扩展现实环境。如图6a所示的扩展现实环境包括类人化身对象601,其在文本气泡602中询问受试者想要点什么餐。向受试者呈现各种选项603,受试者可以通过按下按钮“a”来说出这些选项。xr环境还包括各种干扰,诸如化身对象后面的海报和坐在摊位上的另一个化身对象。在图6a所描绘的实例中,受试者的任务可以是说出选项603中的一个选项,而不是例如移开视线、离开化身对象等。
112.图6a中描绘的扩展现实环境可以是图3的步骤302中呈现的环境和/或图5的步骤503中提供的环境的全部或部分。例如,图6a中描绘的扩展现实环境可以是食品购买场景的扩展现实环境的一部分。在此类实例中,涉及在xr环境中呈现对象的图5的步骤503可以包括渲染图6a中所示的墙、图6a中所示的摊位、图6a中所示的化身对象601等。反过来,在该实例中,作为步骤505(其涉及接收交互数据)的一部分,系统可以接收指示与这些对象中的任何一个对象的交互的交互数据:例如,受试者可能站在墙附近,与化身对象601交谈等。
113.图6b示出了在xr环境中与受试者的行为相关联的输出的实例。特别地,图6b中所示的输出(其可以例如由xr装置202等计算装置呈现和/或以其他方式提供)描绘了与用于改善asd症状的各种策略相关的一系列分数604。分数604从零颗星到三颗星,其中总星数显示在输出的底部。在输出的左侧,显示由受试者完成的任务的列表605。例如,如图6b中的实例所示,受试者完成了包括会见父母、敬酒和玩表情符号游戏的任务,但未参与幻灯片任务。
114.如图6b所示的输出可以是图5的步骤508的一部分,因为其可能与训练场景的执行和识别要对扩展现实环境进行的修改有关。例如,图6b中所示的输出指示受试者在“建立交流”和“使用生活技能”方面表现不佳。因此,被选择为供受试者执行的第二任务可能包括例如与培训“建立交流”和/或“使用生活技能”的技能相关的任务。
115.以下段落(m1)至(m20)描述了可根据本公开实现的方法的实例。
116.(m1)一种用于评估自闭症谱系障碍(asd)的方法,该方法包括:在包括至少一个处理器和存储器并且耦接到扩展现实(xr)装置的计算装置处:接收识别与受试者的asd症状相关联的一种或多种行为的数据;基于一种或多种行为来接收指定多个不同任务的场景,其中多个不同任务被配置为训练与asd症状相关联的技能;使所述xr装置基于所述场景呈现xr环境;使xr装置在xr环境中并向受试者呈现场景中指定的不同任务中的第一任务,其中第一任务被配置为训练与对与asd症状相关联的行为中的至少一种行为的改善相关联的第一技能,并且其中第一任务被配置为提示受试者与xr环境中的对象进行交互;检测与xr环境中的对象的受试者交互;基于受试者交互产生交互数据,该交互数据指示受试者对与asd症状相关联的一种或多种行为的执行;从不同任务中并基于交互数据选择不同任务中的第二任务,其中第二任务被配置为训练与对与asd症状相关联的另外的一种或多种行为的改善相关联的第二技能,该第二技能与第一技能不同;以及基于场景来修改xr环境以呈现第二任务。
117.(m2)根据权利要求1所述的方法,该方法进一步包括:从一个或多个生物识别跟踪装置接收与受试者相关联并且在执行第一任务期间收集的生物识别数据,其中产生交互数据包括进一步基于生物识别数据产生交互数据。
118.(m3)根据权利要求2所述的方法,其中计算与一种或多种行为相关联的分数包括将生物识别数据与由场景建立的标准进行比较。
119.(m4)根据权利要求1至3中任一项所述的方法,其中计算与一种或多种行为相关联的分数包括计算对应于受试者交互的执行度量,该执行度量指示受试者在xr环境中执行一种或多种行为的良好程度。
120.(m5)根据权利要求1至4中任一项所述的方法,其中选择第二任务响应于指示使用者对第一任务无响应的使用输入,并且其中修改xr环境包括在没有人交互的情况下呈现第二任务。
121.(m6)根据权利要求1至5中任一项所述的方法,其中场景指定任务序列,该任务序列包括要按次序执行的多个不同任务,并且其中选择第二任务基于:从多个不同任务并且基于该次序确定要在第一任务之后执行的任务。
122.(m7)根据权利要求1至6中任一项所述的方法,该方法进一步包括:在修改xr环境以呈现第二任务之后,响应于第二任务基于进一步受试者交互来产生更新的交互数据。
123.(m8)根据权利要求1至7中任一项所述的方法,其中第一技能对应于以下中的一者或多者:受试者的语音模式;受试者的眼睛注视;与化身对象的位置相比,受试者的位置;在xr环境中做出的决定;或受试者的移动。
124.(m9)一种用于评估自闭症谱系障碍(asd)的方法,该方法包括:在包括至少一个处理器和存储器并且耦接到扩展现实(xr)装置的计算装置处:接收识别与受试者的asd症状相关联的一种或多种行为的数据;基于一种或多种行为来接收指定多个不同任务的场景,
其中多个不同任务被配置为训练与asd症状相关联的技能;使所述xr装置基于所述场景呈现xr环境;使xr装置在xr环境中并向受试者呈现场景中指定的不同任务中的第一任务,其中第一任务被配置为训练与对与asd症状相关联的行为中的至少一种行为的改善相关联的第一技能,并且其中第一任务被配置为提示受试者与xr环境中的对象进行交互;检测xr环境中与一个或多个对象的一个或多个交互,该一个或多个交互与受试者相关联;通过使用xr装置的眼睛跟踪系统来监测受试者的眼睛运动,收集眼睛跟踪数据;通过基于眼睛跟踪数据来识别受试者在xr环境中在执行任务期间观察的一个或多个第二对象,产生注视数据;基于一个或多个交互并基于注视数据,产生指示由受试者执行与asd症状相关联的一种或多种行为的交互数据;从不同任务并基于交互数据选择不同任务中的第二任务,其中第二任务被配置为训练与对与asd症状相关联的另外的一种或多种行为的改善相关联的第二技能,该第二技能与第一技能不同;以及基于场景来修改xr环境以呈现第二任务。
125.(m10)根据权利要求9所述的方法,该方法进一步包括:在修改xr环境以呈现第二任务之后,响应于第二任务基于进一步受试者交互来产生更新的交互数据。
126.(m11)根据权利要求9或权利要求10所述的方法,其中注视数据指示受试者是否观察一个或多个第二对象的特定区。
127.(m12)根据权利要求11所述的方法,其中一个或多个第二对象包括化身对象,并且其中特定区包括化身对象的眼睛。
128.(m13)根据权利要求9至12中任一项所述的方法,其中注视数据指示受试者是否将目光从一个或多个第二对象移开达一个时间段。
129.(m14)一种用于评估自闭症谱系障碍(asd)的方法,该方法包括:在包括至少一个处理器和存储器并且耦接到扩展现实(xr)装置的计算装置处:接收识别与受试者的asd症状相关联的一种或多种行为的数据;基于一种或多种行为来接收指定多个不同任务的场景,其中多个不同任务被配置为训练与asd症状相关联的技能;使所述xr装置基于所述场景呈现xr环境;使xr装置在xr环境中并向受试者呈现场景中指定的不同任务中的第一任务,其中第一任务被配置为训练与对与asd症状相关联的行为中的至少一种行为的改善相关联的第一技能,并且其中第一任务被配置为提示受试者与xr环境中的对象进行交互;检测xr环境中与一个或多个对象的一个或多个交互,该一个或多个交互与受试者相关联;经由xr装置的一个或多个麦克风,接收对应于受试者与xr环境中的一个或多个对象的声音交互的声音数据;基于受试者交互,产生由受试者执行与asd症状相关联的一种或多种行为的交互数据;从不同任务并基于交互数据选择不同任务中的第二任务,其中第二任务被配置为训练与对与asd症状相关联的另外的一种或多种行为的改善相关联的第二技能,该第二技能与第一技能不同;以及基于场景来修改xr环境以呈现第二任务。
130.(m15)根据权利要求14所述的方法,该方法进一步包括:在修改xr环境以呈现第二任务之后,响应于第二任务基于进一步受试者交互来产生更新的交互数据。
131.(m16)根据权利要求14或权利要求15所述的方法,其中产生交互数据包括:基于声音数据,计算与受试者在说话时的信心相关联的信心分数。
132.(m17)根据权利要求14至16中任一项所述的方法,其中产生交互数据包括:基于声音数据,计算与受试者的语音清晰度相关联的清晰度分数。
133.(m18)一种用于评估自闭症谱系障碍(asd)的方法,该方法包括:在包括至少一个
处理器和存储器并且耦接到扩展现实(xr)装置的计算装置处:接收识别与受试者的asd症状相关联的一种或多种行为的数据;基于一种或多种行为来接收指定多个不同任务的场景,其中多个不同任务被配置为训练与asd症状相关联的技能;使所述xr装置基于所述场景呈现xr环境;使xr装置在xr环境中并向受试者呈现多个不同任务中的第一任务,其中第一任务被配置为训练与对与asd症状相关联的行为中的至少一种行为的改善相关联的第一技能;使xr装置在xr环境中并向受试者呈现多个不同任务中的第二任务,其中第二任务被配置为模拟日常生活技能;通过监测由所述受试者执行所述第一任务和所述第二任务历经一个时间段来收集受试者数据;基于受试者交互来产生交互数据,该交互数据指示由受试者执行与asd症状相关的一种或多种行为;基于交互数据从多个不同任务选择第三任务,该第三任务被配置为训练与对与asd症状相关联的行为中的至少一种行为的改善相关联的第二技能;以及使xr装置基于模板对xr环境进行修改以呈现第二任务和第三任务。
134.(m19)根据权利要求18所述的方法,其中使xr装置修改xr环境包括:使xr环境与第三任务并行地呈现第二任务以由受试者执行。
135.(m20)根据权利要求18或权利要求19所述的方法,其中使xr装置呈现第二任务包括:使xr装置与第一任务并行地呈现第二任务。
136.以下段落(a1)至(a20)描述了可根据本公开实现的设备的实例。
137.(a1)一种设备,该设备耦接到扩展现实(xr)装置用于评估自闭症谱系障碍(asd),该设备包括:一个或多个处理器;以及存储器,该存储器存储指令,该指令在由一个或多个处理器执行时使该设备:接收识别与受试者的asd症状相关联的一种或多种行为的数据;基于一种或多种行为来接收指定多个不同任务的场景,其中多个不同任务被配置为训练与asd症状相关联的技能;使xr装置基于场景来呈现xr环境;使xr装置在xr环境中并向受试者呈现场景中指定的不同任务中的第一任务,其中第一任务被配置为训练与对与asd症状相关联的行为中的至少一种行为的改善相关联的第一技能,并且其中第一任务被配置为提示受试者与xr环境中的对象进行交互;检测与xr环境中的对象的受试者交互;基于受试者交互产生交互数据,该交互数据指示受试者对与asd症状相关联的一种或多种行为的执行;从不同任务并基于交互数据选择不同任务中的第二任务,其中第二任务被配置为训练与对与asd症状相关联的另外的一种或多种行为改善相关联的第二技能,该第二技能与第一技能不同;以及基于场景来修改xr环境以呈现第二任务。
138.(a2)根据(a1)所述的设备,其中指令在由一个或多个处理器执行时使该设备:从一个或多个生物识别跟踪装置接收与受试者相关联并且在第一任务执行期间收集的生物识别数据,其中指令在由一个或多个处理器执行时使该设备进一步基于生物识别数据来产生交互数据。
139.(a3)根据(a2)所述的设备,其中指令在由一个或多个处理器执行时使该设备基于将生物识别数据与由场景建立的标准进行比较来计算与一种或多种行为相关联的分数。
140.(a4)根据(a1)至(a3)中任一项所述的设备,其中指令在由一个或多个处理器执行时使该设备基于计算执行度量来计算与一种或多种行为相关联的分数,该执行度量对应于受试者交互,该执行度量指示受试者在xr环境中执行一种或多种行为的良好程度。
141.(a5)根据(a1)至(a4)中任一项所述的设备,其中指令在由一个或多个处理器执行时使该设备响应于指示使用者对第一任务无响应的使用输入来选择第二任务,并且其中指
令在由一个或多个处理器执行时使该设备通过在没有人工交互的情况下呈现第二任务来修改xr环境。
142.(a6)根据(a1)至(a5)中任一项所述的设备,其中场景指定任务序列,该任务序列包括要按次序执行的多个不同任务,并且其中,指令在由一个或多个处理器执行时使该设备选择第二任务,这基于:从多个不同任务并基于该次序确定要在第一任务之后执行的任务。
143.(a7)根据(a1)至(a6)中任一项所述的设备,其中指令在由一个或多个处理器执行时使该设备:在修改xr环境以呈现第二任务之后,响应于第二任务基于进一步受试者交互来产生更新的交互数据。
144.(a8)根据(a1)至(a7)中任一项所述的设备,其中第一技能对应于以下中的一者或多者:受试者的语音模式;受试者的眼睛注视;与化身对象的位置相比,受试者的位置;在xr环境中做出的决定;或受试者的移动。
145.(a9)一种设备,该设备耦接到扩展现实(xr)装置,用于评估自闭症谱系障碍(asd),该设备包括:一个或多个处理器;以及存储器,该存储器存储指令,该指令在由一个或多个处理器执行时使该设备:接收识别与受试者的asd症状相关联的一种或多种行为的数据;基于一种或多种行为来接收指定多个不同任务的场景,其中多个不同任务被配置为训练与asd症状相关联的技能;使xr装置基于场景来呈现xr环境;使xr装置在xr环境中并向受试者呈现场景中指定的不同任务中的第一任务,其中第一任务被配置为训练与对与asd症状相关联的行为中的至少一种行为的改善相关联的第一技能,并且其中第一任务被配置为提示受试者与xr环境中的对象进行交互;检测xr环境中与一个或多个对象的一个或多个交互,该一个或多个交互与受试者相关联;通过使用xr装置的眼睛跟踪系统来监测受试者的眼睛运动,收集眼睛跟踪数据;通过基于眼睛跟踪数据来识别受试者在xr环境中在执行任务期间观察的一个或多个第二对象,产生注视数据;基于一个或多个交互并基于注视数据,产生指示由受试者执行与asd症状相关联的一种或多种行为的交互数据;从不同任务并基于交互数据选择不同任务中的第二任务,其中第二任务被配置为训练与对与asd症状相关联的另外的一种或多种行为的改善相关联的第二技能,该第二技能与第一技能不同;以及基于场景来修改xr环境以呈现第二任务。
146.(a10)根据(a9)所述的设备,其中指令在由一个或多个处理器执行时使该设备:在修改xr环境以呈现第二任务之后,响应于第二任务基于进一步受试者交互来产生更新的交互数据。
147.(a11)根据(a9)或(a10)所述的设备,其中注视数据指示受试者是否观察一个或多个第二对象的特定区。
148.(a12)根据(a11)所述的设备,其中一个或多个第二对象包括化身对象,并且其中特定区包括化身对象的眼睛。
149.(a13)根据(a9)至(a12)中任一项所述的设备,其中注视数据指示受试者是否将目光从一个或多个第二对象移开达一个时间段。
150.(a14)一种设备,该设备耦接到扩展现实(xr)装置,用于评估自闭症谱系障碍(asd),该设备包括:一个或多个处理器;以及存储器,该存储器存储指令,该指令在由一个或多个处理器执行时使该设备:接收识别与受试者的asd症状相关联的一种或多种行为的
数据;基于一种或多种行为来接收指定多个不同任务的场景,其中多个不同任务被配置为训练与asd症状相关联的技能;使xr装置基于场景来呈现xr环境;使xr装置在xr环境中并向受试者呈现场景中指定的不同任务中的第一任务,其中第一任务被配置为训练与对与asd症状相关联的行为中的至少一种行为的改善相关联的第一技能,并且其中第一任务被配置为提示受试者与xr环境中的对象进行交互;检测xr环境中与一个或多个对象的一个或多个交互,该一个或多个交互与受试者相关联;经由xr装置的一个或多个麦克风,接收对应于受试者与xr环境中的一个或多个对象的声音交互的声音数据;基于受试者交互,产生由受试者执行与asd症状相关联的一种或多种行为的交互数据;从不同任务并基于交互数据选择不同任务中的第二任务,其中第二任务被配置为训练与对与asd症状相关联的另外的一种或多种行为的改善相关联的第二技能,该第二技能与第一技能不同;以及基于场景来修改xr环境以呈现第二任务。
151.(a15)根据(a14)所述的设备,其中指令在由一个或多个处理器执行时使该设备:在修改xr环境以呈现第二任务之后,响应于第二任务基于进一步受试者交互来产生更新的交互数据。
152.(a16)根据(a14)或(a15)所述的设备,其中指令在由一个或多个处理器执行时通过使该设备基于声音数据来计算与受试者在说话时的信心相关联的信心分数,以使该设备产生交互数据。
153.(a17)根据(a14)至(a16)中任一项所述的设备,其中指令在由一个或多个处理器执行时使该设备通过使该设备进行以下来使设备产生交互数据:基于声音数据计算与受试者的语音清晰度相关联的清晰度分数。
154.(a18)一种设备,该设备耦接到扩展现实(xr)装置,用于评估自闭症谱系障碍(asd),该设备包括:一个或多个处理器;以及存储器,该存储器存储指令,该指令在由一个或多个处理器执行时使该设备:接收识别与受试者的asd症状相关联的一种或多种行为的数据;基于一种或多种行为来接收指定多个不同任务的场景,其中多个不同任务被配置为训练与asd症状相关联的技能;使xr装置基于场景来呈现xr环境;使xr装置在xr环境中并向受试者呈现多个不同任务中的第一任务,其中第一任务被配置为训练与对与asd症状相关联的行为中的至少一种行为的改善相关联的第一技能;使xr装置在xr环境中并向受试者呈现多个不同任务中的第二任务,其中第二任务被配置为模拟日常生活技能;通过监测由所述受试者执行所述第一任务和所述第二任务历经一个时间段来收集受试者数据;基于受试者交互来产生交互数据,该交互数据指示由受试者执行与asd症状相关的一种或多种行为;基于交互数据从多个不同任务选择第三任务,该第三任务被配置为训练与对与asd症状相关联的行为中的至少一种行为的改善相关联的第二技能;以及使所述xr装置基于模板修改所述xr环境来呈现所述第二任务和所述第三任务。
155.(a19)根据(a18)所述的设备,其中指令在由一个或多个处理器执行时使该设备通过以下方式来使xr装置修改xr环境:使xr环境与第三任务并行地呈现第二任务以供受试者执行。
156.(a20)根据(a18)或(a19)所述的设备,其中指令在由一个或多个处理器执行时,通过使xr装置与第一任务并行地呈现第二任务而使设备使xr装置呈现第二任务。
157.以下段落(crm1)至(crm20)描述了可根据本公开实现的计算机可读介质的实例。
158.(crm1)一种或多种非暂时性计算机可读介质,其包括指令,该指令在由耦接到扩展现实(xr)装置用于评估自闭症谱系障碍(crmsd)的计算机可读介质的至少一个处理器执行时,使计算机可读介质:接收识别与受试者的asd症状相关联的一种或多种行为的数据;基于一种或多种行为来接收指定多个不同任务的场景,其中多个不同任务被配置为训练与asd症状相关联的技能;使xr装置基于场景来呈现xr环境;使xr装置在xr环境中并向受试者呈现场景中指定的不同任务中的第一任务,其中第一任务被配置为训练与对与asd症状相关联的行为中的至少一种行为的改善相关联的第一技能,并且其中第一任务被配置为提示受试者与xr环境中的对象进行交互;检测与xr环境中的对象的受试者交互;基于受试者交互产生交互数据,该交互数据指示受试者对与asd症状相关联的一种或多种行为的执行;从不同任务中并基于交互数据选择不同任务中的第二任务,其中第二任务被配置为训练与对与asd症状相关联的另外的一种或多种行为的改善相关联的第二技能,该第二技能与第一技能不同;以及基于场景来修改xr环境以呈现第二任务。
159.(crm2)根据(crm1)所述的计算机可读介质,其中指令在由一个或多个处理器执行时使该计算机可读介质:从一个或多个生物识别跟踪装置接收与受试者相关联并且在第一任务执行期间收集的生物识别数据,其中指令在由一个或多个处理器执行时使该计算机可读介质进一步基于生物识别数据来产生交互数据。
160.(crm3)根据(crm2)所述的计算机可读介质,其中指令在由一个或多个处理器执行时使该计算机可读介质基于将生物识别数据与由场景建立的标准进行比较来计算与一种或多种行为相关联的分数。
161.(crm4)根据(crm1)至(crm3)中任一项所述的计算机可读介质,其中指令在由一个或多个处理器执行时使该计算机可读介质基于计算执行度量来计算与一种或多种行为相关联的分数,该执行度量对应于受试者交互,该执行度量指示受试者在xr环境中执行一种或多种行为的良好程度。
162.(crm5)根据(crm1)至(crm4)中任一项所述的计算机可读介质,其中指令在由一个或多个处理器执行时使该计算机可读介质响应于指示使用者对第一任务无响应的使用输入来选择第二任务,并且其中指令在由一个或多个处理器执行时使该计算机可读介质通过在没有人工交互的情况下呈现第二任务来修改xr环境。
163.(crm6)根据(crm1)至(crm5)中任一项所述的计算机可读介质,其中场景指定任务序列,该任务序列包括要按次序执行的多个不同任务,并且其中,指令在由一个或多个处理器执行时使该计算机可读介质选择第二任务,这基于:从多个不同任务并基于该次序确定要在第一任务之后执行的任务。
164.(crm7)根据(crm1)至(crm6)中任一项所述的计算机可读介质,其中指令在由一个或多个处理器执行时使该计算机可读介质:在修改xr环境以呈现第二任务之后,响应于第二任务基于进一步受试者交互来产生更新的交互数据。
165.(crm8)根据(crm1)至(crm7)中任一项所述的计算机可读介质,其中第一技能对应于以下中的一者或多者:受试者的语音模式;受试者的眼睛注视;与化身对象的位置相比,受试者的位置;在xr环境中做出的决定;或受试者的移动。
166.(crm9)一种或多种非暂时性计算机可读介质,其包括指令,该指令在由耦接到扩展现实(xr)装置用于评估自闭症谱系障碍(crmsd)的计算机可读介质的至少一个处理器执
行时,使计算机可读介质:接收识别与受试者的asd症状相关联的一种或多种行为的数据;基于一种或多种行为来接收指定多个不同任务的场景,其中多个不同任务被配置为训练与asd症状相关联的技能;使xr装置基于场景来呈现xr环境;使xr装置在xr环境中并向受试者呈现场景中指定的不同任务中的第一任务,其中第一任务被配置为训练与对与asd症状相关联的行为中的至少一种行为的改善相关联的第一技能,并且其中第一任务被配置为提示受试者与xr环境中的对象进行交互;检测xr环境中与一个或多个对象的一个或多个交互,该一个或多个交互与受试者相关联;通过使用xr装置的眼睛跟踪系统来监测受试者的眼睛运动,收集眼睛跟踪数据;通过基于眼睛跟踪数据来识别受试者在xr环境中在执行任务期间观察的一个或多个第二对象,产生注视数据;基于一个或多个交互并基于注视数据,产生指示由受试者执行与asd症状相关联的一种或多种行为的交互数据;从不同任务并基于交互数据选择不同任务中的第二任务,其中第二任务被配置为训练与对与asd症状相关联的另外的一种或多种行为的改善相关联的第二技能,该第二技能与第一技能不同;以及基于场景来修改xr环境以呈现第二任务。
167.(crm10)根据(crm9)所述的计算机可读介质,其中指令在由一个或多个处理器执行时使该计算机可读介质:在修改xr环境以呈现第二任务之后,响应于第二任务基于进一步受试者交互来产生更新的交互数据。
168.(crm11)根据(crm9)或(crm10)所述的计算机可读介质,其中注视数据指示受试者是否观察一个或多个第二对象的特定区。
169.(crm12)根据(crm11)所述的计算机可读介质,其中一个或多个第二对象包括化身对象,并且其中特定区包括化身对象的眼睛。
170.(crm13)根据(crm9)至(crm12)中任一项所述的计算机可读介质,其中注视数据指示受试者是否将目光从一个或多个第二对象移开达一个时间段。
171.(crm14)一种或多种非暂时性计算机可读介质,其包括指令,该指令在由耦接到扩展现实(xr)装置用于评估自闭症谱系障碍(crmsd)的计算机可读介质的至少一个处理器执行时,使计算机可读介质:接收识别与受试者的asd症状相关联的一种或多种行为的数据;基于一种或多种行为来接收指定多个不同任务的场景,其中多个不同任务被配置为训练与asd症状相关联的技能;使xr装置基于场景来呈现xr环境;使xr装置在xr环境中并向受试者呈现场景中指定的不同任务中的第一任务,其中第一任务被配置为训练与对与asd症状相关联的行为中的至少一种行为的改善相关联的第一技能,并且其中第一任务被配置为提示受试者与xr环境中的对象进行交互;检测xr环境中与一个或多个对象的一个或多个交互,该一个或多个交互与受试者相关联;经由xr装置的一个或多个麦克风,接收对应于受试者与xr环境中的一个或多个对象的声音交互的声音数据;基于受试者交互,产生由受试者执行与asd症状相关联的一种或多种行为的交互数据;从不同任务并基于交互数据选择不同任务中的第二任务,其中第二任务被配置为训练与对与asd症状相关联的另外的一种或多种行为的改善相关联的第二技能,该第二技能与第一技能不同;以及基于场景来修改xr环境以呈现第二任务。
172.(crm15)根据(crm14)所述的计算机可读介质,其中指令在由一个或多个处理器执行时使该计算机可读介质:在修改xr环境以呈现第二任务之后,响应于第二任务基于进一步受试者交互来产生更新的交互数据。
173.(crm16)根据(crm14)或(crm15)所述的计算机可读介质,其中指令在由一个或多个处理器执行时通过使该计算机可读介质基于声音数据来计算与受试者在说话时的信心相关联的信心分数,以使该计算机可读介质产生交互数据。
174.(crm17)根据(crm14)至(crm16)中任一项所述的计算机可读介质,其中指令在由一个或多个处理器执行时使该计算机可读介质通过使该设备进行以下来使计算机可读介质产生交互数据:基于声音数据计算与受试者的语音清晰度相关联的清晰度分数。
175.(crm18)一种或多种非暂时性计算机可读介质,其包括指令,该指令在由耦接到扩展现实(xr)装置用于评估自闭症谱系障碍(crmsd)的计算机可读介质的至少一个处理器执行时,使计算机可读介质:接收识别与受试者的asd症状相关联的一种或多种行为的数据;基于一种或多种行为来接收指定多个不同任务的场景,其中多个不同任务被配置为训练与asd症状相关联的技能;使xr装置基于场景来呈现xr环境;使xr装置在xr环境中并向受试者呈现多个不同任务中的第一任务,其中第一任务被配置为训练与对与asd症状相关联的行为中的至少一种行为的改善相关联的第一技能;使xr装置在xr环境中并向受试者呈现多个不同任务中的第二任务,其中第二任务被配置为模拟日常生活技能;通过监测由所述受试者执行所述第一任务和所述第二任务历经一个时间段来收集受试者数据;基于受试者交互来产生交互数据,该交互数据指示由受试者执行与asd症状相关的一种或多种行为;基于交互数据从多个不同任务选择第三任务,该第三任务被配置为训练与对与asd症状相关联的行为中的至少一种行为的改善相关联的第二技能;以及使所述xr装置基于模板修改所述xr环境来呈现所述第二任务和所述第三任务。
176.(crm19)根据(crm18)所述的计算机可读介质,其中指令在由一个或多个处理器执行时使该计算机可读介质通过以下方式来使xr装置修改xr环境:使xr环境与第三任务并行地呈现第二任务以供受试者执行。
177.(crm20)根据(crm18)或(crm19)所述的计算机可读介质,其中指令在由一个或多个处理器执行时,通过使xr装置与第一任务并行地呈现第二任务而使计算机可读介质使xr装置呈现第二任务。尽管已经用特定于结构特征和/或方法作用的语言描述了主题,但是应该理解,所附权利要求书中定义的主题不必限于上述特定特征或作用。相反,上文所述的具体的特征和动作被描述为以下权利要求的示例性实现方式。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1