一种基于混合现实的多媒体人机交互平台的制作方法
【技术领域】
[0001]本发明涉及人机交互的技术领域，尤其是指一种基于混合现实的多媒体人机交互
-ψ-1 口 O
【背景技术】
[0002]人机交互技术是目前用户界面研究中发展得最快的领域之一，世界各国都十分重视。目前已经取得了不少研究成果，不少产品已经问世。例如侧重于多媒体技术的触摸式显示屏、可折叠电子书显示屏、3D显示器、视网膜成像显示器;侧重多通道技术的手写汉字识别系统、中文语音识别系统、手势识别技术、姿态识别的多触点式触摸屏技术等等。但目前的人机交互多采用单信号反馈，未能有效实现多信息融合处理，可靠性有待提高。而虚拟现实作为一门新兴技术，具有很广阔的应用前景。目前视觉合成研究的较多，对力触觉的模拟还有不足。力触觉在虚拟现实环境中有其突出优越性，它使得虚拟现实环境变得真实，是唯一的既可接受周围环境输入又可以对周围环境输出的感知通道，可极大增强可视化表达的效果。但目前大多数虚拟现实系统均只有单一的视觉立体或触觉立体，无法实现视觉与触觉的三维同步匹配，沉浸感不强。如果实现了两者的同步渲染与配合，无疑将能实现虚拟模型和环境的交互，并感受到与虚拟对象交互产生的触觉和力，形成对虚拟模型的一个完整的认识，如同操作真实物体一样，无疑将使人机交互更真实、准确、可靠。
[0003]近些年来产生了诸多与此相关的论文和专利。分别如下:
[0004]中国公开专利号:CN103164027Α，名称:采用手势的人机交互设备。该设备能对手进行摄像，从其摄取的图像中对手的形状进行识别的同时检测该手的移动，从而得出相对应的操作指令。此种采用手势的人机交互设备，具有较强的易用性，规范化的布局和内容。但是该设备只能实现手势操控这一输入途径，未能实现多信息融合来提高准确率和用户体验。
[0005]中国公开专利号:CN103226432A，名称:一种智能化人机交互操作系统。该系统可接收用户输入的原始信息，并对用户输入的原始信息进行识别，转化为系统可以直接执行的操作指令。该系统通过构建组块化的界面布局，提供一种新型的界面布局。但该发明同样未能实现多信息融合处理，并且未能实现触觉、力方面的信息反馈。用户体验有待进一步提升。
[0006]中国公开专利号:CN103197757A，名称:一种沉浸式虚拟现实系统及其实现方法。本发明提供了一种沉浸式虚拟现实系统，可捕捉使用者的头部转动动作，并将头部转动动作数据发送至数据处理装置进行处理，并向使用者传递虚拟环境的视频和音频。该发明具有一定的虚拟现实效果，沉浸感较强。但该发明未能实现触觉方面的虚拟仿真，并且现实虚拟的效果还有待进一步提尚。
【发明内容】
[0007]本发明的目的在于克服现有技术的缺点与不足，如虚拟现实效果较差、无法加入触觉感受、反馈信号单一、人机交互信息不充分，控制策略单一、没有实现多信息融合等问题，提供一种基于混合现实的多媒体人机交互平台，为用户提供一种逼真的虚拟操作环境，让用户看得到、听得到、摸得到3D虚拟影像，同时，本平台也可提供多种控制策略，如脑电、肌电、手动操控方式以及它们的组合操控方式，实现多信息融合控制。
[0008]为实现上述目的，本发明所提供的技术方案为:一种基于混合现实的多媒体人机交互平台，所述多媒体人机交互平台的硬件部分包括有3D显示器、用于固定安装3D显示器的显示器固定支座、支架、半透明反射玻璃板、手部力反馈设备、脑电采集设备、肌电采集设备、用于固定安装半透明反射玻璃板的玻璃板固定支座、支撑平台、脚部力反馈设备、电子计算机主机、多媒体音箱及带安全带的用户座椅，其中，所述显示器固定支座和玻璃板固定支座呈上、下对置地滑动安装在支架的竖直滑槽中，能够上下自由滑动，并可按照使用者的要求定位在支架的不同高度处;所述支撑平台设在支架的一侧，并位于玻璃板固定支座的下方，所述手部力反馈设备固定安装在支撑平台的台面上，所述脚部力反馈设备固定安装在支撑平台的台面下，所述电子计算机主机、多媒体音箱、用户座椅放置在支撑平台的周围，所述脑电采集设备套装在使用者的头部，用于采集使用者的脑电信息，所述肌电采集设备套装在使用者的手部，用于采集使用者的肌电信息；
[0009]所述多媒体人机交互平台包括以下系统:
[0010]3D视觉系统，利用3D显示器的影像显示以及半透明反射玻璃板的反射作用，通过调整两者的高度关系，使得3D显示器影像呈现在用户两手的高度上，形成一种用户通过双手直接触摸操控3D显示器影像的情景；
[0011]表面肌电信号采集分析系统，用于对肌电信号进行在线采集、滤波、去噪，并传送到电子计算机主机中，实时得到肌肉的力及阻抗信息，并做进一步的力控制和阻抗控制；
[0012]脑电采集分析系统，用于实时采集并分析处理用户脑电信号，得出用户控制指令，完成脑电控制功能；
[0013]力反馈系统，用于实时向计算机反馈用户双手的位置坐标，并从计算机中向用户回馈双手所在3D影像中的力的状态；
[0014]多信息融合系统，通过多信息融合处理算法，将脑电采集设备、肌电采集设备获得的信息融合到该系统，完成多策略控制。
[0015]所述多媒体人机交互平台能够实现多种模式的人机交互控制策略，如下:
[0016]肌电控制策略，通过肌电采集设备采集人体肌电信号，经过处理提取其中的肌电信号特征，并利用模型匹配，从而获得用户肌肉力量及阻抗信息；
[0017]脑电控制策略，通过脑电采集设备采集人体脑电信号，经过处理滤出其中的有效信息，并进行特征提取及分类，获取准确的控制信息，从而实现对系统进行操控；
[0018]手动控制策略，用户用双手对手部力反馈设备操作杆进行操控，对屏幕影像进行操控；
[0019]脑电-肌电控制策略，在脑电控制策略基础上，引入肌电控制策略，实现两者的协同控制、相互补充，增强控制的可靠性及控制效果；
[0020]肌电-手动及脑电-手动及脑电-肌电-手动控制策略，在上述三种生物电控制策略的基础上，用户通过双手操控手部力反馈设备，实时感受力信息及反馈位置信息，达到更真实的体验以及更好的控制效果，实现逼真准确的人机交互控制。
[0021]本发明与现有技术相比，具有如下优点与有益效果:
[0022]1、本发明平台能够实现多信息融合处理，提供脑电控制、肌电控制、手动控制及三种方法的组合控制策略，提高人机互动的效率和准确性。
[0023]2、在虚拟现实技术方面，本发明平台能够提供更为逼真的3D虚拟现实技术，并拥有独特的触觉感受系统，实现视觉模型与触觉模型的融合，极大增强了虚拟现实技术的真实感和沉浸感。
[0024]3、本发明平台显示效果逼真现实、拥有独特的触觉感受系统、可实现多模式人机交互策略、稳定可靠、组件高度可调整、操作真实方便，具有很好的实用价值，可应用于虚拟现实游戏、3D建模与设计、医学手术模拟及培训、虚拟装配等。
【附图说明】
[0025]图1为本发明所述多媒体人机交互平台的结构示意图。
[0026]图2为本发明所述显示器固定支座、玻璃板固定支座安装在支架上的结构示意图。
[0027]图3为脑电信号处理流程图。
[0028]图4为表面肌电信号处理流程图。
[0029]图5为手动控制策略流程图图。
[0030]图6为多信息融合处理算法流程图。
【具体实施方式】
[0031 ]下面结合具体实施例对本发明作进一步说明。
[0032]如图1和图2所示，本实施例所述的基于混合现实的多媒体人机交互平台，其硬件部分包括有3D显示器1、用于固定安装3D显示器I的显示器固定支座2、支架3、半透明反射玻璃板4、手部力反馈设备5、脑电采集设备6、肌电采集设备7、用于固定安装半透明反射玻璃板4的玻璃板固定支座8、支撑平台9、脚部力反馈设备10、电子计算机主机13、多媒体音箱14及带安全带12的用户座椅11，其中，所述显示器固定支座2和玻璃板固定支座8呈上、下对置地滑动安装在支架3的竖直滑槽中，能够上下自由滑动，并可按照使用者的要求定位在支架3的不同高度处;所述支撑平台9设在支架3的一侧，并位于玻璃板固定支座8的下方，所述手部力反馈设备5固定安装在支撑平台9的台面上，所述脚部力反馈设备10固定安装在支撑平台9的台面下，所述电子计算机主机13、多媒体音箱14、用户座椅11放置在支撑平台9的周围，所述脑电采集设备6套装在