基于多传感器数据的虚拟现实人机交互系统研究与实现

来源 :东北大学 | 被引量 : 0次 | 上传用户:limi330
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着科学技术的不断发展,尤其是5G技术的完善和推广,极大的推动了虚拟现实技术的应用和发展。虚拟现实技术的突出特点在于其沉浸式体验,因此当前的虚拟现实技术的发展方向也主要集中在提升虚拟现实的沉浸式体验上,而人机交互作为虚拟现实技术的重要组成部分,对提升虚拟现实沉浸式体验有着重要的影响,传统的人机交互主要使用键盘、鼠标、操纵杆,游戏手柄等,这种交互技术会极大的削弱虚拟现实技术的沉浸式体验特点,因此研究一种更加自然的人机交互系统对于提升虚拟现实的沉浸式体验有着重要的作用和意义。本文基于多个IMU惯性传感器和EMG肌电传感器采集人体加速度信号和肌电信号,实时识别人体上肢动作和手势动作,通过动作识别自然交互虚拟现实场景,提升虚拟现实技术的沉浸式体验特点。本文实现的虚拟现实人机交互系统包括三个主要部分,分别是虚拟现实环境部分、人体动作识别部分、以及识别子系统与虚拟现实环境通讯控制部分,论文的主要研究内容包括:(1)系统硬件环境构建。本系统使用Oculus Rift CV1虚拟现实眼镜作为虚拟现实的硬件接入部分,通过USB接口以及HDMI接口与开发平台连接。动作识别部分的传感器使用无线IMU惯性传感器两个,无线EMG表面肌电传感器两个,通过ZigBee无线通讯技术将数据发送至数据接收器,数据接收器通过USB接口将数据传输至开发平台。使用核心处理器为Intel Core 15-7400,显卡为NVIDIA GeForce GTX 1060的计算机作为系统的开发平台。(2)人体动作识别算法研究。本文的人体动作识别包括上肢动作识别和手势识别两部分,分别用来交互虚拟现实中的人物角色和虚拟现实部分的3D UI界面。识别算法研究包括数据预处理,活动段检测,特征提取与特征分析以及分类器的选择等,最终分别确定实现上肢动作识别和手势识别所需要的预处理过程、活动段检测方法、所需特征,分类器等。(3)动作识别子系统软件设计。本文的实时人机交互系统中的动作识别子系统基于并发编程的形式实现,包括基于多进程的传感器数据采集与传输,分为数据采集进程和数据发送进程;基于多线程的传感器数据接收与动作识别,分为数据接收线程、数据预处理及加窗线程、活动段端点检测线程,特征提取及分类器识别线程以及识别结果发送线程。(4)虚拟现实场景搭建与环境配置。本文的虚拟现实场景搭建使用SolidWorks,3Ds Max,Unity 3D等软件搭建所需要的虚拟现实场景以及人物角色动作等。使用Oculus驱动以及Unity 3DOculus接入接口,按照指定流程,完成虚拟现实的环境配置。(5)人机交互系统的实现。人机交互系统的最终实现依赖于最终的动作识别子系统与虚拟现实环境通讯控制。本文通过自定义虚拟现实交互控制协议以及编写虚拟现实交互控制脚本实现识别子系统与虚拟现实环境的通讯控制,从而实现最终的虚拟现实人机交互系统。(6)实验验证。基于所实现的虚拟现实人机交互系统,测试上肢动作以及手势动作对虚拟现实场景的交互效果。验证本文实现的虚拟现实人机交互系统在提升虚拟现实沉浸式体验上的效果。
其他文献
随着航空航天、汽车制造、生物医疗等科技领域的不断发展,微尺度结构的作用越来越大,其中微小孔及阵列孔是最基本也是最能体现加工技术水平的一种微结构。伴随着二十一世纪工业的快速发展,微尺度加工技术得到迅猛的提升,其中电火花加工技术以其加工过程中无宏观作用力,不受材料本身强度、刚度和硬度等物理属性的限制,在微尺度加工领域一直是解决相关问题最有效的方法。本课题通过自主搭建高精密防水回转机构实现了利用低速走丝
船舶与海洋工程领域重大装备(深海潜器、海洋平台和船用燃气轮机等)的金属构件尺寸大、批量小,如果采用传统的制造方法,不仅制造困难,而且成本高、效率低,有的大型结构甚至无法制造。而增材制造技术打破了原有设计-铸造-锻造/轧制-机械加工的复杂生产流程,变为从设计到增材制造的短流程模式,具有极其复杂的组件制造能力,为高性能组件材料结构的集成制造提供技术支持,具有低成本和高效率的优点。目前,以钛合金材料为代
随着制造业的发展,生产设备的大型化、自动化和复杂化程度越来越高,同时设备故障的危害也越来越大,这种情况下企业为了保持持续的竞争力,就要考虑设备退化所导致的对产品质量及需求率、生产能力、生产成本的影响。产品质量的好坏直接影响其需求率,设备退化又直接决定产品质量,所以设备的生产状态会对需求率有显著的影响。预防性维修作为改善设备性能、降低企业成本、保障生产活动的重要手段,在日益激烈的市场竞争环境中,其作
近年来,由于互联网、云计算以及数据即服务(DaaS)等相关领域的快速发展,个人数据、企业数据以及政府数据等,其数据量的爆发式增长。由于数据的巨大价值带动了数据交易,国内外纷纷建立了数据集市。数据产品作为一种新型的产品形式,由一个或多个数据源数据集成得到,在广义上说,是指可以发挥数据价值辅助用户做更优决策或是直接行动的一类产品。而定制化的数据产品是指根据数据消费者的个性化特征,提供其所需的数据产品或
随着互联网的发展,线上购物被越来越多的人选择,随之而来的,在线数据逐渐成为识别客户需求的来源,针对于在线数据的研究变得越来越多,但是与此同时,如何准确又快速的从在线数据中识别客户需求成为了时下研究的热门。目前的市场性质随着经济的发展逐渐转变为以客户为中心的模式,如何快速的响应客户需求是研究人员面临的重大难题。客户需求多样性和需求变化越来越快,对于企业想要获得更多客户的最重要的手段就是缩短产品研发周
全球制造业在信息技术应用日益广泛和深入的背景下,逐渐开始从生产型制造向服务型制造转变。在服务型制造模式下,制造企业通过向供应链上游和下游拓展专业服务和增值服务,如协同研发、解决方案、设备维护与检修、融资租赁等,来促进产业价值链的提升。当前已有不少制造企业从提供产品向提供设备正常运转的保障服务转变,在提供设备使用服务的同时负责设备的维护。考虑到服务型制造商在提供设备使用服务过程中,运营商对设备的不当
功能梯度复合材料是参照计算机辅助材料设计的基础上,利用先进的复合技术在材料制备过程中使材料的组成、结构等要素在某个方向上呈连续变化或阶梯变化,从而使材料性质和功能也呈连续变化或阶梯变化的一种非均质复合材料。增材制造技术可以通过实时控制进入熔池不同粉末的比例可实现材料成份连续变化,进而改变零件某些特殊部位的成分,使其不同部位具有不同性能,这是传统铸造和锻造所无法实现的。依靠增材工艺实现材料累加成形,
轧机振动问题为世界范围内的技术难题,随着对轧制生产速度和产品质量要求的提升,板带轧机的振动问题也日益突出。振动的发生不仅会影响轧制产品的表面质量,而且频繁的振动还会加速轧制设备零部件的磨损,从而降低轧制设备的使用寿命。轧辊轴承是轧钢机工作机座中的重要旋转部件。和一般用途的轴承相比,轧辊轴承工作负荷大、运转速度差别大、工作环境恶劣,因而在生产中,往往容易发生多种形式的故障,进而引发轧机发生振动,最终
演示学习(Learning from Demonstration,LfD)是一种通过人机互动、演示,将人的技能传授给机器人的技术,涉及人机交互、机器学习、机器视觉和运动控制等诸多机器人相关领域的重要研究方向。相比于单纯的预编程机器人,演示学习提供了非常灵活的机器人编程手段。当人机协作时,环境的复杂性与变换性,要求机器人不仅要学会复现人所赋予的技能或任务,还要有能力去学习适应新的环境并执行任务。因此
特种陶瓷以硬度高、耐高温、耐腐蚀等优越的性能受到了广泛的关注,但陶瓷是典型的脆性材料,加工过程中存在效率低、成本高、加工质量难以保证等问题,限制了特种陶瓷的广泛应用。车削加工陶瓷具有效率高、成本低等优点,具有良好的前景。但目前对陶瓷车削的研究很少,去除机理尚不成熟,切削力理论模型有待完善。本文对陶瓷车削材料去除机理进行研究,建立切削力理论模型,并对已加工表面质量进行研究。本文工作主要体现在以下几个