基于人脸视线追踪的嵌入式人机交互系统设计

来源 :南京信息工程大学 | 被引量 : 0次 | 上传用户:hghyxx_0918
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
视线追踪技术是计算机视觉领域的主要研究方向之一,而基于人脸视线追踪技术的新型人机交互方式则成为多通道自然交互领域中重要的研究课题。通过视线追踪的人机交互方式改变了传统的人机交互方式,增加了人机交互多样化的可能性,可以给使用者带来新颖化、自然化和高效化的人机交互体验,并且在康复医学的一些领域中也能够有所应用。本文介绍了视线追踪技术在不同领域的应用,设计了一款以人脸视线追踪来实现光标控制的嵌入式人机交互系统,包括:硬件电路设计、嵌入式Linux系统移植、QT图形库移植、OpenCV图像视觉库移植、Dilb机器学习库移植、应用程序设计和上位机软件设计等。本设计利用光标控制装置对采集的人脸图像进行处理,再通过串口向PC机发送控制命令,最终由上位机软件配合,以实现对光标的控制。光标控制装置采用了以ARM Cortex-A7架构的I.MX6ULL芯片为核心处理器,利用USB接口的双目摄像设备采集人脸图像,并完成各功能模块的电路设计,同时对嵌入式软件平台进行搭建。应用程序的开发是利用ERT算法进行人脸特征点检测,通过双目立体视觉原理和立体几何原理判断头部姿态的偏移角度,同时截取眼部最小矩形,经过图像处理和运算后,得到虹膜重心点坐标,并根据其与PC显示器上注视点的映射关系,确定在头部静止状态下的注视点,再结合头部姿态的偏移角度,进行实际注视点定位;另外,根据嘴部几何关系变化可以判断是否触发鼠标点击事件。本设计中的上位机软件用于验证人机交互系统的功能,以实现光标控制装置对PC机桌面光标的移动和点击控制。经实验测试,本系统控制装置在工作时,人脸特征点检测的综合有效识别率平均在96.3%左右,视线追踪精度达到2.4°以内,系统的视频识别平均帧率达到11FPS,满足对光标控制的基本要求,可以通过视线追踪有效进行人机交互。
其他文献
针对下肢受损、脑卒中等患者的康复训练,设计了一款多自由度可调节下肢康复外骨骼,利用丝杆机构代替传统腿部结构,并在腰部设有转动模块,能更好地实现人机协同。采用拉格朗日方法建立下肢外骨骼动力学模型,并计算了理论转矩;构建了下肢康复外骨骼模型,利用Ansys和Adams软件分别进行了有限元仿真和外骨骼运动学/动力学仿真。结果验证了结构设计的合理性,为后续下肢外骨骼制造与电动机选型提供了依据。
期刊
目的:评估术前与术后中性粒细胞-淋巴细胞比值(neutrophil-lymphocyte ratio, NLR)的组合对胃癌患者的预后预测价值。方法:回顾性收集2015年1月1日至2018年4月1日贵州医科大学附属医院胃肠外科进行根治性手术的初诊胃癌患者133例。收集患者术前NLR和术后NLR,使用受试者工作特征曲线(receiver operating characteristic curve,
期刊
推进力:是指步行时下肢带来的前地面反作用力,与行走时支撑末期的髋关节后伸角度以及踝关节跖屈力矩相关。偏瘫步态:是指由于失去高位中枢神经的调控,原始的、被抑制的皮质下中枢运动反射得以释放,导致肌群间协调功能紊乱及肌张力异常而出现的运动功能障碍,主要表现为摆动期足下垂及内翻,髋关节外展外旋呈划圈步态。摘要背景:脑卒中患者的异常步态严重影响了行走时的推进力,继发地降低了患者的行走速度、行走距离及稳定性,
期刊
为探明气雾栽培下黄瓜生长发育的情况,研究了不同因素(营养液浓度和喷雾频率)对雾培黄瓜生长发育的影响。其中,营养液浓度用电导率EC (mS/cm)表示,分别设为低浓度C1:1.6 (苗期)和2 (开花结果期)、中浓度C2:2 (苗期)和2.4 (开花结果期)、高浓度C3:2.4 (苗期)和2.8 (开花结果期),喷雾频率分别设为高频T1:30 s/5 min (喷雾时间∕间隔时间)、中频T2:30
期刊
为了达到缓解人体行走时的关节压力、减轻关节负担和辅助人体行走的目的,基于人体行走原理提出了髋膝耦合被动式储能助力外骨骼设计方案。髋膝耦合机构用于实现膝关节的离散化助力,是以髋关节运动控制膝关节助力的离合控制方法。该文运用仿真和实验验证的方法验证了该外骨骼的有效性。运用Adams对人-机模型进行联合仿真,验证外骨骼对人体助力的理论效果。在实际穿戴实验中,通过对比是否穿戴外骨骼人体运动时的能耗来验证外
期刊
通过流量测井可以划分钻孔内各含水层的深度、厚度、层数以及确定各含水层的涌水量并查明钻孔内含水层之间的补给关系。介绍了流量测井的施测方法和解释依据,重点描述了流量标定的方法,并结合东庞矿西庞井井筒检查孔应用实例,说明流量测井在煤田水文地质勘探中的应用情况。
期刊
随着现代机器人学和医疗行业的迅速发展,使用康复机器人对下肢运动损伤患者进行治疗成为国内外研究热点之一。为实现更好的康复治疗效果,对一种3自由度下肢康复机器人开展轨迹规划研究,模拟健康踝关节运动规律,对下肢康复机器人的运动轨迹进行了优化设计。基于踝关节的康复、损伤机制和运动形式,对比分析几种少自由度平面对称并联机构,确定了以2UU-UPU机构为康复执行机构的设计原型;对下肢康复机器人开展下肢康复训练
期刊
目的:解决现有手部康复机器人柔顺性、安全性不足和对手势信息采集困难等问题,研发基于视觉的方法进行手型识别,并借助识别结果来用于手部康复训练。方法:本文基于MediaPipe模型来进行手部关键点跟踪和手势识别;在康复手套结构上选择了柔性穿戴式。通过计算机视觉的方法得到手势信息,将信息通过串口传递给单片机,由单片机控制气阀的通断,以此来控制康复手套的运动。结果:基于MediaPipe的静态手势识别实验
期刊
在矿井建设中,人工冻结法施工技术被广泛应用,但冻结施工中土体冻胀所带来的危害也不能忽视。本文通过对取自淮南某矿不同深度的细砂土和黏土试样进行人工冻结的冻胀性能试验,得出了这两种试样的冻胀特性以及冻胀力和冻胀率与时间的关系。
期刊
通过对余欣风井井筒检查钻孔的施工及样本分析,查明了井筒穿过岩(土)层的物理力学指标、水文地质条件以及煤质特征等。经过对该风井井筒工程地质特征进行综合分析,认为井筒风化基岩段岩石风化裂隙较发育,普氏系数偏低,岩石属极软岩-软岩类型,水文工程地质条件较差。在井筒设计和施工中应引起足够的重视,采取注浆或延伸冻结深度的方法加以解决。
期刊