基于头眼姿态结合的智能云台人机交互系统

来源 :天津工业大学 | 被引量 : 0次 | 上传用户:asdy008
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对不同地区教育资源发展不平衡,贫困地区高素质教师短缺的问题,本文设计了一种可应用于远程教学的基于头眼姿态结合的智能云台人机交互系统。基于教师端的普通摄像头获取远程教师的实时头眼姿态信息,将数据发送至学生端驱动云台实时跟踪旋转至对应视场,返回实时状态值至教师端上位机,实现远程教师与学生端云台的人机交互。本文所设计系统搭建了数据采集端和云台交互端,模拟远程教学场景下的教师端和学生端。本文主要研究工作如下所示:首先,在数据采集端,进行人脸特征点的定位。本文采用级联回归的ERT(Ensemble of Regression Trees)人脸对齐方法,即基于梯度提升的回归树方法对实时帧进行特征点提取处理,并存储特征点坐标信息至点集。其次,遍历筛选人脸轮廓面积,选定目标对象,进行头部姿态估计。本文基于3D-2D位姿估计方法,从特征点集中选定具有代表性的6个特征点,将2D人脸图像与标准3D人脸模型相匹配,根据3D特征点与对应2D点间的转换关系,获取实时头部姿态数据。再次,获取头眼相对偏移关系,本文根据眼部特征点坐标信息,裁剪眼部感兴趣区域,获取眼部最小矩形图像。结合直方图均衡化、形态学处理和轮廓提取等方法,获取虹膜最大连通区域。基于图像矩原理计算眼部最小矩形中心和虹膜最大连通区域重心坐标,获取头-眼偏移向量,输出头眼姿态结合信息。最后,对于数据采集端输出的头眼姿态结合数据进行处理。第一步,对数据进行进制转换,定义数据输出格式。第二步,调用云台控制接口函数,输出控制命令至交互端智能云台,驱动云台双轴向旋转至指定视角。第三步,云台交互端返回实时值至数据采集端上位机,上位机根据返回值与发送值的偏差,控制云台进行步进变量的调整,从而更为准确的获取对应视角实时视频。为了验证本文所提出算法的有效性,选取多名实验者进行交互实验并进行精度评价。实验数据显示,头眼姿态结合算法的平均识别率达到98.33%,云台交互实验的平均准确率达到94.35%。实验结果表明,本文所提出的基于头眼姿态结合的智能云台人机交互方法,在不同姿态条件下都可实现较好的交互结果。本文所设计方法打破了异地空间内视场的限制,使体验者可根据自身姿态变换自由获取多维全视角视频,未来可以与教育、医学、交通等更多应用场景相结合。
其他文献
Inconel 625高温合金性能优异,被广泛应用于航空航天、工业化工等领域,为了进一步提高其耐磨性能,提出采用激光熔化沉积方法制备碳化钨与石墨烯增强Inconel 625复合材料思路,制备出Inconel 625/WC-12Co复合涂层和Inconel625/石墨烯复合涂层,采用场发射扫描电子显微镜(FESEM)、X射线衍射仪(XRD)、拉曼光谱仪、显微维氏硬度计和摩擦磨损机等对其开展测试,主要
近年来随着计算机视觉和深度学习在学术界的快速发展与研究,使得深度学习方法在图像修复、特征提取、图像翻译、图像生成等领域的优势日益突出。深度学习越来越成为研究者们的研究方向。深度学习的方法已经表明极富挑战性的修复任务取得了可喜的成果,这些方法可以生成看起来合理的图像结构和纹理。自2014年Ian Goodfellow等人提出了GAN(Generative Adversarial Network)以来
随着数字技术与多媒体技术的迅速发展,语音信号已成为日常信息传递的主要载体。由于语音信号在传输过程中容易被恶意篡改而失真,如果对语音篡改的内容涉及到国家安全、法庭举证、医学等一系列重要数据,被篡改的语音会给社会造成严重的后果。因此,语音信号的安全问题越来越多引起社会的重视。语音水印作为信息隐藏技术的一个重要分支,通过水印嵌入算法将信息嵌入到语音信号中,可以有效的保护语音信号。语音水印由于其隐蔽性、鲁
红枣作为我国的特有果品,得益于中国的气候、土壤和环境等因素,年产量位居世界榜首,同时因其独特的口感和药用价值,受到了越来越多的人的喜欢。近年来红枣产业发展迅猛,但对于采摘后的新鲜红枣的检测和分级还处于初级阶段,为进一步提高鲜枣的产品质量和附加值,应对其进行更加精细化的检测和分级。因此,迫切需要寻找高效、快速的鲜枣缺陷检测手段以及特征分级方法。本论文以天津蓟县大枣作为研究对象来进行鲜枣的检测分级,对
新型冠状病毒可以通过空气中的飞沫、气溶胶等载体进行传播,具有极高的传染性,公共场所自觉佩戴口罩是严防疫情反弹的最有效措施。此外,某些特殊的工作场所(如打磨车间、无尘车间)需要工人随时佩戴口罩进行作业。对于口罩佩戴情况,人工巡逻式的排查费时费力,因此,联合摄像头进行PC端的智能监测成为趋势。目前,大多数口罩佩戴检测算法只关注检测精度,在低性能PC端的检测效率并不理想。为此本课题从判断人脸是否佩戴口罩
随着视频监控在日常生活中广泛应用,通过监控自动的识别出画面中人体的动作变得至关重要。跌倒作为威胁人们健康的一个因素,如果可以迅速的识别出并做出预警,可以及时保护人们的安全。跌倒检测作为人体行为理解的一个分支,其目的是识别出场景中人物是否处于跌倒状态,因此跌倒检测研究具有重要意义。人体在跌倒时,由于身体各个部位的反应机制和承受伤害的等级不同,不同方向的跌倒动作会对人体产生不同强度的伤害,通常人体前倾
镍铜(NiCu)合金具有优良的耐腐蚀性能和机械性能,广泛用于船舰的管道接头、阀门、推进器、热交换器、输油管道等领域。本文采用激光熔化沉积技术制备了NiCu合金多层试样和NiCu/WC-12Co复合涂层,分析了微观组织和显微硬度,研究了摩擦磨损、电化学腐蚀、力学拉伸等性能,主要内容及结果如下:(1)进行激光熔化沉积单道实验,研究了激光功率和扫描速度对涂层成型的影响,通过表面形貌和稀释率的观测进行工艺
即时定位与建图(Simultaneous Localization and Mapping,SLAM),是指智能体使用传感器获取外部的环境信息,以此估计自身在环境中的位置,并建立已探索区域的环境地图。现有的SLAM算法大部分是基于静态环境的假设进行设计的。在室外环境下建图效果与定位精度较差。且在室外场景中存在大量可移动物体,移动物体会造成位姿估计过程中特征的误匹配,造成定位的偏差,导致算法的鲁棒性
物联网智能服务系统具备智能决策的能力,它的主要目的是在各领域中为人们提供便利的服务。为了实现这一目标,目前还面临着很多困难和挑战,尤其是在大规模的农业物联网服务中。当前的智能物联网对农业资源合理分配的能力还比较薄弱,有待提升其适配不同规模场景的优化调控能力。影响物联网系统服务能力的因素有很多,其中存在着许多多目标问题,如服务成本和服务时间等问题。如何解决服务中出现的多目标问题成了提升农业物联网服务
随着物联网技术的快速发展,传统温室控制系统正朝着现代化、智能化的方向转变。为了在传统温室种植的基础上提高工作效率,降低生产成本,在传统温室中加入监控系统对影响农作物生长发育的主要环境参数进行实时远程监测,并利用智能控制算法调节现场设备,使温室环境参数保持在设定范围内。在此背景下,本文开发了农业温室远程监控系统。系统分为数据检测、无线通信和远程监控三个部分。数据检测部分由Zig Bee节点和传感器组