基于3D点云深度学习的视觉语义地图构建研究

来源 :浙江工业大学 | 被引量 : 0次 | 上传用户:deng_95132
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
视觉SLAM是智能机器人和无人驾驶汽车在未知环境中实现完全自主导航的关键技术。传统的视觉SLAM重在几何的定位和建图,没有感知环境的语义信息,因此,在其基础上,能够构建具有语义信息地图的语义SLAM是目前的研究热点。在现有语义SLAM方案中,语义信息的获取主要是基于二维图像的目标检测或语义分割得到的目标语义,然后将获得的语义信息映射到聚类分割出的3D点云团,从而间接得到对应帧的3D点云语义信息。这种获取目标语义信息的方式不是基于对原生3D点云的直接特征提取,存在处理方式不直接、语义效果不佳、深度信息不充分、3D边缘分割模糊等问题。此外,传统的视觉SLAM和现有语义SLAM方案主要局限于对静态环境的处理,无法很好地应用于复杂动态场景。因此,本论文针对上述研究方案的不足,研究基于3D点云深度学习的视觉语义地图构建方法。利用RGB-D传感器信息,先在ORB-SLAM2基础框架上加入了动态物体检测,再使用3D点云语义分割方法获得场景语义信息,最后融合语义信息构建了经过动态物体检测与剔除的3D语义地图。所构建的语义地图可用于室内服务机器人的定位和导航、场景语义理解等,具有重要的理论意义和良好的应用价值。本论文的主要完成工作和成果如下:(1)分析了视觉SLAM前后端与优化的基础理论和算法框架,简述了语义SLAM的语义获取思路和地图构建方法,并根据不同的场景适应性和语义实现方案,设计了语义地图构建的整体研究方案。(2)针对基于RGB-D传感器的视觉SLAM展开研究,在ORB-SLAM2视觉SLAM框架中增加了动态物体检测模块,提出了一种基于3D点云深度学习的视觉语义地图构建方法。首先,通过Kinect相机采集彩色图和深度图;然后,利用改进的ORB特征提取算法提取参考帧和当前帧图像的ORB特征信息,对相邻帧特征进行匹配来初始化位姿与重定位;接着,通过3D点云语义信息预筛选可能存在的动态物体;最后,利用帧间相机运动一致性算法排除相机运动,以及通过光流法设置动态阈值,检验可能运动对象的特征点是否运动。由于光流法效果的局限性,本论文设计并实现了一种基于三维视觉的多视角几何动静点检测算法,其动态特征点的检测效果优于光流法,提高了ORB-SLAM2的动态场景适应能力。(3)针对现有语义SLAM方案在3D语义信息获取方法上的局限性,研究了直接对3D点云进行特征提取的语义分割方法,提出了一种基于3D点云深度学习的语义信息获取算法。首先,在点云深度学习网络Point Net的基础上,替换网络中MLP结构的特征提取模块为动态图卷积的特征提取方式,加强了网络对相邻点特征信息的关联学习能力;然后,设计了基于点云的空间金字塔池化结构,再次增强了网络对于细粒度特征的学习和提取能力;最后,将获得的语义信息用于语义SLAM系统中后续的语义库构建和语义地图的融合。(4)针对去除动态物体后的地图和语义信息的更新和融合展开研究,包括动态语义地图构建的算法流程和系统总体设计、语义信息库的构建、通过语义融合算法进行八叉树动态语义地图构建和占有率更新、局部地图和全局地图的光束平差法优化。此外,研究八叉树语义地图的构建,构建适用于室内服务机器人视觉定位和导航、场景语义理解的语义地图。
其他文献
加快推进我国农民工市民化进入新阶段首先要解决的问题便是研究成本测算。山东与江苏两省同属我国经济相对发达的沿海省份,并且两省都通过多种方式对加快农民工市民化进程进
滚动轴承作为旋转机械的重要零部件之一,其故障诊断对于机械设备安全运行具有重要意义。由于滚动轴承作业环境较为复杂,采集到的振动信号中包含大量噪声,如何在噪声环境中提
现阶段,室内饰品的选择和布局通常通过用户手工完成。从海量的饰品模型中挑选出合适的饰品,挑选速度慢、过程长,需要大量的人力成本,挑选出的饰品质量不可控。因此设计一种能
科学技术的进步与提高,使得人机交互显得额外普遍与重要。手势的灵活、便捷等特点,使得它逐渐地成为了人机交互的主要桥梁。但是自然复杂环境下的手势识别受到诸多因素的干扰
水下目标位姿的准确估计,对于水下设备大对接、水下机械手末端空间操纵等方面具有重要的工程价值。基于视觉的目标位姿估计算法,在航空航天装备以及陆地地面设备上应用得比较成熟,具有位姿定位精度高的特点。由于水下环境的特殊性,如水中颗粒对光的散射以及水对光的吸收衰减现象,会导致水下摄像机系统采集获取的图像特征轮廓难以提取,使得该算法难以获得理想的位姿估计值。针对此问题,本文开展了以下工作。首先,研究了水下成
随着越来越多的手持电子设备以及工业自动化的蓬勃发展,印制线路板(PCB)得到了广泛的应用。在整个PCB的加工生产过程当中,钻孔加工是必不可少的。钻孔加工是指在机床上用不同
我国现行的环境侵害救济以民事赔偿责任机制占主导地位,环境侵害的社会化责任机制尚不健全。在环境问题较为突出的当代社会,环境侵害的国家赔偿已经成为许多国家既有制度。作为环境侵害救济途径之一的国家赔偿主要是针对国家机关及其工作人员在行使国家职权过程中由于违法或过错,致使公民、法人或其他组织遭受环境损害时的一种救济路径。但是,在我国,长期以来人们对于可归责于政府的环境监管失职致人损害的国家赔偿责任问题缺乏
近年来,随着社会的不断发展和信息技术的不断进步,人类的衣食住行更加智能化,生活环境中摄像机监控系统日益普遍。行人重识别和多目标跟踪作为关键技术对于视频监控系统智能
目前深度学习在各个领域取得巨大的成功,例如图像识别、目标检测和自然语言处理等任务,但是这些任务取得成功的前提是拥有大量的数据标签,然而在实际应用中,有些任务较难获取
海洋环境大数据处理是建设智慧海洋的重要组成部分,在合理地开发海洋资源、准确地预测预警海洋灾害、有效地保护海洋环境等方面具有重要的现实意义。因此将我国某海海域环境