信息时代的到来,使得基于深度学习的图像分割算法成为研究人员关注的热点,并且在生活生产的许多方面得到了有效的应用。而作为图像分割的一个重要领域,实例分割凭借其实用性与可扩展性成为非常热门的研究方向,在自动驾驶、视频监控和安全监管等领域都有着很大的应用空间。实例分割不仅要对像素进行分类,还会对不同的实例进行区分。Mask R-CNN算法是非常经典的实例分割算法之一。本文着眼于Mask R-CNN来进行实例分割,对Mask R-CNN算法进行改进和优化。为了能够得到更好的实例分割的结果,通过对Mask R-CNN模型的深入研究,提出了融合多尺度空洞卷积的实例分割算法。具体做了如下工作:（1）深入分析了Mask R-CNN模型的各个模块以及这些模块的工作机理,在Mask R-CNN算法的基础上,改进了特征金字塔的特征融合过程。将原有的自顶向下的路径改为自底向上,以保留浅层特征图中更多的空间位置信息,并且在特征融合过程中加入空洞卷积。空洞卷积通过引入空洞率可以扩大感受野,并且同时保持特征图的尺寸大小不变。空洞率不同时,感受野也会不同,为了得到不同尺度的感受野,本文实验设置了三种不同的空洞率,确保获取多尺度的特征信息。（2）以人体实例分割为应用实例,将改进后的模型用于人体实例分割数据集,将理论与人体分割的需求相结合。针对实际数据中人体的长宽比例,调整长宽比,以更好地适应人体实例分割算法的研究。并且制作了人体实例分割数据集用于对改进后的人体实例分割算法进行实验,验证算法的效果。通过实验证明,本文改进后的Mask R-CNN在人体数据集上能够保证比较好的分割效果。