当前的实例分割方法主要分为基于目标检测的方法和基于语义分割的方法。以Mask R-CNN为代表的基于目标检测的实例分割方法的分割准确度通常高于基于语义分割的实例分割方法。因此,本文以目标检测算法作为基本框架搭建实例分割模型。然而,现有目标检测器的预测端都为结合RoI池化（Region of Interest Pooling）的全连接层或3×3预测核,这两类预测端都存在与多尺度目标特征不对准的问题,即不能准确捕获用于检测的多尺度目标特征。尽管基于特征金字塔方法的目标检测器可以减轻该问题,但3×3预测核和RoI池化仍难以检测很小的目标,且前者对过大目标的检测结果也不尽人意。实例分割模型除了底层的目标检测算法框架存在问题外,更重要的是,用于训练的数据集图像中的实例间存在严重遮挡问题,导致实例分割成为极具挑战性的计算机视觉任务。对于目标检测存在的预测端与多尺度目标特征不对准的问题,本文提出注意力指导的多尺度卷积预测核匹配不同尺度的目标。为了提高检测效率,设计了显著区域识别模块用于预先识别出图像中大概率存在目标的区域。对于设计的检测模型在训练过程中易于出现难负样本（Hard Negative Sample）的问题,提出了新颖的IoU自适应损失函数。此外,为了增强网络特征表达能力,提出交叉下采样特征增强方法,将所有的中间层精细特征融合到高语义特征层并且保留目标空间布局。对于实例分割模型难以分割目标实例间遮挡区域的问题,本文提出可学习形状感知特征的实例分割模型。具体地,针对不同类别实例间的遮挡问题,提出区域特征类同（Affinity）学习更具辨别力的特征表示;针对同类实例间的遮挡问题,提出特征方向预测方法学习实例中像素相对于实例中心的位置信息。通过结合上述方法,实例分割模型可更准确地预测实例形状。实验结果表明,结合多尺度训练方法,本文提出的一级（One-stage）目标检测器在MS COCO 测试集上取得45.3 AP（Average Precision）与15.4FPS的运行速度（测试图像尺寸为512×512）;准确度超过当前所有的一级检测器并且与使用大尺度图像训练的二级（Two-stage）检测器也可比较。基于形状感知特征的实例分割模型相比于其它方法更有效地改善了实例间遮挡问题并在分割准确度上超过Mask R-CNN 2.5 APmask,同时也在Cityscapes数据集上展现出较好的泛化能力。