从女性恶性肿瘤发病比例和相关统计数据来看,女性恶性肿瘤中占比最高的就是乳腺癌。乳腺癌预防与治疗的核心环节在于早发现、早治疗。乳腺钼靶成像技术由于其获取速度快、成本效益高、对身体伤害小等优点,是效果较好的乳腺癌筛查技术之一。其以斜位、轴位为切入点投影乳房,以此将乳腺钼靶图像获得,医生再根据图像观察是否有癌变的迹象。但是,放射科医生对图像的判别过程主要依赖自己的专业素养和长期实践经验,这个过程具有一定的主观性,而且由于医生长期工作可能存在分心、压力和疲劳等情况,容易造成漏诊和误诊的发生。为了缓解医疗资源的短缺,研究人员开发了计算机辅助检测系统(Computer Aided Diagnosis system,CAD)帮助放射科医师阅读乳腺钼靶图像,CAD能通过某种算法自动分析乳腺钼靶图像并标注疑似病变区域。基于传统算法开发的CAD系统依赖于人工提取的特征,在复杂的情况下表现不佳。随着深度学习方法的出现,采用深度学习训练策略的CAD系统能从训练集中自动学习对于诊断有帮助的特征,以此将诊断准确性全面提升。本文基于深度学习算法开发的乳腺图像肿块检测模型能将传统算法需要依赖先验知识及其特征提取过程中存在的片面性和主观性等缺陷有效避免,因此这种全自动技术的智能化与客观性更突出。本文的主要工作如下:首先,对训练集进行了预处理,同时采用从自然图像到乳腺钼靶图像的迁移学习训练策略来防止过拟合;其次,为了探究不同卷积神经网络(convolutional neural network,CNN)对网络性能的影响,分别使用了Res Net-101和VGG16为主干网络来构建Mask R-CNN,并进行了对比实验;在经过Mask R-CNN网络得到初步结果后,若对图像的预测同时出现了良性和恶性肿块两种类别的预测框,则使用由3个卷积神经网络(Res Net-152,Inception-v4,Dense Net-201这3个卷积神经网络使用INbreast数据集中含有肿块的图像进行了良恶性二分类训练)组成的投票判决系统进行判定,最终保留和投票判决系统判定类型一致的预测框,此外,Mask R-CNN还有着一定的分割能力,通过其独有的Mask分支可以将预测框内的目标进行分割,使预测出来的轮廓更加接近专业医师的标注,但分割毕竟只是Mask R-CNN的副业,精准度不算高,本文通过加入一个Mask IOU分支增强了Mask R-CNN的分割性能。最后,我们使用AUC来评价辅助判别系统的分类性能,基于FROC对模型检测性能进行评价,使用DI评价模型的分割能力。结果表明,本文提出的基于改进的Mask R-CNN乳腺肿块检测系统后端加上投票判决系统后性能优异,模型最好的结果为在每张图假阳个数为0.09时,真阳率达到79.6%,DI值达到了0.8677,辅助判别系统的AUC达到了0.8895,这些结果相较于前人算法在性能上有着较大提升。