骨肉瘤和骨软骨瘤分别是骨肿瘤中最常见的恶性和良性肿瘤。由于骨肉瘤具有相当高的恶性程度,多数骨肉瘤患者在一年期间内出现肺转移,因此及早诊断、严格治疗是提高生存率的关键。骨软骨瘤可能会引发骨折和摩擦性滑囊炎,影响患者行动,且有恶变的可能性,尤其是多发性骨软骨瘤恶变率更高。由于这两种瘤的病变部位具有相似性,且在骨肉瘤产生肿瘤骨阶段时,其形状纹理与骨软骨瘤又极度相似,正确诊断和区分骨肉瘤和骨软骨瘤是一项具有挑战且很重要的工作,不然,会使得患者错过最佳诊断时机或采取不必要的治疗方案。近年随着科技的发展,X线光片在骨肉瘤和骨软骨瘤的病理分析、临床诊断和计算机辅助医疗等方面发挥了重要的作用,因此,X线光片的智能识别工作迫在眉睫。目前,传统机器学习方法在图像识别领域已经很难突破瓶颈,而深度学习方法不仅能够有更高的准确率,还能有效地提高诊断的效率。本文利用深度学习对骨肉瘤和骨软骨瘤的X线光片医学图像展开了研究,为了进一步提高对骨肉瘤和骨软骨瘤的分类与实例分割精度,具体研究内容和结果如下:（1）首先,对从陆军军医大学第二附属医院收集得到211张骨肉瘤和355张骨软骨瘤的X线光片医学图像进行预处理。针对图像中存在不相关的冗余背景区域以及病变区域不明显的问题,采用三角阈值分割法对图像进行二值化,使用开运算和闭运算解决前期三角阈值分割法遗留的噪声和孔洞问题,使用对比度受限自适应直方图均衡化提高原始数据集对比度,突出病变区域。将分割后的二值图和对比度受限自适应直方图均衡化处理后的图像进行与操作,最终得到只包含人体组织区域的图像。（2）采用提出的基于ResNet50的模型对骨肉瘤和骨软骨瘤的X线光片进行分类。针对Res Net50在数据集有限的情况下,提取的特征不全面,导致分类准确率不高的问题,本章节首先训练一个自编码器,然后将自编码器中的编码器部分与Res Net50特征融合,再将融合的特征与编码器特征进行对抗学习训练,获取到了更多有效特征,最后将提取的特征输入分类器中实现对骨肉瘤和骨软骨瘤分类。对截取感兴趣区域后的650张肿瘤图像使用旋转、翻转等方式进行数据扩增,并采用留出法训练模型,在训练过程中使用64张图像验证,最后在包含109张图像的测试集1和77张图像的测试集2上获得了94.17%和96.06%的F1-score值。（3）为了进一步确定病变区域和不同实例,采用提出的基于MaskR-CNN的模型对骨肉瘤和骨软骨瘤的X线光片进行实例分割。针对Mask R-CNN原始骨干网络获取的有效特征不精确,导致实例分割精度不高的问题,提出了共享核空洞卷积池化模块和注意力机制模块,将共享核空洞卷积池化模块和注意力机制模块添加到Mask R-CNN骨干网络的最后一层,有效提高了模型对肿瘤语义特征的辨识能力,并在后处理过程中使用去重叠模块改善预测掩膜重叠的现象,最终提升了对骨肉瘤和骨软骨瘤的实例分割精度。对378张肿瘤图像使用旋转、翻转等方式进行数据扩增,并采用留出法训练模型,在训练过程中使用53张图像验证,最后在包含84张图像的测试集1和61张图像的测试集2上获得了95.59%和96.12%的mAP值。本文提出的深度学习方法对X线光片上骨肉瘤和骨软骨瘤的分类以及对其实例分割都有效,为辅助医生诊断和提高初筛诊断效率提供了方法学参考,也为后续治疗提供了参考意见。