深度学习是自动驾驶,人脸识别,生物医学图像处理以及机器人视觉等研究领域的突破性技术。虽然基于深度学习的神经网络模型以及相应的训练算法在许多大型的公开数据集中都有显著的表现,但是其往往都受限于昂贵的硬件设备,而无法应用在类似手机这种小型的设备中。知识蒸馏可以通过以学生网络学习教师网络的方式,使小规模的神经网络也能有着和大规模网络相似的效果,它相对于其他的模型压缩算法适用场景更加广泛。因此,本文重点研究了知识蒸馏算法在图像分类和人脸识别任务上的应用。知识蒸馏算法主要有基于教师网络的输出,设计中间模块以及特征对比的算法。其中,前两个方法在对于某些维度较高的数据集而言,适用性能较差,而由于图片样本的维度较高,直接对比网络之间单个样本特征的算法对于模型的规模也有一定的要求。虽然知识蒸馏算法的可扩展性相对较高,但由于该方向起步较晚,算法研究的思路也较为单一。基于此,为了拓展知识蒸馏在深度学习中的适用性和训练效果,本文提出了基于度量学习的知识蒸馏算法,并以此为基础拓展了度量多个样本的改进算法。主要内容包括:（1）本文提出了基于二元组度量关系的知识蒸馏算法FDM（Feature Distance Metric）。该算法以样本之间的距离为度量指标,基于此设计相关的损失函数,并将其应用在学生网络学习教师网络的过程中。为了解决距离度量指标在高维空间的局限性问题,FDM算法在计算度量指标时采用了核函数的方式来获取更高维度的距离信息。（2）由于距离指标反映的样本结构关系信息有限,故本文提出了基于FDM算法的改进算法T-FDM（Triple-Feature Distance Metric）。T-FDM算法在FDM算法的基础上,添加了三元样本之间的角度关系作为度量指标,从而使学生网络可以从更高维度的层面上学习教师网络抽取得到的图像特征关系。并且在针对边界样本的问题时,将知识蒸馏算法与度量学习中的triplet结合应用,优化学生网络本身的性能,弥补教师网络的不足。（3）本文在图像分类和人脸识别两个任务上对提出的算法进行了实验,并将所提出的算法与本领域中具有代表性的几个知识蒸馏算法进行了对比。在实验过程中,为了更平均的计算不同类别样本的相对关系,提出了新的采样策略代替随机采样,并在实验中验证了其有效性。本文从实验的性能指标以及样本关系可视化两个方向呈现了算法的实验结果,并对实验结果进行分析,验证了本文算法的有效性。