医学图像配准在临床诊断、治疗中发挥着重要作用。随着现代计算机硬件的飞速发展,基于深度学习的医学图像配准方法速度大幅提升。然而,由于卷积神经网络（Convolutional Neural Network,CNN）感受野受限,导致基于CNN的配准模型难以应对内容复杂且存在较大变形的3D脑部磁共振图像（Magnetic Resonance Imaging,MRI）配准任务。此外,配准结果中不真实的交叉折叠现象导致其性能难以达到临床应用的要求。针对上述问题,本文以3D脑部MRI为研究对象,设计特征提取算法和目标函数对模型进行优化,并在公开数据集中对优化后模型的配准性能进行验证。本文研究工作如下:（1）针对基于CNN的配准模型感受野受限,提出基于注意力机制的配准模型—DAU-Net。通过使用多尺度注意力来增大网络的感受野,进而提取到丰富的全局特征表示。通过使用通道注意力机制促进U-Net编解码结构对应层间的信息交互,以增强网络的非线性映射能力。此外,重新设计目标函数以增加变形场的平滑性。实验结果表明,DAU-Net能够有效提升模型的配准性能。（2）针对模型特征提取能力有限和配准结果中存在不真实的交叉折叠现象,提出基于Transformer的配准模型—Trans DIR。通过设计基于Transformer的下采样模块搭建编码器提取数据中的长距离依赖特征,使用注意力上采样模块增强网络对图像中关键解剖区域的关注度,抑制无关背景区域的干扰,从而提取到数据中的关键特征表示。此外,通过设计具有雅可比行列式相关计算的反折叠优化正则项来消除配准结果中的交叉折叠现象。实验结果显示,Trans DIR的评价指标均有明显改善。（3）针对特征图中噪声对Transformer提取长距离依赖特征的干扰,提出基于图卷积Transformer的配准模型—Graformer DIR。通过使用图卷积层的邻接矩阵屏蔽不存在的点和假连接对特征提取的干扰,从而使网络提取到真实有效的长距离依赖特征,进而获得数据中的关键特征表示。实验结果表明,Graformer DIR能有效的增大网络的感受野,从而提升网络的配准性能。