在人与人的交往方式中,表情是传递人类情感信息与意图的重要方式,通过表情识别技术可以有助于计算机像人类一样观察、理解和提供相应的反馈。目前表情识别技术面临两个难题:一方面无论是基于几何特征还是纹理特征的特征提取算法都存在对皱纹、凸起、凹陷等细微面部变化不敏感;另一方面现有的算法无法解决实际生活中采集到的图片光照分布不均匀、噪声干扰等问题。针对上述的问题,本文分别设计了可变形卷积网络的面部动作单元识别算法和专家先验知识自适应LTP的表情识别算法,并通过实验证明了所设计算法的可行性和有效性。本文的主要研究内容具体如下:（1）设计了一种基于可变形卷积网络的面部动作单元识别算法AU-DCN。首先,通过对卷积核增加一个可学习的偏移参数自适应的扩充感受野的大小和方向;然后在可变形卷积模块中引入调制机制,使可变形卷积模型不仅可以调整每个采样点的偏移量,还可以调节偏移量的权重系数,以此区分得到的候选区域是否为我们感兴趣的区域;最后,通过R-CNN特征模仿,计算Faster R-CNN特征和R-CNN特征余弦相似度,约束这2个特征的差异,使得网络始终聚焦于感兴趣区域,降低无关冗余上下文信息的影响。通过两组实验的结果表明所设计的算法分别在DISFA和CK+数据集上的F1-score均值提高了2.6%和2.4%。（2）设计了一种专家先验知识自适应LTP的表情识别算法。首先,对原始输入图片采用多尺度的表达,对于不同尺度下的图片划分为若干子区域,利用LTP算法对每个子区域的灰度值取其直方图特征;然后计算每个子区域的信息熵建立相应的加权系数,将每个子区域的直方图特征乘以加权系数,并将其级联为一个完整的纹理特征;最后,根据专家先验知识将面部区域划分为8个组群,为每个组群生成掩码,并边界框将其包围起来,作为区域的边界框标签,将原始输入图片、掩码与完整的纹理特征作为网络输入一起送入AU-DCN中。通过两组实验的结果表明所设计的算法在Oulu-CASIA NIR&VIS数据上的识别率较其他算法提高了8.4%,F1-score也明显优于其他三种算法,并通过消融实验,验证了专家先验知识的自适应LTP算法中每一个组件的有效性。