近些年,语音识别技术随着深度学习的发展再度兴起并进入新的发展阶段。在近场声学环境下,自动语音识别取得了超人的识别准确率。然而,在实际应用中,拾取语音通常包含噪声、混响、回声、人声等干扰因素,使得识别性能严重下降。与近场声学环境相对应,远场声学环境是指声源与接收器之间距离为1m到10m的声学环境,囊括了智能音响、可穿戴设备和助听器等大部分语音识别系统的实际应用场景。远场语音识别技术可以提升在复杂声学环境下的语音识别性能,因此是语音识别技术应用到人们日常生活的重要技术支撑点。同时,它也是语音识别领域目前的研究难点和热点之一。为推动远场语音识别技术的发展,全球举办了多个国际顶级赛事,如CHi ME、REVERB等。本文通过分析第四届CHi ME挑战赛的远场语音识别系统,针对系统存在的问题,对系统的前端语音增强——波束形成算法进行了深入研究。具体研究内容如下:1、针对波束形成算法中基于神经网络估计时频掩蔽值时,神经网络的有监督训练方式致使估计过程存在数据不匹配问题,同时,基于实值时频掩蔽值求解声源存在概率时存在对信号信息利用不充分的问题,提出了一种集成基于神经网络和空域聚类的时频掩蔽值估计的波束形成。该方法将从两方面提升波束形成中声源存在概率估计的准确性。一方面是将基于神经网络估计的时频掩蔽值转换为声源存在概率,并将其作为基于空域聚类方法的初始时频掩蔽值,通过空域聚类方法的无监督估计,缓解神经网络方法存在的数据不匹配问题;另一方面,在集成方法中引入复值时频掩蔽值,通过充分利用信号的幅度和相位信息,提升声源存在概率求解的准确性。实验结果表明,集成方法有效缓解了神经网络方法的数据不匹配问题,复值时频掩蔽值的引入提升了集成方法中声源存在概率估计的准确性,提出的方法比基线系统在平均词错误率上取得了8.37%的相对减少。2、针对实值神经网络估计复值时频掩蔽值时存在不准确问题,提出了集成基于复值神经网络和空域聚类的时频掩蔽值估计的波束形成。一方面,将复值全连接网络作为估计器的骨干网络,利用复值的实部与虚部之间的相关性,降低神经网络的自由度,提升复值时频掩蔽值估计的准确性;另一方面,借鉴实值LSTM网络结构搭建复值LSTM网络并将复值LSTM网络作为时频掩蔽值估计器的骨干网络,通过利用复值的鲁棒记忆机制和LSTM的记忆能力来引入上下文信息,以提升时频掩蔽值估计的准确性,实现了远场语音识别性能的提升。实验证明,在平均词错误率上,集成基于复值全连接网络和空域聚类的掩蔽值估计的波束形成比集成基于实值全连接网络和空域聚类的掩蔽值估计的波束形成实现2.73%的相对下降,并通过显著性检测证明实验结果并不是由随机性造成的。另外,在集成框架中将复值LSTM网络作为掩蔽值估计器的骨干网络在时频掩蔽值的估计上取得了预期的性能提升,但集成基于复值LSTM和空域聚类的时频掩蔽值估计的波束形成没有达到预期性能。通过对实验结果分析,原因可能是基于复值LSTM网络估计时频掩蔽值时出现数据溢出问题,对声源存在概率的求解和波束形成滤波器系数的求解产生了影响。3、针对集成神经网络和空域聚类的时频掩蔽值估计器并没有解决有监督学习带来的数据不匹配问题,本文提出了一种基于神经期望最大化（Neural Expectation Maximization,Neural EM）的无监督时频掩蔽值估计。一方面,基于Neural EM的时频掩蔽值估计器在深度网络中将EM算法的迭代步骤展开为网络序列层,并由骨干神经网络代替EM算法中M步完成对概率模型参数的更新求解,将神经网络方法与模型方法进一步结合,实现基于神经网络的无监督掩蔽值估计。另一方面,通过RNN的内部递归结构替代EM算法的迭代步骤,并由编码器提取更鲁棒的特征用于概率模型参数的更新优化,实现基于RNN-EM的时频掩蔽值估计器,提升基于神经网络的无监督时频掩蔽值估计的鲁棒性和准确性。实验证明基于Neural EM的无监督时频掩蔽值估计器是可行的,并且基于RNNEM的时频掩蔽值估计器优于基于Neural EM的时频掩蔽值估计器。