语音合成作为自然语言理解中一环,对于人机交互有着重要的意义。随着算力的提升和数据量爆炸式的增长,传统的基于隐马尔可夫和神经网络(DNN)的参数合成方法取得了不错的效果,但需要多个子模型分别训练,文本前端更是需要很强的专家知识,训练步骤繁琐且复杂。基于这个现状,序列到序列模型实现了从字符序列到声学特征序列的转换,简化了整个流程,实现了端到端。但端到端的语音合成也存在问题,如对齐不稳定、数据量需求大、个性化信息引入困难。本文研究了基于Transformer模型的端到端语音合成,主要工作如下:1、搭建并优化了基于Transformer的端到端中文语音合成系统。在Transformer模型基础上,根据语音合成的特性,本文研究了端到端语音合成中的训练技巧,如计划采样、多帧预测、停止预测等,加速了网络收敛;对编码器、解码器和注意力机制进行了优化实验,通过对已有注意力机制的对比,融合了前向注意力机制和多尺度注意力机制,模型稳定性有所提升。2、研究了中文端到端语音合成的信息增加问题,提出预训练解码器隐式发音持续时间模型。语音合成任务中文本输入和语音输出信息差异大,模型学习困难,丰富文本端的信息利于网络准确建模。本文预训练词向量丰富文本输入信息,并将中文端到端语音合成的解码器自回归结构看作是隐式发音持续时间模型,用语音数据去训练,实验表明信息增加的方法可降低序列到序列模型对数据的需求。3、研究了基于说话人风格表示的风格语音合成,引入区分性更强的三元损失训练说话人风格表示。在对说话人语音合成调研之后,本文实现了基于交叉熵损失的说话人识别,目的在于将说话人识别模型中的说话人表示迁移到端到端系统中;本文引入三元损失训练说话人表示,三元损失函数可拉近同一说话人的表示,模型的区分性更强,合成的说话人语音更准确。