本文的主要研究内容是不依靠平行语料的神经机器翻译系统的初始化研究,在不使用平行数据进行训练的方法中主要有无监督训练方法,它使用降噪自编码和反向翻译方法在单语语料上进行训练,而相关研究表明模型的初始参数往往对这类训练方法的最终效果有很大影响,错误的初始化可能会导致训练时产生太多噪声,从而会影响其最终性能。针对此问题,本文分别从真实词典监督,伪词典监督和元学习三个角度提出不同方法来提高初始化模型质量,并在此模型基础上使用无监督方法训练机器翻译模型,提升机器翻译的效果。（1）从真实词典监督的角度,提出基于真实词典监督的模型初始化方法。通过引入一个真实词典对源端单语数据进行替换,在两种语言之间建立联系,以监督模型的预训练过程,同时得到源端到目标端和目标端到源端的两个方向的预训练模型,之后使用词嵌入融合初始化和双编码器融合训练两种方法对两个方向的预训练模型进行融合,初始化模型后使用无监督方法进行训练。实验结果表明,本文利用真实词典监督训练得到的初始化参数可以有效提高翻译模型训练的效果。（2）从伪词典监督的角度,提出基于伪词典监督的模型初始化方法。实验证明通过词典引导预训练可以得到一个较好的初始化模型,提高翻译质量,但是在一些情况下平行词典也是较难获得的,为了解决这个问题,本文利用单语数据先提取伪词典,再利用抽取的伪词典进行模型的初始化和训练过程。为了实现这个目标,本文提出了一个两步训练方法,第一步使用单语数据训练一个无监督模型,利用其训练的词嵌入向量抽取伪平行的词典。第二步利用抽取的词典对训练数据进行替换,之后利用替换数据训练无监督翻译模型。实验结果表明,本文提出的词典抽取方法有效提高了原本翻译模型的效果。（3）从元学习的角度,提出基于元学习的模型初始化方法。元学习方法可以利用对不同任务的学习从而得到一个较好的初始化参数,而一个较好的初始化参数对于模型的最终训练效果有重要作用。本文利用多个语言的单语数据,通过使用元学习方法得到一个较好的初始化模型,在此模型基础上继续训练预训练模型,之后利用预训练模型初始化无监督训练模型,然后使用抽取词典的方法得到伪词典,对训练数据进行替换,最后利用双编码器方法进行训练。通过实验表明,本文提出的元学习初始化方法相比于传统的用随机初始化参数训练预训练模型的方法,最后训练的翻译模型效果有明显提升。