神经文本生成模型的一般模型是序列到序列(seq2seq)的模型,其核心思想是按序列顺序采样单词来生成文本,其中每个单词都以前一个单词为条件。这类模型对于解决类似于机器翻译的输入与输出具有较强对应关系的问题时是十分有效的,然而,当人们需要对训练时未被观测到的单词序列进行调整时,这种模型所生成的文本质量就会很差。生成对抗网络(GAN)在生成真实数据尤其是图像数据方面取得了巨大的成功,但是,由于生成对抗网络原本设计是用来解决可微输出的问题,因此对于处理离散文本序列输出的问题时仍然存在不小的挑战。本文提出了使用transformer网络结构代替原来通用的卷积神经网络(CNN)或循环神经网络(RNN)结构的生成器,同时使用强化学习算法actor-critic改进模型训练方法的一种模型,并且在特定的文本数据集上与其他模型进行了对比试验,具体工作如下:(1)提出了一种结合transformer架构的生成对抗网络模型,主要是使用transformer架构替代传统的卷积神经网络或者循环神经网络作为生成对抗网络的生成器。先把文本用词嵌入的方法进行预处理,同时为了弥补模型本身对序列位置信息的处理能力,再与序列的位置嵌入进行结合,作为网络的输入。经过多头注意力层及位置完全连接的前馈网络层,和层标准化等一系列处理,输出文本序列的概率。(2)提出了利用强化学习中的演员-评论家(actor-critic)算法改进生成对抗网络的训练策略,主要方法是用鉴别器所估计的概率的对数值当作强化学习中的回馈的奖励值(reward),同时把生成器选择当前需要输出的词的过程当作强化学习中的动作(action),把直到该时刻已经生成的序列当作强化学习中的状态(state)。(3)选择Penn Treebank数据集作为本文的实验数据,通过与seq2seq以及seqGAN这两个文本生成模型进行对比实验,以困惑度(perplexity)和bleu评分作为对句子质量的评估指标,以生成的句子中独有的2-gram、3-gram和4—gram的百分比作为句子中内容多样性的衡量。结果显示在这三个指标上,本文所提出的模型相对于对比模型均有所提高。从而验证了这个模型在文本生成中的有效性。