论文部分内容阅读
自动文摘(Automatic Document Summarization，ADS)是自然语言处理领域的一个子领域。它是利用计算机系统自动生成文本摘要的应用技术，或者说是按读者(或用户)的要求以简洁的形式表达原文主要内容的技术。研究自动文摘技术的理论价值在于，一个完善的自动文摘系统几乎可以涵盖自然语言处理领域的方方面面，所以，该领域的研究对于整个自然语言处理的发展定能起到一定的推动作用。并且，这项研究也有着广泛的应用前景：在互联网技术高度发达的今天，自动文摘技术能够有效地帮助人们从检索到的文章中寻找自己感兴趣的内容，提高阅读速度和质量。
本论文主要工作和贡献归纳如下：
(1)在模型创建方面，本论文提出了一种基于序列分段模型(SequenceSegmentation Models，SSM)的有监督摘录型摘要提取方法。在这种方法里，摘要问题被看作“段标注”问题。与前人的工作相比较，SSM方法的不同之处在于提取特征的单位不单来自句子，也可以来自于段。我们的SSM使用了可以对“段”建模并标注的半马尔可夫条件随机场(Semi-Markov Conditional Random Fields，SemiCRF)。实验表明，这种方法与单纯以句子为单位提取特征的摘要方法相比，有较明显的改善效果。
(2)在建模方面我们提出的另一种方法是采用排序学习方法(Learning to Rank，LTK)对通用型(generic)摘要问题建模。摘录型摘要的核心问题是给句子打分，打分的目的是为了后面的排序，并输出排名靠前的句子。而排序学习本质上就是为了解决排序问题，所以和摘录型摘要有很强的内在切合点。而且，采用排序学习建模更强调同一文本内的句子之间的相互比较，这和以往的建模方法有很大不同。我们将当前流行的几种排序学习算法在摘要问题上进行了比较，并第一次使用了逐列的排序学习方法。我们的实验证明，采用排序学习对通用型摘要建模是行之有效的，当采用SVMMAP这种逐列排序学习方法时，其总体效果还要优于以往建模方法。
(3)在特征提取方面，本论文提出了采用潜层狄利赫雷分配(Latent DirichletAllocation，LDA)来提取特征的方法。这种方法近年来被广泛应用于文本聚类、分类、段落切分等等，并且也有人将其应用于基于查询的无监督的多文档自动摘要。该方法被认为能较好地对文本进行潜层语义建模。本论文在前人工作基础上，研究了LDA在有监督的自动文摘中的作用，提出了将LDA提取的主题(Topic)作为特征加入有监督模型中进行训练的方法，并分析研究了在不同Topic下LDA对摘要结果的影响。实验结果表明，加入LDA特征后，能够有效地提高以传统特征为输入的文摘系统的质量。
(4)在多文档摘要中，冗余句的识别和剔除是一个至关重要的问题。无论是采用摘录型摘要方法还是理解式摘要方法，这都是一个不可回避的问题。针对这个问题本论文着重研究了复述(Paraphrase)句的识别问题。传统的解决复述句识别方法是通过词频或句法上的相似度来判断的。可是哪怕用相同的文字书写的句子其含义也可能差别很大，而相同句法结构也不能保证意义一致。本文根据新闻语料的特点，提出了一种通过引入深层的语义角色标注来帮助识别新闻领域复述句的方法。该方法通过在语义角色这种结构化的含义表达形式中提取的特征来弥补传统方法的不足：先识别待判断的两个句子中所有谓词的语义角色，然后计算两个句子间对应语义角色的相似度，最后结合传统的句子相似度计算方法来进行相似性计算。实验证明，本文提出的方法能有效地提高复述语句的识别效果。