在自然语言处理领域中,嵌入技术是一种将文本表示为计算机易于处理的形式的技术。但是,大多数的嵌入模型,无论是词级别,还是句级或者文档级的模型,其关注范围仅限一个文档之内,最多关注到上下句或者不同段落之间的关系,并没有利用文档间的相关性信息,这限制了模型对于文档级别文本的表示能力。最近出现了一种利用引用信息这种文档间信息进行嵌入的模型,该模型为了利用文档间的相关信息,并不直接将这些相关信息随着文档一同输入神经网络,而是将具有某种相关信息的多篇文档作为一个训练样例输入模型中进行训练,从而使得相关性更高的文档,能在向量空间中表示成距离更近的嵌入向量,而相关性较低的文档表示成的嵌入向量距离更远。虽然该模型在不少任务上取得了较好的效果,但还有不足之处,一是其利用的信息类型太少,因为目前的嵌入模型只用到了引用信息,而文档间的相关信息还有很多。二是引用信息本身,对于一篇文章来说,不同的参考文献起到的作用并不相同,有的参考文献仅作为背景提及,而有的则是作为该文章创作的直接思路来源,并且还存在未引用但关系很近的文章,所以不同参考文献的相关度差异很大。根据以上两个不足之处,本文提出了两个改进方法,第一个方法是利用作者信息来改进模型。本课题研究科学文献,即各个领域的学术论文这种文本类型,这一类文本中含有包括作者、出版方在内的各种类型的信息可以利用。根据该方案,我们参考目前利用引用信息的方法,通过以是否同作者作为判断文章相关性的依据,来构建更高质量的,包含更丰富信息的训练样例来进行训练。根据该思路进行的实验在部分任务上表现优于现有的利用文档间信息的模型。第二个方法是区分不同类型引用信息,分别探究其对于神经网络训练的影响,再将这些信息结合起来改进模型。根据该方案,我们根据参考文献在引文网络上的各种关系如间接引用、同被引等关系来判断文章相关性,来构建高质量训练样例进行训练,该工作中的改进实验在多个任务上取得了较为理想的效果。实验结果表明,本文利用作者信息的改进方法和利用引用信息中的不同来改进模型的方法是有效的,这说明包括引用信息、作者信息在内的各种信息,只要能够正确利用其中包含的相关度信息,都能对模型的训练产生正面影响。以上的改进工作对于科学文献的研究分析,以及今后嵌入模型的改进而言都具有一定的意义。