自2018年李克强总理提出“互联网+政务服务”概念以来,国内的政务智能问答系统不断涌现。但是大多数的政务问答系统都是基于知识图谱的检索式问答,由于实体和关系的抽取比较复杂,导致知识图谱的构建需要耗费大量的时间和人力。随着深度学习技术在自然语言处理中的广泛应用,目前也出现了一些基于机器阅读理解的问答系统,但是由于这些机器阅读理解模型结构设计过于简单,只能适用于一些简单问题的回答,对于多跳推理的复杂问题,不能很好的解决。针对以上问题,本文主要工作有:1)政务知识库的构建:通过Scrapy框架对各个省部级官网的政务新闻进行爬取和清洗,然后将其存储到Elastic Search的检索库中。当输入一个问题时,通过Elastic Search给出与当前问题相关的几篇文章。为了提升Elastic Search的检索准确率,研究了建立倒排索引所需的分词技术,如:LAC,Jie Ba等分词方法,以及BM25,TFIDF等文本相似度匹配算法。2)政务文章的精排序:由于Elastic Search的检索是基于词级别的匹配,没有进行语义方面的深度匹配。针对此问题,本文研究了Point Wise,Pair Wise,List Wise等文章精排序算法,提出了一种基于Roberta的多层信息注意力融合的排序模型,比原始Elastic Search在命中率上高9%,比未进行多层信息注意力融合的Roberta模型在命中率上高1.5%。3)阅读理解模型构建:研究了传统的Doc QA,Bi DAF,QANet等阅读理解模型,以及目前基于预训练任务的阅读理解模型。由于有些问题在文章中得出答案需要进行多步推理。而现有的模型很难解决这种问题,为了解决这种问题,本文结合Roberta预训练模型,提出了一种基于图神经网络的机器阅读理解模型。该模型比不加图结构的Roberta模型在法研杯阅读理解数据集上joint F1高出2.18%。在Hotpot QA数据集上,joint F1比原始的Roberta模型高出了0.65%。在本文的政务阅读理解数据集上EM指标提高了0.12%,F1指标提高了0.17%。最后借助Flask web框架实现了基于机器阅读理解的政务问答系统。当用户向系统提问问题时,首先,在Elastic Search中粗粒度的召回10篇文章,然后采用精排序模型对召回的文本进行精排序,接着,将最相关的五篇文章拿出来和用户提问的问题做阅读理解任务,最后,锁定问题的答案,展示给用户。本系统主要提供两种政务服务,一种是智能政务问答,另外一种是相关文档的检索。