在最近的几年中,伴随着互联网在各行各业中的广泛应用,以互联网为基础的企业在当今的信息时代正在高速发展,具有代表性企业包括阿里巴巴、京东、微博、推特等,商家急切的需要了解用户对产品情感态度和对产品的需求,以便对商家的产品服务和产品质量做出相应的改进,提高效益。与此同时自媒体也是个人发表观点的重点途径,持续增加的网民对于产品、服务等的态度或者情感,积累了大量含有个人观点的评论。这些在线评论不仅数量众多、风格多样,并且都是非结构化的文本数据,对在线评论数据进行情感信息提取,判断人们对产品、服务等的评判态度,确定用户评论的侧重点和情感倾向具有十分重要的意义。在这样的背景之下,本文以用户评论作为研究对象,对文本情感分类任务中的两项子任务—文本向量表示和特征提取进行研究与分析。首先,在处理长文本序列数据时含有冗余性和噪声以至于目前的情感分类算法在特征提取阶段对长文本序列信息提取不足,分类精度准不准确的问题。针对上述问题本文提出了基于文本过滤网的改进BERT算法模型。该模型通过文本过滤网TSN在初始数据集标签构建出一个新的数据集,然后通过该模型过滤出文本评论数据中与粗粒度方面相关的语句,在上述步骤完成后采用句子对形式当作改进后的BERT模型的输入,并在输出的过程中加入注意力机制,并和当前多个文本情感分类模型进行实验比对和分析,实验结果表明本文提出的模型可以在一定程度上提升方面级文本情感分析算法在处理长文本任务的相关性能。其次,针对在文本情感分类的过程中只关注整体情感而忽略具体细节而导致的分类精度不高的问题,本文提出了一种结合文本过滤的改进BERT算法与双向门控循环单元的方面级文本情感分类模型。该层次模型首先将数据预处理后得到的分词进行文本向量转化,使其转化为句子级的低维稠密的文本向量表示,然后将上一步骤句子级的文本向量表示输入到卷积神经网络和双向门控单元中进行特征提取操作,紧接着在输出为篇章级语义信息过程中的解码阶段加入用户特征和产品特征得到最终的篇章级语义信息,最后采用分类函数进行分类。最后,为了验证整体模型的有效性,对本文所提出的模型进行了多次实验,在实验中对整体建模后的模型与相关的分类模型进行对比,证明了该方法较其它相关网络模型性能有一定提升。