目前5G在国内正如火如荼地建设,其地位已经提升到国家战略的层面。4G时代的移动互联网显著改善了人们的生活,带来了极高的经济效益。随着5G建设的完成,其必定会给人们的生活带来重大的改变,同时带来的经济效益也是不可估量的。相比于4G时代,5G更加强调了高速率、低时延、高可靠性三方面,而这些特性也是面向万物互联,云端计算这些场景。为了达到5G通信的要求,Massive MIMO成为5G通信中的核心技术。而针对于Massive MIMO系统而言,如果需要最大化频谱效率,进行高效快速可靠的数据传输,一方面需要信道状态信息的获取,另一方面需要高效精确的信号检测算法,本文则着手于这两方面进行研究。对于信道状态信息测量这一方向,本文着重于在FDD场景下,信道状态信息压缩反馈恢复的算法性能提升。基于对传统压缩感知算法和基于深度学习的算法的对比研究,本文在神经网络算法中引入了注意力机制和基于循环神经网络的encoder-decoder结构,大幅度提升了算法的性能。仿真结果表明,在近似的算法复杂度下,本文提出的算法性能大大优于目前基于深度学习和压缩感知的算法的性能。对于信号检测算法这一方向,在Massive MIMO场景下,随着天线数的增加,球译码以及最大似然译码的复杂度都会成倍增加,高效的检测算法就成了学者研究的热门方向。本文对基于深度学习的MIMO检测算法进行分析研究,引入注意力机制,在此基础上进一步提升了算法性能。总的来说,本文结合深度学习算法中的注意力机制和网络结构设计,在信道测量和信号检测两方面提出了新颖的算法,提升了在相应场景下算法的性能。