大规模多输入多输出(Massive MIMO,Massive Multiple Input Multiple Output)技术被认为是无线通信系统的一个突破,它为一个基站配备大量的天线,并可以在同一时频内为很多用户提供服务。其优点是可以将传输信号能量集中到非常狭窄的区域,这将大大改善系统容量。大规模MIMO中一个非常重要的问题就是保密通信,而影响保密通信的重要因素是窃听端对通信系统的窃听和攻击。研究表明被动窃听对大规模MIMO的影响可以忽略不计,主动窃听就成为影响保密通信的关键因素,为了解决这种问题,本文研究了基于大规模MIMO的主动窃听安全问题。本文的工作主要包括以下两个方面:首先提出了一种主动窃听端检测方案,该方案的研究场景是单小区单用户多窃听端大规模MIMO系统。利用附加随机导频技术和高维信源计数算法,检测出大规模MIMO系统中存在的主动窃听端,讨论了本文的检测方案相比于经典MDL(MinimumDescriptionLength)检测器的优越性,并对两种检测方案进行了仿真比较。结果表明,本文检测器的发送端导频序列长度无需远大于基站天线数,即可获得良好的性能。其次研究了主动窃听模型下的信道估计,并着重研究了两种信道估计方案。这两种方案均是在附加随机导频的信号模型下研究分析的,第一种是直接用公开导频作为训练序列进行信道估计,第二种则利用最小均方误差(MMSE,Minimum Mean Square Error)信号检测技术判决出随机导频然后再进行信道估计。经过仿真分析,后者所得到信道向量的归一化均方误差在相同条件下要小于前者,拥有比较好的估计性能。最后本文结合第三章的主动窃听端检测方案,对仿真结果进行了联合分析,找到了比较合适的功率分配因子和信噪比的参数设置,在保证了主动窃听端检测性能的同时又可以获得较好的信道估计性能。