随着信息社会的高速发展,移动通信产业正面临着巨大的变革与挑战。在无线频谱资源日趋紧张的情况下,如何进一步提升系统传输速率成为亟需解决的问题。由于能够大幅提升系统的功率效率和频谱效率,大规模多输入多输出（MIMO,multiple-input multiple-output）技术已成为第五代移动通信系统（5G,5th generation）的关键使能技术。然而,在实际无线通信系统中,发送端瞬时信道状态信息（CSIT,channel state information at transmitter）获取是制约大规模MIMO技术发挥其性能潜力的瓶颈因素。与此同时,随着移动互联网和智能终端的快速普及,无线通信的应用领域日趋丰富,要求大规模MIMO系统能够支持多种场景下的数据传输业务。为解决上述问题,本论文开展了面向多种通信场景同时利用统计信道信息的大规模MIMO无线传输理论方法的研究。首先针对存在窃听用户的大规模MIMO无线通信系统,提出波束域物理层安全传输理论方法,证明了波束域传输关于最大化安全和速率下界的最优性,并研究相应的最优功率分配问题。随后,考虑有限字符输入信号,研究多小区大规模MIMO多播预编码传输理论方法,推导出有限字符输入下的可达遍历速率下界,并利用此下界给出针对不同系统配置的预编码设计快速迭代算法。此外,为了大幅提升水下无线通信系统的频谱效率,提出利用大规模收发阵列的水声通信理论方法,通过充分利用大规模MIMO系统的空间分辨力,实现系统吞吐量的显著增长。本论文的主要工作和贡献包括:1.提出波束域大规模MIMO物理层安全传输理论方法。针对存在窃听用户的大规模MIMO物理层安全通信,研究波束域传输的最优性以及功率分配算法。假设基站仅知合法用户与窃听用户的统计信道状态信息（CSI,channel state information）,引入可达遍历安全和速率下界,并基于此下界推导出最大化安全和速率下界的输入协方差矩阵的特征矢量需要满足的必要条件。其结果表明波束域传输关于最大化可达遍历安全和速率下界的最优性。进一步,对于合法用户配置单天线的情况,理论上揭示出最大化和速率下界的功率分配方案不应在窃听用户波束增益更强的波束方向上分配任何功率,阐明了窃听用户对于波束域最优功率分配的影响,从而降低功率分配时的计算复杂度。随后,基于凹凸过程（CCCP,concave convex procedure）和大维随机矩阵理论,提出快速有效的波束域功率分配迭代算法。数值仿真结果表明,安全和速率下界能够有效逼近可达遍历安全和速率,且所提迭代算法可以实现逼近最优的性能。2.提出有限字符输入下的多小区大规模MIMO多播传输理论方法。针对有限字符输入信号,研究多小区大规模MIMO多播传输中的预编码设计理论方法。考虑同一小区内用户向基站寻求相同信息,同时不同小区所提供的信息各不相同。对于基站仅知统计CSI时的加权最大最小公平性（MMF,max-min fairness）预编码传输问题,推导出有限字符输入下最大化最小加权可达遍历速率的预编码矢量需要满足的必要条件,并提出优化预编码矢量的迭代算法。之后,为降低计算复杂度,推导出有限字符输入下的可达遍历速率下界,研究最大化最小加权速率下界的优化问题。利用CCCP方法,提出能够收敛到问题局部最优解的预编码设计算法。进一步,利用大规模MIMO系统的信道空间特性,证明最大化最小加权速率下界的最优预编码矢量即为用户发送相关阵特征矢量的线性组合,继而将原问题转移到一个更低维度的搜索空间上。结合该结论求解加权MMF问题,提出利用MMF问题与服务质量（QOS,quality of service）问题间对偶关系的预编码设计算法。数值仿真结果表明,所提出的速率下界能够有效逼近可达遍历速率,且所提算法能够大幅提升有限字符输入下的系统性能。3.提出大规模MIMO水下无线传输理论方法。针对浅海环境,研究收发端均配置大规模换能器阵列的大规模MIMO水声传输理论方法。提出大规模MIMO水声波束域信道模型,并分析其渐进特性。基于此信道模型,揭示出最大化可达遍历速率的发送设计可以在较低维度空间上进行,具体的维度大小与信道路径数有关。随后,当发送换能器数目不受限时,证明了波束域传输关于最大化可达遍历速率的最优性。进一步,考虑接收水听器的数量同样趋于无穷大,证明最优波束域功率分配可以通过经典的注水算法实现,且相应的可达遍历速率在高信噪比（SNR,signal-to-noise）区域与信道路径数呈正相关。对于任意收发阵元个数的情况,利用随机矩阵理论,提出低复杂度输入协方差矩阵的优化算法。数值仿真结果表明,大规模MIMO技术能够大幅提高水声通信系统的吞吐量,且所提算法是有效的。