国际电信联盟(ITU)定义了第五代移动通信技术(5G)三类典型业务场景,即增强型移动宽带(eMBB)、大规模机器类通信(mMTC)以及超可靠低时延通信(URLLC)。根据这三类业务场景的性能要求,5G定义了一系列的性能目标,如吞吐量提升1000倍,能量效率(EE)提升10倍等,配置低精度ADC的大规模天线系统是同时满足这两个目标的潜在技术,因此研究低精度量化下大规模天线系统性能分析与优化具有重要意义。本文关注混合精度架构下的大规模天线系统容量分析和基于容量的参数优化,以和速率作为系统容量的指标。利用随机矩阵理论推导混合精度架构下的系统和速率闭式,为性能分析和系统参数优化提供理论支撑。利用大规模优化理论对发送功率、量化精度等参数设计高效优化算法。本文主要贡献如下:·在窄带系统中采用加性量化噪声模型(AQNM),基于随机矩阵理论推导了混合精度架构下基站采用最小均方误差(MMSE)检测时系统和速率的闭式渐进等价,基于闭式渐进等价发现基站采用MMSE检测时的“容量天花板”效应,无限提高上行发送功率并不能完全弥补低精度量化带来的和速率损失。数值仿真结果验证了闭式渐进等价的有效性,并发现在基站端配置大规模天线可以补偿配置低精度量化带来的速率损失,对单比特量化效果尤为显著。·在窄带系统中进一步考虑量化失真相关性,采用基于Bussgang分解的量化模型,推导了系统和速率表达式。在此基础上,本文研究了基站ADC的最优量化精度,旨在满足基站功耗约束下最大化系统和速率。为此,本文形成最大基站功耗约束下的系统和速率最大化问题,以联合优化基站所有ADC的量化精度。该问题是非凸整数规划问题,且难以计算目标函数的一阶梯度。为求解该问题,本文利用障碍函数法和协同进化粒子群优化(CCPSO)算法,提出了高效的最优求解算法。仿真结果验证了算法的有效性,并发现采用AQNM分析和优化的结果并非实际最优。·在宽带系统中推导了采用AQNM下的系统和速率表达式,发现非线性量化导致正交频分复用(OFDM)子载波间干扰,致使系统和速率下降。基于此,本文形成和速率最大化问题,联合优化所有用户在子载波上的上行发送功率分配。问题是一个凸函数之差规划,同时具有大规模特性,为求解该问题,本文利用序贯凸近似、Lagrange对偶以及Bundle-Level算法,分别在无QoS和有QoS约束下提出了两种快速收敛的次优求解算法。仿真结果显示所提算法同常规的次梯度下降方法(椭圆法)相比运行效率大幅提高,且具有更高的求解精度,揭示了大规模优化算法在5G技术中更为广泛应用的潜力和可能性。