毫米波通信大规模多输入多输出(Multiple-Input Multiple-Output:MIMO)系统以丰富的频谱资源和极大的空间自由度,成为第五代移动通信系统(The Fifth Generation of Mobile Communication Systems:5G)关键技术之一。毫米波较短的波长便于缩短天线间距,使基站端可以配置成百上千根天线,构成大规模天线阵列;同时,大规模MIMO技术可以利用天线阵列增益,显著改善毫米波传播损耗导致的覆盖问题。因此,毫米波与大规模MIMO技术的结合在5G增强移动宽带业务中占据重要地位。传统全数字波束赋形方案要求每根天线配置独立的射频链路,基于该方案的毫米波大规模MIMO系统硬件成本和功耗很高。因此,采用数字与模拟波束赋形相结合的混合波束赋形方案,仅需配置远小于天线数目的射频链路,可以显著降低功耗。但是,由于射频链路采用高精度模拟数字转换器(Analog-to-Digital Converter:ADC),混合波束赋形架构系统功耗仍然较高。同时,需要联合设计数字和模拟波束赋形,计算复杂度较高。针对毫米波大规模MIMO系统高功耗的问题,本文考虑低精度ADC毫米波大规模MIMO系统,研究了采用全数字或混合波束赋形的可达速率和能量效率。根据加性量化噪声模型(Additive Quantization Noise Model:AQNM),建立了低精度ADC毫米波大规模MIMO系统上行链路信号模型,并在此基础上分析量化位数对混合和全数字波束赋形方案可达速率、能量效率的影响;对混合与全数字波束赋形架构下的毫米波大规模MIMO系统可达速率和能量效率进行了全面比较,提出了混合波束赋形优于全数字波束赋形的充分条件。数值仿真结果表明,过高的量化精度对毫米波大规模MIMO系统并无必要,低精度ADC混合波束赋形架构可以在可达速率与功耗之间实现平衡。针对毫米波大规模MIMO系统信号处理复杂度高的问题,本文研究了毫米波大规模MIMO系统中低复杂度混合波束赋形方案。为了保证系统能效,同时降低信号处理过程中计算复杂度,论文提出一种基于角度域压缩的低复杂度混合波束赋形检测算法。利用独立多径信道模型,将信号处理从天线域转换到角度域,并选择接收信号功率强的角度设计模拟波束赋形矩阵;在数字基带处理中,考虑迫零(Zero Forcing:ZF)、最大比合并(Maximal Ratio Combining:MRC)和最小均方误差(Minimum Mean Square Error:MMSE)检测算法,进行了系统性能的分析与比较。仿真结果表明,与现有角度域混合波束赋形算法相比,论文所提方案具有更高的可达速率,并能显著降低计算复杂度。