随着新一代移动通信的研究发展,移动通信系统对信息速率、时延、连接数以及可靠性等方面都提出了新的要求,而大规模多输入多输出(Massive Multiple-input Multiple-output,Massive MIMO)已经纳入5G标准并成为下一代无线通信专网的关键技术,从而受到学术界和工业界的广泛关注。本文在大规模MIMO系统下,先是研究了SDMA预编码技术,对比和分析了几种常见的预编码技术,并给出相应的仿真结果。随着大规模MIMO系统天线数目的急剧增加,传统的检测方法已经不适应新的场景,所以本文紧接着研究了上行链路的多用户联合检测,多用户联合检测可以大大消除用户之间的干扰,而本文所采用的干扰抑制方式通过干扰消除把多个用户分成多个不相关的单用户,不仅可以消除多用户干扰,还可以大大降低基站复杂度,有利于工程上的实现。本文给出了软迭代干扰抵消检测算法在5G试验系统下的公式推导以及相应的系统性能仿真结果。然后本文提出了一种迭代检测结构,在多用户联合检测采用LMMSE-ISDIC算法的基础上通过引入两个外部大迭代来改善系统性能,在两个外部大迭代中更加充分地利用了译码器,检测器产生的信息,采用信息交互的方式来使得各个模块在外部大迭代中获得更加准确的信息,从而使得检测器和译码器信息更加准确,整体系统性能得以提高。文中通过仿真验证了该迭代检测结构在5G试验系统下的性能提升。最后本文针对大规模MIMO专网系统研究了专网环境下的系统结构,在不同的子载波间隔下对COST207三种不同信道的上行链路进行了系统仿真研究,结果表明在乡村、山区和海岛分别采用子载波间隔15kHz、常规CP和7.5kHz、扩展CP时,性能可以满足大规模MIMO专网项目要求。本文还对大规模MIMO专网系统中干扰抑制模块进行了FPGA硬件实现,提出硬件架构并通过verilog HDL代码实现了电路,最终在KCU105评估板下完成相应的仿真测试。