为了和WiMAX，Wi-Fi等新兴的无线宽带技术竞争，国际标准化组织3GPP在2004年底启动了LTE技术的标准化工作。以OFDM和MIMO为核心技术的LTE，不仅增强了3G的空中接入技术，具有更高的用户数据速率及系统容量，而且具有频谱使用灵活、可与现有技术无缝互操作，以及网络部署和管理成本低廉等优势，并巩固了传统蜂窝移动技术的主导地位，因而研究LTE及其关键技术就有重要的意义。但在实际应用中，如何实现改善小区边缘用户的通信质量、提高频谱资源的利用率，如何解决数据传输可靠性与提高数据传输速率及系统吞吐量的矛盾，如何降低LTE接收端的信号处理复杂度等问题，还有待于进一步深入研究和分析。为了不断完善LTE无线通信系统，克服其不足，以实现LTE理想的性能指标，本文首先依据3GPP标准36系列协议，以模块化的结构设计实现了基于Matlab软件的LTE物理层下行链路仿真平台，并介绍了主要功能模块的设计过程，在此基础上，加入HARQ技术模块，进一步优化了该仿真平台，并从误块率和吞吐量方面仿真分析了优化后平台的合理性及HARQ技术的优势。仿真对比发现，加入HARQ技术不仅有效地降低了系统的误块率，提高了系统可靠性，而且增大了系统的吞吐量，既实现了改善小区边缘用户的性能又解决了数据传输可靠性与提高数据传输速率及系统吞吐量的问题。其次，深入分析了物理层的编码和调制技术，仿真对比看出，在同样参数条件下，QPSK的误块率性能优于其它，但吞吐量不及16QAM和64QAM，为LTE中应用AMC，提高频谱资源利用率提供了应用依据。然后，在有限反馈的情况下基于格拉斯曼装箱原理的码本，分析了基于码本的预编码技术，仿真表明反馈比特数越多，其系统性能越好；并采用基于SINR准则仿真分析了使用预编码技术比未使用时能获得更好的系统性能。最后，分别针对单用户和多用户的情况，仿真分析了ZF、MMSE和BD等MIMO线性预编码算法，得出BD预编码算法的性能最优，更适合实际应用；并提出一种改进的BD线性预编码方案，通过仿真对比可知，使用该方案时的系统性能比单独使用任何一种预编码算法的性能都要好，在较低的信噪比下就能获得很好的误码率性能，并且极大地降低了接收端的信号处理复杂度。