本文对基于V-BLAST技术的通信系统中的检测技术、硬判迭代接收技术、Turbo接收技术、LDPC码(检测、硬判迭代接收、Turbo接收技术及LDPC码)的优化进行了深入研究，主要工作如下： 1.发射端预处理串行干扰抵消检测。在开环工作模式下，推导了PSK调制迫零串行干扰抵消的精确误比特率解析解，在此基础上优化各发射天线之间的功率和传输速率分配，使得在接收端做固定次序迫零串行干扰抵消的误比特率性能最优。数值计算结果和仿真结果表明，发射端经过如此的预处理之后，接收端的固定次序排序干扰抵消可提供和排序串行干扰抵消相当的性能，而复杂度较排序串行于扰抵消低一个数量级，同时对信道估计误差的鲁棒性也优于排序串行干扰抵消。本方案如和其它一些提高串行干扰抵消性能的方案联合使用，结合仍然可以获得比较满意的结果。 2.水平编码和垂直编码在硬判反馈迭代时的性能分析。这部分工作的主要内容是研究准静态信道条件下，水平编码和垂直编码在硬判反馈迭代接收时的性能。 ●首先结合水平编码和垂直编码给出了一些基于排序串行干扰抵消的迭代接收方案。 ●接着通过仿真详细分析了卷积水平编码和垂直编码的性能。可以发现：(1)串行实现并行干扰抵消的水平编码性能要优于并行实现并行干扰抵消的水平编码：(2)在性能方面并不象某些文献[118]所述的水平编码要优于垂直编码，它们的优劣取决于接收机的迭代接收方案；(3)当V-BLAST和卷积码结合并在接收端采用硬判反馈迭代时，存在错误扩散现象，这时约束长度短的卷积码性能优于约束长度长的卷积码。 ●最后给出了一种减少错误扩散影响的方案。 3.基于软干扰抵消的Turbo-BLAST接收机的设计。这部分工作包括三部分：第一，提出将关于码字比特的后验概率信息(而不是传统的外赋信息)从外解码器反馈至内解码器，EXIT图定性分析结果和仿真结果表明这样的改进明显地提高了接收机的性能，同时又不增加任何计算复杂度；第二，利用发射信号随机过程的遍历特性，避免了每个符号周期采样时刻都求取软干扰抵消所需要的权向量，而只需要在每一帧中求M次，这样极大地降低了复杂度，付出的代价只是性能上的少许损失；第三，通过对outage容量的分析发现，采用干扰完全被消除时接收机性能作为软干扰抵消的性能界是不紧的。 4.LDPC码在多天线环境下的设计。采用基于密度进化的LDPC码设计方法，将不规则LDPC码的设计工作延伸到2发2收多天线信道。研究结果表明，随着不规则LDPC码码字比特节点生成多项式最高阶次的增加，所设计的LDPC码噪声门限值非常接近香农限。通过仿真比较了本文所设计的LDPC码、Richardson等人设计的LDPC码以及Turbo码在准静态平衰落信道、不相关平衰落信道及相关平衰落信道中的有限码长性能。