无线通信的飞速发展使频谱资源变得十分紧张，多输入多输出(MIMO)技术被普遍认为是解决这一问题的有效手段。研究发现，作为MIMO系统的关键技术之一，预编码是提高系统频谱效率、增强链路可靠性等方面的重要保证。但很多预编码优化问题是非凸优化问题且属于非确定性多项式难题(NP-hard)，复杂度极高，因此研究这些问题的低复杂度解决方案具有重要意义。　　 本文在对现有的预编码技术的广泛调研和深入分析的基础上，指出目前点对点预编码方法的两个关键性难题为：1）对平坦衰落信道，最大似然接收机下的最小欧氏距离预编码优化问题，目前尚无普适的低复杂度解法；2)对于频率选择性衰落信道，FIR预编码器可在宽频带内利用FIR滤波器结构实现对输入序列连续处理，但现有算法无法获得最大的信道容量。围绕这两个难题，本文的创新工作主要体现在如下两个方面：　　 ●基于曲面膨胀的最小距离MIMO预编码算法。该算法建立在以下事实基础上：1）将预编码矩阵限制为实值矩阵对整体性能的影响极小；2）实对称矩阵与空间中的二次曲面（曲线）具有确定的对应关系。因此，该算法的新颖特征在于它从几何观点出发，将预编码矩阵的非凸优化求解转化为寻找空间中依特定条件膨胀的二次曲面（曲线），且基于这种曲面（曲线）膨胀思想较易获得关于最小欧氏距离的闭合表达式，从而可获得较好的BER性能并有效降低算法复杂度。基于曲面膨胀的思想，本文分别提出一种适合双路和三路数据流传输的MIMO预编码新算法。仿真实验表明，本文提出的算法可以显著改善系统的BER性能，且具有较低的在线计算复杂度。　　 ●适合MIMO频率选择性衰落信道的FIR预编码器。本文提出一种在平均功率约束下以最大化信道容量为目标、适用于MIMO频率选择性衰落信道的预编码新方法。该方法把预编码器建模为一个低阶FIR滤波器，将原容量最大化非凸优化问题松弛为一个可在多项式时间内求解的SDP优化问题，并提出了一种基于特征值分解的直接抽取算法来获得原问题的近似最优解。仿真实验和分析证明：1）利用矩阵秩松弛，将原非凸优化问题转化为SDP问题进行求解，是设计低阶FIR预编码器的有效途径；2)与已有算法相比，该算法可以显著提升系统的信道容量，尤其当预编码器阶数等于信道径数时，该方法可近似达到理论信道容量。为了改善直接抽取法能量损失带来的性能损失，本文还提出一种基于高斯抽样的改进算法。根据具体的信道条件合理选择两种实现算法，本文提出的FIR预编码算法可以最大限度的优化系统的信道容量，同时保持较低的运算复杂度。由于FIR预编码算法对数据块的结构无任何要求，因此具有较低的实现复杂度和一定工程应用价值；其不仅适用于单载波系统，也同样适用于MIMO-OFDM系统。