近年来，多输入多输出（MIMO）系统由于潜在的高速率、大容量而受到广泛关注，成为未来移动通信系统的关键技术之一。在未来的基于MIMO的移动网络中，基站和用户均采用多天线收发信号。在发送端已知信道状态信息时，预编码是实现逼近广播信道容量限的一种有效方法，同时可以消除多天线、多用户间的干扰并减少移动台处理的复杂度，因此学术界专注于多用户MIMO广播信道的预编码问题。基于此，本论文深入分析研究了MIMO系统广播信道预编码的问题，包括线性与非线性预编码技术，以及有限反馈的预编码方法等，取得了以下一些研究成果。针对最大化信漏噪比预编码方法的功率控制降低用户可达的信漏噪比，提出了追求信漏噪比约束下最小化发射总功率的预编码器设计方案。利用半定松弛的方法对目标问题可以进行有效地求解，并且在设计目标中增加功率约束条件，能有效降低基站的发射总功率。并且该方案在满足较大信漏噪比约束门限时，可获得比最大化信漏噪比更好的误码率性能。利用每个用户的信漏噪比仅取决于该用户的预编码矩阵而与其他用户的无关这一特性，当每个用户具有多根接收天线时，求解单用户信漏噪比约束下最小化发射功率的问题，进而利用半定松弛方法将目标问题转化为半定规划问题进行有效地求解。已做的仿真显示该思路和方法能够设计出具有较好性能的支持每用户双天线的预编码器。基站已知具有有限误差的信道状态信息时，基于信干噪比限制下的广播信道预编码的鲁棒性设计可行性差，为此提出基于信漏噪比限制下的预编码方案。将信漏噪比限制下的最小化发射总功率的设计转化为一组半正定优化的问题进行求解，并依据各个用户当前信道条件动态指定每个用户的信漏噪比的要求，从而增强了采用凸优化方法进行设计的可行性。仿真结果显示，本方案的误码率性能对信道信息误差具有鲁棒性，与基于信干噪比的类似方案相比较，本方案可获得最优解的概率更高，有更好的误码性能。提出了结合接收波束成形的迫零Tomlison-Harashima预编码（ZF-THP）方法，在移动台有多个接收天线时，基站采用ZF-THP消除多用户间干扰，同时每个移动台利用接收波束成形保证系统拥有最大和容量。该方案在中低信噪比时具有比ZF-THP更高的系统和容量。并且计算了ZF-THP预编码系统在高信噪比时的平均和容量，分析了其两种排序方法，揭示出所提方案具有较高系统和容量的原因。不同于迫零预编码最大化系统和容量的设计思路，在块对角化基础上提出最小化接收信号均方误差的预编码器设计思路，给出了该预编码矩阵的闭式解，仿真发现其比迫零预编码方法具有更好的误码率性能，并保留了其大部分的系统和容量。