MIMO技术能够在不增加带宽的情况下成倍地提高通信系统的容量和传输质量，因此被公认为第四代移动通信系统的核心技术之一。MIMO技术有集中式MIMO系统和分布式MIMO系统这两种应用形式，其中分布式MIMO系统可以增大无线信号的覆盖范围、有更高的功率效率，因此引起广泛关注。但分布式MIMO系统下切换比较频繁，因此研究分布式MIMO系统下的分层覆盖技术与天线切换技术有着非常重要的意义。分层覆盖技术有利于减少用户在高速移动过程中的频繁切换，能够在有效平衡增大系统容量与减小切换率之间矛盾的同时，扩展小区的覆盖面积。天线切换技术可以在保证通信质量的同时，减少天线切换次数，降低系统信令负荷。本文就是在分布式MIMO系统下，研究分层覆盖技术与天线切换技术。全文的主要工作如下：　　 (1)提出了一种新的自适应分层覆盖技术。在总结传统分层覆盖技术研究现状的基础上，首先给出了支持自适应分层覆盖的分布式MIMO网络架构，然后概述了本文的研究重点——小区选择与切换技术和天线选择与切换技术。　　 (2)研究了自适应分层覆盖技术的小区选择与切换算法，以及层选择速率门限的优化算法。提出了一种考虑负载均衡的预测路径辅助基站选择算法以实现自适应分层覆盖技术。仿真结果显示，相比传统分层覆盖技术，自适应分层覆盖技术能够在提高服务质量的同时，平均各小区的业务量。针对层选择速率门限的优化问题，建立了反映用户满意度的数学模型。然后提出了改进粒子群算法以优化层选择速率门限。数值仿真结果表明，改进粒子群算法具备快速收敛性，可以有效优化层选择速率门限。　　 (3)对分布式MIMO系统的天线切换算法进行了研究，包括小区内天线组选择与切换策略与小区间天线组选择与切换策略。提出了位置信息辅助的天线组切换判决算法，以及加权预测路径辅助的天线选择算法。大量仿真结果证明，所提天线切换算法能够有效降低切换次数，大大减轻网络控制的信令负荷。