链路自适应技术能有效地提高数据传输速率和频谱利用率，是目前和未来移动通信系统的关键技术之一，自适应调制编码AMC和混合自动请求重传HARQ是其中两种主要的链路自适应技术。随着数据速率和业务质量要求越来越高，引入AMC和HARQ技术可使得系统整体性能得到较大的改善。自适应调制编码能根据信道条件灵活地选择调制编码方案，但对信道估计错误和时间延迟比较敏感，而HARQ能够自动适应瞬时信道条件，且受信道估计错误和延迟的影响不大。由于高阶正交幅度调制MQAM和高阶相移键控MPSK的频谱效率高，也在各种非自适应和自适应数据通信系统中得到了广泛应用。为此，本文将以MQAM／MPSK为核心，围绕自动请求重传和自适应调制两方面展开研究。本文首先在分析Gray编码16QAM和64QAM星座图不等差错保护性能的基础上，提出了一种基于MPSK／MQAM（调制阶数M=2^m＞4）的改进HARQ方案，并针对8PSK、16QAM、32QAM和64QAM调制方式提出了相应的符号比特重排规则和星座图调整规则。研究表明该方法具有很好的性能（尤其在低SNR时），而且改进的MQAM／MPSK HARQ方案所获得的性能增益随着M的增大而增加。同时，基于固定调制方式的仿真结果，提出了一种结合改进MQAM／MPSK HARQ的自适应调制编码方案。接着，本文针对改进的16QAM HARQ方案，在AWGN信道下，采用接收门限软判决方法，推导出重传合并后的16QAM符号比特软值概率密度函数和系统吞吐率等性能。数值分析和仿真结果进一步证实，改进HARQ方案在信道条件较差时能有效地提高重要比特的可靠性；若重传中结合符号比特重排和分组合并，则可使接收端解调合并后的比特可靠性趋于均匀且总体得到较大的提高，有效地提高了Viterbi译码器的译码能力，降低了译码后的误码率，提高了系统的吞吐率。论文从多信道停等ARQ的信道数、合并方式、分组丢失率、传输延迟等方面，分析了在Rayleigh衰落信道下具有分组合并的多信道停等ARQ性能。利用离散一阶有限状态Markov模型，从分组传输错误概率、平均传输次数以及吞吐率角度，分析了具有分组合并的AM-ARQ系统性能，并结合第二章提出的改进ARQ，评估AM-改进ARQ系统的性能。研究结果表明，自适应调制与改进A良Q相结合表现出较好的性能，在满足目标FER的情况下，考虑最大传输次数下ARQ的重传增益，确定调制方式转换门限，可使AM-改进ARQ系统吞吐率最大化；在存在CSI误差的情况下，自适应调制和ARQ的结合使系统能获得更稳定的性能。随后，针对采用放大转发和译码转发的多支路两跳协作分集系统，利用矩量生成函数MGF，给出了采用MQAM／MPSK时的完整误符号率计算式，分析比较了N支路两跳中继系统中不同传输方式、调制方式以及SNR下误符号率性能。针对16QAM的特点，提出一种编码调制协作传输策略。该策略在源节点与中继节点进行常规编码协作传输的基础上引入了调制协作思路。源节点与中继节点分别使用不同的符号比特顺序进行映射，目的节点通过分集合并，使每个数据比特的可靠性得到均衡和提高，从而提高了信道译码的纠错性能。研究结果表明，这种编码与调制双重协作策略使源节点和中继节点的传输次数都得到减少，分组丢失率降低，从而提高了系统整体数据吞吐率。由于本方案只需增加2个比特重传信令和4个比特的缓存用于符号比特重排，因而实现容易、复杂性低。最后，论文研究了基于一阶统计量的隐训练序列信道估计方法，从训练序列长度、训练序列的功率与数据序列之间的功率分配、统计长度以及分组长度等方面，研究了在时变信道和块衰落信道下采用16QAM调制方式的系统性能、信道估计与信道预测性能。研究结果表明，为了最小化信道估计误差和系统误码率，需引入自适应技术，以根据信道条件自适应地改变相关参数。另外，在时变衰落信道下，当信道估计误差的方差小于10^-4时，16QAM系统可以获得接近理想信道估计时的误码率性能。