通信领域发展迅速,电磁环境日渐繁杂,频谱资源越发珍稀,解决提高频谱效率问题迫在眉睫。变换域通信系统（Transform Domain Communication System,TDCS）拥有动态频谱共享接入特性及抗干扰通信方面的独特优势。而自适应编码技术,能够依据信道环境与服务质量要求,经过动态切换发射端的参数数值,进一步提升系统资源利用率。将变换域通信系统与自适应调制编码技术相融合,可以发挥自适应编码技术与变换域通信各自的优势,也将进一步提高频谱效率。故本文针对复杂电磁环境,对自适应变换域通信技术展开研究,研究的具体贡献如下:第一,研究了TDCS系统中的信噪比估计技术。为了实现有效的信号检测和链路自适应,在许多通信系统中都需要得到信噪比这个参数的辅助。本文将二阶矩四阶矩估计算法、平方信噪方差算法、最小二乘估计（Least Square,LS）和Boumard信噪比估计算法这四种经典的信噪比估计算法推广到TDCS系统中。通过计算机仿真,对这些信噪比估计算法在TDCS系统中的不同场景下进行了对比分析。分析和仿真表明,在条件为高斯信道的情况下,LS信噪比估计算法最优;在多径衰落信道条件下,Boumard信噪比估计算法性能最佳;多普勒频移的影响下,LS信噪比估计算法的性能最稳定。第二,针对高可靠性通信要求的通信系统,本文提出了一种基于目标误码率的TDCS系统调制编码自适应算法,此算法能够最大程度确保通信系统的传输可靠性。本文制定了TDCS系统自适应调制编码方案,使用MATLAB进行仿真得到各方案的误码率曲线,从而得到满足触发切换各种调制编码方案条件时的门限值,由此提供最终的满足系统目标误码率的自适应决策。除此之外,本文分析了信噪比估计误差如何对自适应产生影响及如何减少信噪比估计误差。信噪比估计值大于真实值的情形下,在一些信噪比区间中出现了误码率低于目标误码率的情况,这会导致调制编码方案的误码性能变差,不利于通信数据传输。信噪比估计值小于真实值的情形下,仅仅会降低通信传输速率。第三,本文对通信有效性要求较高的系统,提出了一种基于吞吐量最大化的TDCS系统调制编码自适应算法,与固定传输方案相比,此算法提供数据传输速率更高。建立了6种不同状态的有限马尔科夫信道模型,分别对应一种调制编码方案,然后完成MATLAB仿真得到不同方案的吞吐量曲线,最后制定出基于吞吐量最大化的自适应决策。同样分析了信噪比估计误差对自适应产生的影响。分析和仿真表明,在特定的区间范围里,信噪比估计误差对自适应会产生一定的影响。