为了应对5G数字通信中对系统吞吐量、传输速率、传输可靠性的进一步需求,自适应调制编码（Adaptive Modulation And Coding,AMC）技术得到了广泛的应用。AMC技术可以根据通信环境的变化及时地调整无线链路传输的调制编码方案,从而保障通信传输质量。同时,随着现代社会迎来了大数据与人工智能时代,通信与AI（Artificial Intelligence）的结合成为新时代通信的重要研究方向。论文研究了基于机器学习自适应编码调制技术,其中详细研究了基于机器学习的自动调制识别技术与自适应调制编码技术。基于机器学习的自动调制识别技术能在一定程度上节省AMC技术的信令开销,而基于机器学习的AMC技术能提高通信系统的吞吐量性能及稳定性。本论文首先研究了针对5G调制信号的基于机器学习的自动调制识别技术,该技术可用于降低AMC信令开销。针对低阶调制信号QPSK,本文提出了一种新的特征组合并通过仿真验证了其优越性;针对高阶QAM调制信号,本文提出了一种基于加权特征组合KNN（k-Nearest Neighbor）算法的自动调制识别算法。该算法通过对高阶累积量特征先降维再加权组合,克服了现存算法的缺陷。最后仿真对比目前研究中几种较好的算法（包括星座聚类和SVM（Support Vector Machine））与提出的改进KNN算法的识别正确率及时间复杂度,验证了提出的改进KNN算法的优越性。本论文其次研究了基于机器学习的自适应调制编码技术。首先基于5G规范,研究了编码与调制、物理资源计算、部分带宽传输及TBS选择,仿真得到了 AWGN（Additive White Gaussian Noise）信道下 SNR（Signal-Noise Ratio）与 CQI（Channel Quality Indicator）的映射表。其次将经典AMC方案中的信噪比估计获取CQI索引部分替换为机器学习算法,研究了三种已有的方案并提出了一种RF-AMC方案,接着基于5G编码调制参数对KNN-AMC、ANN-AMC、SVM-AMC、RF-AMC方案进行建模,通过仿真确定模型的关键参数。最后讨论分析这四种方案的吞吐量及时间复杂度,验证了 RF-AMC方案的可行性,并介绍了四种算法的长处与不足,分析了它们的适应场景,以便依据不同数据场景的特点做出最佳选择。