多天线发送和多天线接收(MIMO, Multiple-Input Multiple-Output)无线传输技术能够提升无线通信的系统容量、频谱效率、功率效率及传输可靠性,在过去的近二十年得到了广泛的研究与应用,成为宽带移动通信系统的核心技术。未来移动通信系统对系统容量、频谱效率、功率效率及传输可靠性都提出了更高的要求,需要采用大规模天线的MIMO无线传输技术。在此背景下,本论文开展MIMO无线通信系统自适应传输理论方法研究,着重研究与迭代接收相适应的自适应MIMO传输理论方法和大规模MIMO系统导频和功率配置的自适应理论方法。首先,研究了MIMO系统迭代接收机的性能建模方法。迭代接收技术是获得逼近信道容量的接收技术,其性能建模是实现迭代接收情况下链路自适应的基础,为此,从等效模型、传递参数、性能提取及传递关系等四个方面着手,提出了MIMO系统迭代接收性能建模方法。该方法以服从高斯分布的对数似然比信息等效模型为基础,以互信息为传递参数并通过仿真获得互信息传递关系图,并利用误比特率或保真度为传递参数的半公式化传递关系及以互信息为传递参数的半公式化传递关系,实现MIMO迭代接收的性能建模。进而,提出了迭代接收机各软输入软输出单元的性能预测方法。仿真结果证实所提方法的有效性。然后,针对MIMO传输链路,研究了迭代接收情况下的高效链路自适应方法。推导了迭代接收后验信干比以及等效信噪比,提出了迭代接收情况下MIMO链路自适应方法。该方法利用经典链路自适应方法确定秩指示和信道质量指示的取值范围,仅在秩指示和信道质量指示的取值范围内确定反馈参数,减少了后验信干比及等效信噪比的计算次数,从而降低了在线吞吐量预测的计算量。仿真结果表明：所提链路自适应方法的吞吐量优于经典链路自适应方法,满足链路服务质量要求,并且获得了3.5dB吞吐量增益。接着,研究了角度域信道模型下大规模MIMO系统上行传输最小均方误差(MMSE)接收机的可达和速率。可达速率分析是实现导频和功率等自适应优化配置的基础,本论文将MMSE检测器输出端后验信干比分解为两个独立随机变量之求和,通过引入卡方变量二次型的分布、随机矩阵的经验特征值分布等理论,得到了这两个独立随机变量的矩统计量及概率分布、以及后验信干比的矩统计量。由两个独立随机变量的概率分布,提出了后验信干比的一种归一化形式,证明了后验信干比服从伽玛分布,并由所得后验信干比矩统计量得到伽玛分布函数的参数。进而,利用后验信干比的分布函数,得到了MMSE接收机后验信干比下界以及可达和速率的近似式。仿真结果证实了理论结果的准确性。最后,研究了大规模MIMO系统上行导频辅助传输方式下导频和功率自适应优化配置方法。在可达和速率分析的基础上,进一步从理论上得到导频辅助传输方式下线性MMSE接收机可达和速率,进而得到其在基站天线单元数量大且用户数目固定的情形下无需迭代数值运算的近似式。针对导频长度及功率联合自适应优化配置,分别证明了固定导频长度下可达和速率是功率的凹函数,固定导频功率下可达和速率是导频长度的凹函数,进而提出针对联合自适应优化配置问题的交替优化算法,计算复杂度低。此外,研究了等功率分配传输情形下导频最优长度。证明了在中等及高信噪比条件下导频长度接近单天线用户数,在低信噪比条件下导频长度接近信道相干时间间隔数的一半。仿真结果证实了可达和速率近似式的准确性及联合优化算法的有效性。