随着新型无线电技术的发展对频谱资源的需求海量增长，现有频谱资源分配不均和频谱利用率低下的问题日渐凸显。因此，提高频谱资源的利用率、寻找科学合理的分配方法迫在眉睫。鉴于拍卖理论在资源配置方面具有公开、公平和高效性的特点以及分数频率复用技术对提高频率利用率、改善用户干扰方面的贡献，本文结合上述两种关键技术，针对频谱资源有限的问题，展开了一种频谱拍卖算法的研究，旨在提高蜂窝小区边缘用户的服务质量，提高现有频段的频率利用率，主要研究成果概括如下：　　首先，对于提高频率利用率的问题，本文建立了分数频率复用的频谱拍卖模型，将授权用户(主用户)和非授权用户(次用户)之间的频谱共享视为拍卖过程，根据同频复用原理实现频率的复用，进而提高频率利用率。同时，该模型可以有效抑制用户之间的干扰，保障小区边缘用户的服务质量。然后，为了使有限的空闲频段实现最优分配，本文通过博弈论来描述次用户之间非合作的竞标过程，以最大化系统效用为目标建立优化问题，并推导出了该问题的整数规划理论表达式。由于这类问题在多项式时间内很难求得最优解，因此本文通过拉格朗日松弛算法不断修正并得到近似最优的频谱分配矩阵。仿真结果表明，本文提出的算法能有效保障小区边缘用户的服务质量、显著提高频率利用率和系统容量。　　由于通信过程中，信道状态信息、预编码权值和发射功率等因素会对用户的通信质量、系统容量和收益等方面产生影响，进而会影响次用户竞拍的积极性，因此，本文充分考虑了以上因素，提出了联合预编码和功率分配的频谱拍卖迭代优化算法。在次用户以最大化系统效用为目标的博弈过程中，实现预编码向量和发射功率矩阵的迭代优化，并将它们通过信干噪比和出价矩阵反馈到次用户的竞拍过程中。同时，在次用户追求系统效用最大化的过程中，为了保障主用户的收益，建立了基于斯坦克尔伯格博弈的迭代优化目标，并通过一个可调节的干扰价格因子，实现了主次用户之间利益的均衡。仿真结果充分表明了本文的改进算法能有效改善次用户竞拍的积极性，保障频谱拍卖的高效性，并且频率利用率和系统容量得以进一步提升。