面对移动数据业务的指数增长,传统的单层蜂窝网络难以达到通信技术要求的上下行传输速率,此外还伴随有室内信号覆盖不全面,存在信号盲区,而户外用户聚齐区域通信容量不足等问题,因此,在传统的单层蜂窝网络中引入多种低功率节点,可以増强信号覆盖范围,有效提高用户的语音以及数据服务通信质量,良好地解决网络中“盲区”和“忙区”问题,从而显著地提升系统容量和频谱利用率。然而,伴随着网络拓扑结构中低功率节点的引入,网络中的干扰问题变得更加复杂,传统的方法难以对复杂多变的干扰进行有效管理。干扰协调作为干扰管理的主要技术,可以良好地针对网络中无线电设备进行协商处理。其中基于认知的资源分配方法是对网络中珍贵的频谱、能量等资源合理有效地分配,从而抑制网络中的干扰。本文侧重于通过资源分配方法对underlay模式下认知异构蜂窝网络OFDMA系统下行链路中的干扰抑制问题进行研究,本文的主要工作内容总结如下:首先,针对网络中频谱资源分配不均衡,频谱利用率低下,共信道干扰严重的问题。提出基于势博弈的子信道分配算法。为了更好地反应信道中的干扰情况,将参与者的效用函数定义为所占信道内的干扰总值,同时算法结合网络实际部署情况,考虑到远距离共信道用户以及遮挡损耗因素,引入距离权重因子,提出基于距离的负对数干扰函数,更好地反映实际网络部署情况。验证分析证明算法具有收敛性,能够有效减少共信道干扰,提升频谱利用率。其次,针对引入家庭认知基站带来的跨层干扰问题,进行功率控制研究,认知网络要保证主网络的通信服务质量,据此,将问题将建模成基于双层博弈的议价算法,宏基站作为地位较高的领导者,家庭认知基站作为地位次之的追随者,领导者对家庭认知基站层的干扰进行定价收费,同时又对其造成的干扰给予一定的补偿,最后提出了分布式的求解方法,减少不必要的信令交换造成的资源浪费,仿真分析证明了算法具有唯一收敛解,还可以有效的提升认知异构蜂窝网络吞吐量。最后,分析研究异构网络中由于部署了家庭认知小基站引起的能耗问题,针对网络中的宏基站和家庭认知基站之间的跨层干扰问题进行研究,提出了基于非合作博弈的功率控制算法。算法保证了主网络中宏基站的通信服务质量,考虑基站公平性,采用参与者各自的能量效率为最大化目标,为了避免用户的极端自私行为,在效应函数中加入惩罚部分,同时可以将功率控制问题转换为关于惩罚价格因子的一元线性问题。验证分析证明算法可以有效的提升网络能量效率,符合时下绿色通信要求。