现今，高速发展的无线通信技术深深的改变了我们的生活。然而，随着无线业务的不断扩充和无线用户数的爆炸式膨胀，无线网络资源的制约性也随之显现了出来，使无线通信的发展面临着严峻的挑战和威胁。网络资源包括频谱、功率、时隙等。如今的网络资源主要面临两个方面的问题：1网络资源本身有限；2对于无线网络而言，已有的技术和方法对其利用率不高，管理或使用的不均匀不充分。例如频谱资源，以往采用的静态频谱使用和管理方式已经不能够满足现阶段的网络需求。近几年来，随着认知无线电技术的提出和发展，非授权用户可以借此感知并检测到目前主用户空前的频谱资源，并且伺机接入到频谱中和主用户共同使用，以此方式提高网络资源的利用率。基于认知无线电这一系统构架，为了让认知用户能够协商式的接入到主用户网络中，实现主用户和认知用户互利双赢，本文把频谱资源作为商品在主用户和认知用户之间进行拍卖，建立了主用户和认知用户的频谱交易市场模型。并且利用博弈论对主用户和认知用户之间的决策行为以及直接相互作用进行了分析和研究。本文采用了基于不完全信息贝叶斯博弈的双向频谱拍卖模式。并且分析了主用户和认知用户在频谱交易中的两阶段博弈过程，包括频谱分配博弈和频谱定价博弈。运用数学理论分析和迭代算法得到了纳什均衡解（即最优的频谱需求量和报价）。通过仿真证明了此算法下的定价策略在提高了频谱利用率的同时，还在一定程度上提高了用户收益。其次，本文构建了合作模式下的认知网络模型，在此模型中，主用户信息被分为两个时隙传输，认知用户在第二时隙中采取解码转发的方式作为中继协助主用户向基站传递信息，而作为回报，主用户会在第二时隙中分配给认知用户一定的传输时隙。对于认知用户来说，如何分配中继功率和自身传输功率构成了一个斯坦尔伯格博弈决策问题。在此模型下的算法分析中，本文创新之处在于以用户最大吞吐量为目标的同时，还对决策问题有无能量约束分别进行了博弈讨论，并通过凸优化理论求解得到最优的功率分配。证明了此算法在提高用户吞吐量上有一定的优势。