在当今世界经济和社会发展信息化的潮流中，无线通信技术得到了迅速发展，各种无线业务和应用以惊人迅速增长，新的无线通信及网络技术不断涌现。无线通信和网络蓬勃发展的同时，其高速和宽带化特征使得对频谱资源的需求日益加大，同时也使得频谱资源的供需矛盾问题日益突出。认知无线电提出的从固定频谱使用到动态频谱使用的变革可有效地提高频谱利用率；同时，认知无线电强调的高度智能性符合无线通信系统和网络的发展方向。本论文关注认知无线电智能性体现的最重要环节——学习，在离线学习和在线学习两个方面开展研究，主要完成了以下具有创新性的研究成果：1.提出一种通用的CR离线学习与决策框架，在此框架下研究神经网络（NN）和最小二乘支持向量机（LSSVM）两种学习方法的具体应用。在NN方面，提出了“直接的”径向基函数神经网络（RBF-NN）学习与决策方法；与传统“间接的”方法相比，通过在学习训练前增加优化案例搜索处理，减少了输入及输出神经元数量，降低了训练的复杂度；并可直接完成配置参数决策，提高决策实时性。在LLSVM方面，从复杂度、性能等方面对比研究了CR场景下的几种多分类LSSVM；研究了非支配排序遗传算法完成LSSVM超参数搜索以提高学习算法的普适性。仿真结果表明，RBF-NN和LSSVM方法都能提升认知无线电系统性能，非支配排序的遗传算法能够在较少进化代数内搜索出合适的超参数，基于LSSVM的离线学习具有更好的决策性能和泛化性能。2.提出一种能促进多用户学习收敛的，基于用户聚类和可变学习速率的多Agent强化学习方法，以解决多用户在下垫式频谱共享下的信道选择与功率分配问题。首先使用分层处理分离信道选择与功率控制，采用快速最优信道搜索结合基于性能预测的用户数均衡调节方法实现信道分配；其次，使用随机博弈框架对多用户功率控制问题进行建模，引入K均值用户聚类减少博弈参与用户数量和降低单个用户的环境复杂度，并提出可变Q学习速率和策略学习速率的方法进一步促进多Agent强化学习的收敛。仿真结果表明，该方法能使多个用户的功率状态和总收益有效收敛，并且获得整体性能达到次优。3.提出了一种在总功率资源受限条件下基于纳什议价解的方法，用于多信道多用户的信道选择与功率分配。设计了合理的纳什议价效用函数，使纳什乘积能明确表征认知无线电系统的性能指标，并证明了纳什议价解的存在性与唯一性。提出基于梯度下降思想和性能变化预测的具体迭代议价过程完成信道与功率的分配。理论分析与仿真结果表明，基于纳什议价的功率分配满足全局比例公平，信道与功率分配的迭代算法能够得到较好性能，达到系统总性能的次优解。4.提出协作去耦合方法和跨层联合方法解决多跳认知无线网络的多层资源分配问题。协作去耦合方法首先单独完成路径选择任务，随后进行信道与功率的博弈分配；跨层联合方法则通过博弈直接对路径、信道、功率三层资源进行同时分配。两种方法都综合考虑网络层、MAC层、物理层的启发原则，引入了节点被干扰度信息和节点主动干扰度信息来辅助路径的选择；设计了基于功率允许宽度信息的Boltzmann探索来完成信道与功率选择；设计了长链路和瓶颈链路替换消除手段以进一步提高网络性能。从促进收敛角度，选用序贯博弈方法，并设计了具体的博弈过程；此外还分析了博弈的纳什均衡，讨论了两种算法的复杂度。仿真结果表明，协作去耦合方法和跨层联合方法在成功流数量、流可达速率、发射功耗性能指标上均优于简单去耦合的链路博弈、流博弈方法。5.提出一种无需信息交互的多用户自主Q学习方法，用于实现认知无线电中的多用户动态频谱访问。该方法采用自学习方案，每个认知无线电用户不需要耗费通信资源与其他用户进行信息交互，仅通过观察自己的回报进行强化学习，定义的回报值能反应信道优劣以及信道冲突状态；设计了充分探索、倾向优势信道、冲突惩罚的学习策略，实现多用户多信道的动态频谱访问。对2用户2信道的场景，提出一种快速学习算法并证明了它能够收敛到整体回报最大。仿真结果表明，该方法能使认知无线电多用户多信道选择以大概率收敛到纳什均衡，且得到高的整体回报性能。