随着无线通信技术和移动互联网的高速发展,无线数据业务量以惊人的速度猛增。调查显示：超过60%的话音业务和90%的数据业务发生在室内,并且这种比例还在持续不断地增加。因此,为室内用户的语音和数据业务提供高速率和高质量的覆盖服务变得越来越重要。毫微微蜂窝基站(Femtocell BS)作为一种能有效增强室内覆盖和提升网络容量的无线接入技术,受到了通信业界高度的关注,并已成为不同制式移动通信网络中的研究热点。在传统的宏蜂窝网络中引入Femtocell后,新网络架构可以视为由两个相互独立的层组成,学术上通常将该新型网络称之为基于Femtocell的双层网络(Two-tier Femtocell Networks)。本论文在国家自然科学基金“面向IMT-A的Femtocell绿色自组织关键问题研究(项目编号：61271179)”、国家科技重大专项“面向IMT-Advanced跨层优化技术”(项目编号：2010ZX03003-001)、及国家科技重大专项"IMT-Advanced自组网(SON)关键技术研发”’(项目编号：2011ZX03003-002-01)的支持下,从干扰管理技术、绿色节能自组织技术及Femtocell基站工作模式控制技术等方面对Femtocell双层网络中的关键技术进行了深入的研究分析。主要研究工作及创新性成果包括以下几个方面：(1)对Femtocell双层网络相关的基本原理和关键技术进行了综述和剖析：1)从室内覆盖质量变弱的原因、室内覆盖质量需增强的原因以及现有的室内覆盖质量增强技术三方面重点阐述了Femtocell的引入机理。2)概括了基于Femtocell的双层网络架构、Femtocell的网络架构、Femtocell的三种接入方式与各种方式的优缺点、以及Femtocell的标准化进程。3)全面概述和分析了Femtocell双层网络面临的关键技术挑战,主要包括干扰管理技术、绿色节能自组织技术、基站工作模式控制技术,并对这三种技术的研究现状进行了详实的总结与剖析,同时指出了它们需进一步解决的主要问题。(2)针对基于Femtocell双层网络的干扰问题,1)依据3GPP相关技术规范和技术报告,搭建Femtocell双层网络下行链路的系统级仿真平台,并对Femtocell双层网络中六种经典的干扰场景进行了仿真评估与性能分析。2)根据1)分析得到的结论,针对基于单宏小区的Femtocell双层网络场景,提出了基于动态分簇和频谱分配的Femtocell干扰管理方案。仿真结果表明,该方案能有效地解决Femtocell间的同层干扰,在保证Femtocell用户的SINR同时,能有效地改善Femtocell网络的吞吐量,提升频谱利用率。3)根据1)分析得到的结论,针对基于多宏小区的Femtocell双层网络场景,提出了基于软频率复用和频谱分配的Femtocell干扰管理方案,仿真结果表明,该方案能很好地解决跨层干扰问题,并在保证宏用户和Femtocell用户预设数据速率的前提下,最大化全网的能量效率。(3)针对Femtocell双层网络中能量优化问题和自组织功能实现问题,提出了基于双效用的定价非合作博弈和功率自优化的绿色节能自组织方案。1)在Femtocell双层网络中建立基于定价非合作博弈的功率自优化模型。并根据该模型构建了Macrocell-Femtocell的双效用框架及需解决的问题。2)从纳什均衡解的存在性、结构特性及唯一性三方面分析和论证了基于双效用的定价非合作博弈的功率自优化模型的合理性。3)利用边际效用理论对纳什均衡解中可调价格参数进行了探究与分析,并提出了应用于Femtocell双层网络中基于萤火虫群智能理论的分布式功率自优化算法。4)通过数值仿真得出萤火虫群智能理论在Macrocell效用函数和Femtocell效用函数中的最优参数组合；通过系统级仿真评估和对比分析了所提方案和经典的功率配置方案在发送功率、用户SINR和能量效率上的性能,以及通过系统级仿真还分析了Femtocell效用函数中可调价格参数对所提方案性能的影响。(4)针对Femtocell网络中基站连续导频发射造成的能量浪费和导频污染,提出了一种基于虚拟小区和混合式Femtocell基站协作的导频控制策略。1)建立了基于Femtocell主从型虚拟小区网络框架。此外由于Femtocell网络的动态时变性,该策略针对新增Femtocell站点设计了网络角色分配算法。2)基于虚拟小区框架,设计了基于混合式Femtocell基站协作的导频控制方案。FBS Leader负责在虚拟小区覆盖范围内检测激活的授权用户,此时FBS Member覆盖区域内没有激活的授权用户便可关闭导频传输及相关处理电路。3)为了分析所提方案的性能,对方案进行抽象化处理,并建立了状态转移模型。4)利用半马尔科夫随机过程理论,从能量消耗,平均累积时延以及累积干扰时间三方面对所提方案进行了理论分析,并完成了相应封闭表达式的推导计算。同时,还对三大主流的对比方案做了指标评估推导。5)通过系统级仿真,验证了所提方案在能量消耗、平均累积时延以及累积干扰时间上的理论分析是合理的。所提方案的关键参数扫描计时周期对能量消耗和平均累积时延的影响很大。6)通过与相关经典方案的性能对比分析,所提方案在能量消耗和平均累积干扰时间上均优于三大传统方案,证实了所提方案的有效性。