尽管引入了中继(relay)、协同多点传输(CoMP)等技术的下一代宽带蜂窝移动通信系统(IMT-Advanced)在小区覆盖、边缘用户体验等方面较3G网络有更为优秀的表现,但由于以基站为中心的通信方式本身所存在的局限性,其在网络容量、业务支撑和频谱效率等诸多方面仍存在较大的提升空间。终端直通(Device-to-Device, D2D)技术通过在收发端间建立直接的无线连接,来提供低功耗、高速率、低时延的数据传输。初步的研究表明,在IMT-Advanced系统中融合能够复用蜂窝资源的D2D技术,能够显著提升传输效率、增强网络覆盖。然而D2D通信在为混合网络带来增益的同时,也产生了新的挑战：首先是直通模式的开放,使得终端设备在工作方式上有了更多的选择；相应地,终端就需要更多的辅助信息和判决准则来决定最优模式。然后是资源共享方式的多样化将造成更复杂的无线干扰环境。若不对D2D重用资源的策略加以有效控制,其产生的同频干扰将严重影响双方的通信质量,甚至使引入D2D技术得不偿失。因此如何协调混合蜂窝与D2D网络中的干扰问题也属于当前研究的热点。本文以蜂窝与D2D混合网络为背景,主要研究D2D通信可复用蜂窝上行资源时的模式选择与干扰协调机制。文章首先定义了混合网络中D2D设备可选用的通信模式：Cellular、Dedicated与Reuse,其中Cellular与Dedicated模式采用了与蜂窝用户正交使用资源的策略,而D2D通信在Reuse模式中则会有条件地重用原授权频段资源；接下来分别对不同场景中的模式选择与干扰协调机制进行了探索：对单小区环境,提出了基于距离的干扰协调与模式选择算法。该算法先在综合考虑蜂窝用户的QoS和系统容量的最大化的基础上,改进已有研究为新的蜂窝与D2D联合干扰协调机制；再结合严格的数学推导和合理的近似估计,实现了仅依赖于少量距离参数的非遍历式最优模式决策。仿真结果表明,该算法能在已知信息非常有限的情况下,较准确地实现最优的功率控制和模式选择。而对无线资源更开放的多小区环境,本文提出一种新的网络辅助的干扰协调机制,以使D2D设备能有效获得任意目标蜂窝用户的分配资源；同时使用效用函数来进一步描述模式选择的过程。仿真结果表明,上述算法成功地帮助D2D设备获取和利用一切可用的蜂窝资源,又充分保证了原蜂窝用户的业务质量。与其他一些对比算法的比较也证明,上述算法能获得最高的系统容量。