随着互联网和无线通信技术的快速发展,以及各种移动终端设备的出现与普及,目前的无线网络已经出现异构化的趋势。如业务需求的异构化、无线接入网络的异构化和终端设备的异构化。近些年来,异构网络已经成为学术界和工业界的研究热点,得到了广泛的研究。各个国际电信组织如3GPP和ITU也都启动了对异构网络的研究,将其视为下一代蜂窝网络中的关键技术。这些异构化也使得网络更加复杂化,为网络系统设计和优化带来了诸多的问题,如多样的QOS需求、复杂的跨层干扰和时变的系统状态等。如何克服这些问题,使得异构网络能够更好地兼容各种新型应用、保障用户的服务质量、提高网络资源利用率,具有深远的现实意义。在本文中,我们使用随机优化理论对异构网络中的若干关键问题进行研究,具体如下：1.由于各种新型应用如智能电网、电子健康、智能交通等的出现与繁荣,随之而来机器类型通信也越来越重要。由于机器类型通信与传统的人与人之间的通信有着不同的特点,这也为我们带来了新的问题和挑战。其中的关键问题之一是如何在满足服务质量(Quality of Service, QoS)需求的同时解决机器类型设备的大规模接入问题。在本文中,我们根据QOS需求将机器类型设备分为不同的簇,然后将大规模接入问题建模为一个队列问题。通过推导出基于大偏差原理的队列上溢概率估计模型,我们提出了一个在线测量的自适应大规模接入管理算法。该算法能够基于观测到的流量负载来做决策,无需利用先验的统计信息。我们还设计了相关的实验来验证算法的性能。实验结果表明我们所提算法能够根据流量负载的变化而自适应的调节资源的分配,因此能够适应动态的系统环境和未知的流量特征。2.在无线网络环境下,信道的质量会随时间而随机变化。尤其是在异构网络复杂的干扰环境下,无线链路的吞吐量会产生难以预测的波动。而该波动会导致在线视频播放的频繁中断或接收的视频质量波动,因此对无线视频传输带来了很大的挑战。在本文中我们为无线可伸缩视频传输系统的终端侧提出了一种具有平滑播放约束的动态层数切换策略。其目标是通过优化长期的视频质量和视频播放平滑度来提升用户的体验。该算法不需要提前知道信道动态变化的先验知识,能够根据当前观测而在线执行。我们在理论上和仿真实验中分别分析、验证了算法的性能。3.在本文中,我们还研究了异构蜂窝网络下的基站侧的多用户可伸缩视频传输问题。为了解决时变的信道质量、视频应用的严格QoS需求和复杂的跨层干扰所带来的挑战,我们提出了一种视频码率和无线资源分配联合优化模型,使得在可伸缩视频传输服务中能够根据信道质量和干扰的动态变化而自适应的调节其视频码率和资源分配。首先,我们将问题建模为一个带约束的随机优化问题。利用双时间颗粒度Lyapunov随机优化理论,我们将该问题分解为两个子问题,可分别在不同的时间颗粒度解决。我们给出了仅依赖当前观测信息的低复杂度算法,并分析了该算法理论上的性能界限。我们进一步设计了相关实验来评估该算法的性能。