随着云计算技术的快速发展,数据中心业务规模不断扩大,业务类型日趋多样,为满足用户需求,提高服务质量(Quality of Service,Qos),新型拓扑架构的数据中心网络(Data Center Network,DCN)广泛推广应用。然而面对海量的网络流量,现有的数据中心流量优化算法仍然面临诸多问题,本文关注的问题是:(1)数据中心网络流量优化算法参数与特定网络场景绑定,在网络特征变化后算法性能下降;(2)数据中心网络节能算法以固定周期调整网络设备的激活状态,忽视网络负载变化造成网络服务质量下降;(3)云计算场景下的虚拟机放置算法不适用于数据中心内部直播视频流解码过程,容易造成网络拥塞,导致视频流传输时延增加。采用人工智能方法来优化数据中心网络流量传输成为目前重要的研究趋势,对简化网络管理,降低运营成本,改善网络性能,具有重要的理论研究意义和现实应用价值,成为目前重要的研究趋势。本文将深度强化学习算法引入到数据中心网络的数据流传输优化过程,围绕数据中心网络数据流的智能控制和调度策略开展研究,主要创新点如下:(1)针对“现有数据中心网络流量调度算法与网络场景绑定,应用场景受限”的问题,提出了基于深度强化学习的数据中心网络QoS优化算法。首先将网络资源和状态信息统一到网络模型中,然后通过长短期记忆网络动态感知细粒度的流量负载变化,最后基于深度强化学习生成满足QoS目标的动态流量调度策略。实验结果表明,与现有算法相比,所提算法不仅能自适应的生成符合网络场景的流量调度策略,通过改善端到端传输时延和分组丢失率,提高了22.7%的网络负载均衡程度,增加了8.2%的网络吞吐率。(2)针对“数据中心网络为节能休眠过多网络设备,导致流完成时间超出所允许上限,进而导致数据中心利润降低”的问题,提出了基于深度强化学习的数据中心网络节能算法。该算法以提高数据中心网络的利润为目标,利用深度神经网络感知网络负载变化,在保证时延敏感流的流完成时间的前提下,动态进行数据流整合和网络设备激活状态调整,通过训练逐步生成符合网络流量特征的节能策略。实验结果表明,与现有算法相比,所提算法以增加4.3%的能耗为代价,降低了时延敏感流约6.7%的流完成时间,并提高了约17.8%的总利润。(3)针对“视频直播传输算法忽视数据中心网络内部传输效率,导致视频流传输时延增加”的问题,提出了基于深度强化学习的直播视频流传输优化算法。该算法利用深度神经网络实时感知网络和物理服务器的负载状态,通过训练逐步生成适用于直播场景的虚拟机防止策略,避免虚拟机就近放置导致热点链路出现拥塞。实验结果表明,与现有虚拟机放置算法对比,所提算法提高了约12.8%的负载均衡程度,降低了约13.2%的视频流传输时延,通过与码率自适应算法协同可以进一步提高约7.2%的用户体验质量。