网络编码理论是网络通信领域上具有革命性意义的突破，打破了人们对信息传输和信息处理的传统认知，对通信系统产生了深远的影响。网络编码扩展了传统的存储转发的路由模式，网络节点允许对接收到的信息进行编码和解码操作。网络编码已经在理论上被证明能够使组播传输达到“最大流-最小割”定理所确定的最大理论传输容量，可以有效地提高网络容量和带宽的利用率。由于其潜在的巨大优势，网络编码得到了学术界和工业界的广泛关注。随着研究的深入，一方面，网络编码的理论体系进一步完善；另一方面，网络编码的应用涉及到了P2P网络、无线网络、网络安全和网络层析成像等多个领域。但相对而言，网络编码还是一门新兴的学科，虽然在编码理论设计和真实系统应用上展开了大量的研究工作，也取得了一些重要的研究成果，但网络编码的研究仍存在不少挑战，有很多关键问题还需要深入研究。本文的主要工作就是在全面分析和总结网络编码理论和应用研究现状的基础上，进一步研究网络编码中具有重大理论及应用价值的关键问题，完善现有的理论体系，提高网络编码的实用价值。本文的主要创新点如下：1.本文提出了一种基于网络编码的组播路由算法。算法在为源节点和接收节点间构建适合的分离路径的过程中，优化了对链路的选择，增大了源节点到不同接收节点间路径的共享程度，平衡了网络的负载，最终达到增强组播通信性能的目的。仿真实验的结果表明，相对于最短距离分发树路由算法，本文所提出的基于网络编码的组播路由算法在网络吞吐量和负载均衡上有明显的优势。而考虑负载均衡的性能指标，本文提出的算法优于之前的基于网络编码的组播路由算法。2.本文分别提出了基于改进的遗传算法和量子进化算法的网络编码优化算法。针对网络编码优化应用的特殊性，本文在经典遗传算法的基础上对种群初始化、选择算子和交叉算子设计等方面做了有效的改进。仿真实验表明，采用的改进措施能够帮助算法提高计算速度，并得到更优的网络编码方案。另一方面，考虑到量子进化算法在并行计算上的优势和网络编码优化的应用需求，本文提出的基于量子进化算法的网络编码优化算法在初始种群选择、观测算子设计和量子旋转门修正策略等方面对传统量子进化算法进行了有针对性的改进以降低目标解的搜索空间，同时避免陷入局部最优。仿真结果显示，相对于已有的基于进化算法的网络编码优化方法，本文提出的算法在满足组播速率的条件下，进一步提高了运算速度和效率，改善了网络编码优化的性能。3.本文提出了一种基于网络编码的拓扑推断算法。针对不存在链路丢包的场景，提出了组合包测量方法，拓扑推断算法的适用范围从特殊的二叉树网络扩展到了更为一般性的树状拓扑网络；针对存在链路丢包的场景，提出了快速发包测量方法，算法避免了网络中间节点过多参与网络测量和探测包帧结构设计上的额外开销。仿真结果表明，相对于已有的工作，本文提出的算法适用于多种树状拓扑结构，能够在不增加网络节点运行负担的情况下更严谨、高效地推断出网络的真实拓扑状况。