被称作“将激起下一场网络革命”的网络编码理论,一经提出,立即引起了国内外学术界和工业界的广泛重视。然而,近年来的研究表明,诸如污染攻击和熵攻击等恶意行为给网络编码系统带来了巨大危害。如不妥善加以解决,将导致网络编码的优势无法发挥,甚至能完全抵消网络编码带来的好处。本论文研究了网络编码系统中的安全问题,其主要研究内容如下：研究了如何为基于网络编码的有向非循环网络提供认证,来抵抗污染攻击。首先,提出了一种构造同态消息认证码的新方法,并用严格的安全分析证明,该方法能够以很少的密钥量达到与以往方案相同的安全性。随后,根据基于网络编码有向非循环网络的特点,提出了一种改进的信息传输协议,能够结合所构造的同态消息认证码,在网络中检测出被污染的数据包。最后,仿真实验的结果说明,所给同态消息认证码方案的通信和计算开销确实比已有方案要低。研究了基于网络编码的动态网络中的安全防护方案,其中重点研究如何为基于网络编码的对等流媒体直播系统提供认证,来同时抵御污染攻击和熵攻击。鉴于对等视频直播系统对高计算效率以及低通信时延的要求,首先构造了一个名为PMAC的同态消息认证码,具有密钥量小、计算开销低等特点。然后,再结合延迟密钥分发技术来保证节点不仅能够检测出毁坏的数据块,而且按照随机线性网络编码的要求来上传数据块。接下来的安全分析表明了所设计基于同态消息认证码方案的安全性。最后,从仿真实验的结果可以看出,所给的方案在节省通信和计算开销上有很大的优势。研究了适合于网络编码系统中的密钥分发协议。其主要想法是,充分利用网络编码的混合编码特性来有效的分发密钥。具体来说,每个通信的参与者与密钥生成中心共享一个秘密,利用这个秘密只有授权的参与者才能够得到网络中传输的密钥。并且,密钥生成中心只需要将恢复密钥所需的信息广播一次,即使广播是在一个公共的信道上进行的,也不会对密钥的安全性造成影响。安全分析表明所给出的方案能够同时抵抗内部和外部的攻击,从而在密钥传输的过程中同时达到了机密性和可认证性的要求。