正交频分复用(OFDM)技术能够在一个信道内传输多路信息，具有频谱利用率高、有效的对抗频率选择性衰落和抗信道色散能力强等优点，因此被广泛的应用于现代光通信及其他通信领域。随着社会的发展带来的信息传输量的增大，将OFDM技术引入到PON系统中构成OFDM-PON系统，利用两者的优势实现更高效、高速、灵活的光纤接入方案是当前的研究热点。当通信系统中参与信息传输的用户增加后，保证信息的安全传输是一项非常重要的任务。混沌具有高度不可预测性和伪随机特性，将混沌用于保密通信成了目前通信安全领域的热点。本文在OFDM-PON系统的基础上，结合超混沌系统，对OFDM-PON加密的性能做了重点研究。　　本文首先介绍了超混沌系统和OFDM-PON系统，然后介绍了混合TWDM-PON、TDM-OFDM-PON和WDM-OFDM-PON系统。利用Optisystem和Matlab仿真软件搭建了OFDM-PON加密系统，并在系统中做了相应算法的研究和仿真。本文的主要工作和创新点有:　　(1)针对现行商用TDM-PON无法满足日益增长带宽需求的问题，将WDM技术引入到TDM-PON中，构成混合TWDM-PON系统。对系统在不同情况下（如光分支比、发射光功率、色散、速率）的性能做了全面的分析，为系统的下一步商用奠定了基础。　　(2)针对光传输系统保密性能不足的问题，提出将超混沌、子载波掩膜、FRFT和SLM算法引用到TDM-OFDM-PON系统中，构成TDM-OFDM-PON四级加密方案。由超混沌系统产生超混沌序列，经过处理后用于控制系统的加密过程，接收端必须采用相同的超混沌序列对系统进行解密。由于超混沌系统动力学行为难以预测，生成的密钥难以破解，从而有效的保证了信息的安全传输。通过仿真分析了系统的加密性能，验证了算法的有效性。　　(3)提出基于定时同步、信道估计、子载波掩膜、分组FRFT和SLM算法的WDM-OFDM-PON五级加密方案。超混沌系统产生超混沌序列控制系统每一步的加密，超混沌系统比普通混沌系统具有更多的初始值，能够获得更大的密钥空间，进一步提高了系统的安全性。通过仿真发现，系统在加密的同时还有效的提高了系统的传输性能，说明混沌加密系统在实际光纤通信网络具有良好的可行性。