随着通信网络对带宽和容量需求的增加,正交频分复用无源光网络（OFDM-PON）被视为一种有效的部署解决方案。然而,光OFDM（OOFDM）系统的传输存在安全隐患,比如OFDM-PON中的下游数据由于其广播架构而可能被非法获取,光纤信号的泄漏可能导致信号被非法窃取。为防止数据被违法用户窃听,光OFDM系统的安全数据传输成为一个亟待解决的重要问题。与此同时,如何提高OOFDM系统的误码性能,在低复杂度下提高系统的可靠性也是长久关注的一个重要问题。基于以上问题,本文使用混沌加密技术对OOFDM系统中物理层进行数据加密来提高安全性,设计了合适的加密算法来提供足够大的密钥空间。同时使用极化码（Polar code）作为一种前向纠错码（FEC）技术,通过信道编码来提高系统误码性能,之后进一步做了理论分析和性能对比。仿真结果展现了所提方案的可行性,有效提高了物理层安全性,并明显改善了系统的误码性能,同时具有低复杂度、易于实现的特性,对未来的大规模光纤数据安全传输具有理论借鉴和实际应用意义。论文的研究内容主要如下:一、提出了基于极化码的混沌加密方案,使用Henon映射作为混沌源,并使用极化码对原始数据进行编码。阐述了联合极化码的OFDM-PON系统的架构,分析了基于极化码的混沌加密OOFDM系统的特点。仿真传输通过了光纤长度为60km的直接检测（IM/DD）系统,可以在BER=10^3-下取得⁷.4 dB的编码增益。结果显示该系统能很好地提高安全性能和误码率（BER）性能。二、提出了基于超混沌系统的双域加密OFDM-PON系统。采用切比雪夫映射和四维超混沌系统,通过极化码信息位索引置乱和时域频域混合加密对传输数据进行物理层加密。在通过长度为40km的光纤后,该加密OFDM-PON系统可以在BER=10^3-下取得⁶.5 dB的编码增益,并具有10⁷⁵大小的密钥空间。结果证明本方案具有较大的密钥空间,更强的安全性,并能有效改善系统的传输性能。