在光纤接入网（OAN）领域，相对于有源光网络（AON），无源光网络（PON）具有对高速传输的兼容性，对调制码型的透明性以及更高的可靠性等特点。正是无源光网的这些优点使它成为了未来光纤接入网的首选方案，并最终取代有源光网成为了全球学术界和工业界的研究热点。目前，ATM无源光网（APON），宽带无源光网(BPON)，以太无源光网（EPON），千兆比特无源光网（GPON）已经走向实用，而下一代无源光网NG-PON1和NG-PON2也已经在实验室进行研究和试行。同时，基于可以在光网络单元之间建立独立光信道的虚拟专用网（VPN）服务，无源光网可以提供快捷的光网络单元间的数据传输业务，从而保证了光网络单元之间数据传输的带宽和可靠的物理层安全性。提高虚拟专用网的灵活性和并发性对于下一代无源光网具有重要的意义。本论文首先调研了现有高阶调制码型16QAM的产生方法，然后集中研究了正交频分复用多址接入无源光网中具有无源光网络单元的全光虚拟专用网的实现方法以及基于正交频分复用技术的全光虚拟专用网的灵活性和并发性的实现方案，最后我们重点研究了下一代无源光网络中的波长规划问题。1.高阶调制码型16QAM产生方法的调研相对于幅度键控码型（ASK）和相位键控码型（PSK），16QAM高阶正交幅度调制码型每个符号携带四个比特信息，因而，在数据传输的波特率一定的情况下，采用16QAM调制格式的信号比特率将会是采用ASK和PSK调制格式信号比特率的四倍。在无源光网络中，信号采用16QAM的调制格式，可以在提升系统的整体数据容量的同时，保持较好的数据传输性能。因而，16QAM成为超高速长距离光纤数据传输系统的常用码型。此外，在本论文的后面章节，实验中的数据均采用16QAM码型。本文首先调研了高阶调制码型16QAM的产生方法，我们列举了目前最新的星型16QAM、方形16QAM和16APSK三种不同格式信号产生的实验方案。2.全光虚拟专用网灵活性和并发性的研究全光虚拟专用网是一种可以在光网络单元之间搭建独立专用光通道的技术，它能够实现光网络单元之间快捷的数据通信服务。目前，国内外学者所提出的无源光网虚拟专用网的实现方案中，一般是在每个光网络单元使用一个激光器产生一个光载波来承载虚拟专用数据，这样不利于降低光纤接入网的成本和能耗。此外，在已发表的论文中，一个光网络单元在同一时刻发给其他一个或者多个光网络单元的虚拟专用数据是一样的，而网络单元之间的虚拟专用通信数据并非总是一样，这明显不能满足下一代动态光网络的需求。本文首先利用在光线路终端（OLT）的双平行马赫-曾德尔调制器来得到具有三个光载波的下行信号，接着在光网络单元利用光载波重用技术来传输上行和虚拟专用数据，从而实现具有无源光网络单元的虚拟专用网。此外，本文在正交频分复用多址接入无源光网（OFDMA-POM）中，还使用正交频分复用技术，利用子载波分配的方式，实现每个光网络单元可以利用不同的子载波向其他网络单元发送不同的虚拟专用数据，从而实现了全光虚拟专用网的灵活性和并发性。3.下一代无源光网络的波长规划现有的无源光网已经不能很好的满足用户不断增长的业务需求，因而，下一代无源光网因运而生。其中，NG-PON1包含了非对称的10G吉比特无源光网和对称的10G以太无源光网。NG-PON2则包含波分复用无源光网、时分波分复用无源光网和正交频分复用无源光网。当NG-PON1和NG-PON2融入到现有PON系统中，光纤非线性效应的影响就不容忽视，其中以四波混频（FWM）、受激拉曼散射（SRS）和交叉相位调制（XPM）尤为显著。这些效应会导致在GPON，数字电视信号（VIDEO）, NG-PON1和NG-PON2共存系统中，系统的性能恶化。本文主要借助光传输系统仿真软件（VPI），通过仿真无源光网络的波长规划，实现了在融合不同网络情况下的低信道串扰和在大分光比无源光网络的无误码数据传输。