光子器件是实现全光信息处理和光计算的关键，而三阶非线性光学材料是研究并实现光学逻辑、光存储、光三极管和光开关等光子器件的基础。具有有序纳米结构的有机分子超薄膜，因其具有大的三阶光学非线性而可能成为首先付诸实用并产业化的三阶非线性光学材料之一。 在此研究背景下，本论文从设计制备具有较大光学非线性的固态薄膜材料出发，采用静电层层自组装技术制备了几种不同体系的纳米有机超薄膜，并用紫外-可见吸收光谱、原子力显微镜、小角X-射线衍射及扫描电子显微镜等手段对薄膜的生长、厚度及表面形貌进行了详细的表征。在波长532nm、8ns脉冲条件下，采用Z-扫描技术对薄膜的三阶非线性光学性质进行了研究。 设计合成了水溶性的卟啉化合物—5，10，15,20-四(3,4,5-三羟基苯基)卟啉(DHP)，并用MALDI-TOF、FT-IR及1HNMR进行了表征。采用自组装技术将聚乙烯胺(PEI)与DHP组装成多层超薄膜并进行表征，结果表明PEI/DHP自组装膜的生长过程连续且一致，表面均匀平整。用Z-扫描技术对20-双层的PEI/DHP自组装薄膜进行研究，发现此薄膜表现出很强的饱和吸收和自散焦效应。通过计算得出薄膜的非线性折射率系数系数n2值是-7.56×10-12m2/W。在相同条件下对DHP水溶液的三阶非线性光学性质进行了研究，DHP水溶液呈现出与薄膜相反的反饱和吸收和自聚焦特性，其非线性折射率系数系数n2为3.47×10-17m2/W。通过自组装技术将聚电解质制备成致密有序的超薄膜后可以使其表现出完全不同于水溶液的三阶非线性光学性质，其非线性吸收系数与折射率都比水溶液高出了5个数量级。超薄膜的纳米结构引起的表面效应及薄膜中的高分子密度使得其三阶光学非线性好于溶液的三阶光学非线性。 将银(Ⅰ)组氨酸配合物(Ag-His)与水溶性聚苯撑乙烯衍生物(BH-PPV)制备成20-双层的BH-PPV/Ag-His超薄膜并对其进行了表征。三阶非线性光学性质研究发现薄膜表现出很强的饱和吸收和自散焦效应，其非线性折射率系数n2为-4.78×10-12m2/W，比CS2高出了近5个数量级。该自组装薄膜具有大的三阶光学非线性，表明将金属有机配合物通过静电自组装技术与共轭聚合物相结合，可以得到一种具有良好三阶非线性效应的新型光学材料。同时我们还制备了20双层的BH-PPV/DHP自组装超薄膜，发现这两种均具有π-共轭体系的化合物相结合也可以获得具有较大三阶非线性光学响应的分子薄膜材料，其非线性折射率系数比CS2的非线性折射率系数高出5个数量级。 合成了三种水溶性的C60亚甲基衍生物，TMAF(单加成)、TTAF(三加成)和THAF(六加成)。以PSS为反电荷电解质，分别制备了TMAF/PSS、TTAF/PSS和THAF/PSS静电自组装膜。用Z-扫描技术对10-、20-、30-和40-双层的TMAF/PSS多层膜的非线性光学性质进行比较研究后发现，薄膜的三阶非线性光学响应随着薄膜层数(即薄膜厚度)的增加而增加。在8ns和40ps的不同脉冲宽度条件下分别进行Z-扫描实验，发现纳秒脉冲时所产生的热效应使得非线性光学响应随着膜厚的增加幅度更为显著。 将40-双层的TMAF/PSS、TTAF/PSS和THAF/PSS自组装薄膜进行比较后发现，随着C60中碳笼上取代基个数的增加，非线性光学性质有所减弱。这是由于取代基个数的增加导致薄膜中C60分子密度降低，从而使得薄膜的三阶非线性光学效应减弱。 将给体分子TTAF与受体分子DHP制备成具有给-受体周期性交替结构的20-双层的TTAF/DHP自组装超薄膜并对其进行了表征。Z-扫描实验研究发现薄膜表现出很强的饱和吸收和自散焦效应，用改进的二次菲涅尔积分Z-扫描理论分析薄膜的非线性折射率系数是CS2标准值的近105倍。将TTAF/DHP与TTAF/PSS薄膜的三阶非线性光学性质进行对比，前者明显好于后者，表明电子在给-受体之间的转移可以有效地增强薄膜的三阶非线性光学性质。通过静电自组装技术将给体分子与受体分子以非共价方式相结合，形成给-受体交替的周期性结构，可以获得具有较大三阶光学非线性响应的分子薄膜材料。