纳米复合材料是具有较大应用前景的非线性光学材料，其特有的尺寸效应和可裁剪性一直以来得到广泛关注。但如何对纳米复合材料进行深入非线性光学特性研究，仍然缺乏有力的工具。为了解决这个问题，本文针对Z-scan测试技术，在光学信号的分析提取和高精度、高效率测试系统构建方面进行了系统研究。并且利用改进的Adomian算子推导出饱和吸收的理论模型，归纳了双光子吸收，三光子吸收，多光子吸收的理论模型，在此基础上采用matlab语言实现完整的Z-scan测试数据分析软件。利用搭建的Z-scan测试系统和数据分析软件研究金属纳米粒子及复合纳米粒子的非线性光学特性。观察发现纳米粒子的非线性光学特性受形态、尺寸、组分及表面修饰等因素的影响，通过对测试结果定量分析总结调控纳米复合粒子非线性光学特性的设计规律，为纳米复合成为新型的非线性光学功能材料奠定基础。具体工作分为以下几个部分：1、通过选择稳定的飞秒激光光源、高精度的大面积硅光电探测器（S1337-1010BR）以及专业数字示波器的采集方案，建立飞秒Z-scan测试系统。既提高了Z-scan测试系统的测试精度，又保证了系统工作的稳定性。同时，在数字示波器的操作系统上实现Z-scan测试程序的方案，节省了PC机与测试仪器通信所消耗的实验时间。利用标准非线性吸收样品和非线性折射样品对搭建的系统进行评价，测试效率较采用PC机控制方案提高了10倍，归一化测试曲线精度达到0.01。2、目前Z-scan研究样品多样，测试结果存在多种非线性吸收过程。而现有的理论分析方法较为单一，无法定量分析含有饱和吸收以及多非线性吸收过程共存的样品。因此，本文从现有开孔Z-scan测试理论模型出发，利用Adomian改进算子详细推导了饱和吸收发生情况下的理论模型，并给出数值解；并归纳了双光子吸收、三光子吸收和多光子吸收收情况下的理论分析模型，以及同时存在两种不同非线性吸收过程的分析方法。采用matlab语言编写Z-scan数据分析程序，为定量分析非线性吸收样品提供了可行的解决方案。3、采用上述工具研究有机小分子材料的非线性吸收特性。文中选择易于与金属纳米粒子组装且非线性吸收截面较大的三种卟啉类衍生物5,10,15,20-Tetraphenyl-21H，23H-porphine，5,10,15,20-Tetrakis (4-methoxyphenyl)-21H,23H-porphine和Porphine-5,10,15,20-tetrakis，在相同的实验条件下测量他们的非线性吸收系数，发现Porphine-5,10,15,20-tetrakis的双光子吸收截面最大。希望采用表面修饰的方法，利用Porphine-5,10,15,20-tetrakis包裹金属纳米粒子，进一步增加纳米复合粒子材料的非线性吸收特性。4、利用Z-scan测试方法研究不同形态银纳米粒子和金棒的非线性光学特性。发现金属纳米粒子的非线性吸收特性不仅和以往报道的尺寸效应有关，同时受到其形态的调控。研究发现，粒径约为75nm的三角形银纳米粒子的SPR峰在700nm处，而粒径为35nm的圆盘形纳米粒子的SPR峰在495nm处。三角形银纳米粒子的SPR峰更接近于飞秒Z-scan探测光束波长，因此其非线性吸收随光强的增加表现为由饱和吸收向多光子吸收过渡的过程，其原因为表面等离子漂泊和带间跃迁竞争的结果。而SPR峰在495nm处的圆盘形银纳米粒子，仅发生带间跃迁引起的多光子吸收现象。随后又研究了粒径为46nm，SPR峰在710nm处金棒的非线性吸收特性，发现与三角形银纳米粒子情况相似，随探测光强增强由饱和吸收向三光子吸收变化。5、利用分子工程的方法分别用SiO2和聚合物PSS包裹尺寸相同的金棒，研究核壳结构对金属纳米粒子非线性吸收特性的影响。SiO2壳层引起SPR峰相对于金棒红移，PSS壳层使复合金纳米粒子的SPR峰蓝移更接近飞秒Z-scan的探测波长800nm。根据前面对金属纳米粒子的研究可以推测SiO2结构的饱和吸收现象最强。实际测量结果表明SiO2核壳结构的饱和吸收光强比包裹PSS的金棒提高了两个数量级，证实表面修饰方法能够灵敏调控纳米复合材料的非线性吸收特性。