有机非线性光学材料由于具有大的和快速的非线性响应，灵活可裁的分子结构等优点而受到了人们的广泛关注。虽然有机分子的可裁性对人们寻找具有大非线性的有机材料或者对光学非线性的调控都有着重要的意义，但是通过分子结构改变引起的光学非线性变化往往是间断性的，而一个连续可调的动态光学非线性材料在实际的应用中可能会更加有意义。要获得动态变化的光学非线性材料仅仅依靠分子结构的改变是很难实现的。近年来，超分子化学的迅速发展为光学非线性的研究带来了新的契机。相对于传统的有机化合物，超分子材料不仅有着更丰富的结构形式，而且是一种可编程的、动态的、组合的材料，从而可以提供更为灵活地改变材料光学非线性的途径。 本文利用皮秒和纳秒脉冲下的Z扫描方法研究了一些新型富勒烯、卟啉及其超分子卟啉结构的激发态非线性吸收和非线性折射行为，并采用紫外—可见吸收光谱、稳态和时间分辨荧光光谱等多种测量手段对这一系列有机分子的激发态非线性进行了辅助表征；获得了光学非线性的大幅度提高，分析了富勒烯、及其卟啉结构变化与光学非线性之间的关系；此外，更为重要的是，通过分子间弱相互作用和超分子动态概念的引入实现了光学非线性的灵活调整，为动态光学非线性材料的发展打下了一定的基础。 首先我们介绍了有机材料光学非线性的概念和它目前的发展状况，并且说明了将有机材料光学非线性的研究从分子水平推进到超分子水平的重要意义。在第二章中，我们详细地对有机材料的激发态非线性吸收和非线性折射物理过程进行了分析，并对测量方法加以了介绍。要想更为准确方便的获得有机材料的光学非线性参数，光束传播特性的分析和测量分析方法的改进是必要的，所以在第三章，我们使用变分法等方法对光束在非线性介质中的传播和Z扫描理论进行了研究。在第四、五、六章中，我们介绍了在富勒烯、卟啉及其超分子结构的光学非线性研究中取得的一些结果。在第四章中，我们分析了富勒烯和卟啉结构变化对光学非线性的影响。在五种有机磷富勒烯衍生物中获得了比富勒烯更大的非线性折射和非线性吸收。对二苯基卟啉的金属化和在中位的不同溴化引起了非线性吸收从饱和吸收到反饱和吸收之间的转变，而同时非线性折射的改变主要依赖于卟啉中心的金属离子，与溴化程度关系不大。此外，对五种硫代核修饰卟啉的光学非线性研究结果表明硫原子对卟啉中心氮原子的取代引起了非线性折射的大幅提高。在第五章中，我们使用三种不同的方法实现了光学非线性的灵活调整：首先是碘与有机溶剂以弱相互作用形成的电荷转移络合物，由于这种结构与有机溶剂的电子给予能力密切相关，所以通过改变有机溶剂的混合比例有效地实现了光学非线性的变化；其次，在锌卟啉与吡啶等氮配体结合生成的卟啉超分子结构中，我们通过三种不同溴化的锌卟啉与吡啶之间的动态平衡过程实现了对非线性吸收的精细调整，即利用超分子的动态概念获得了对卟啉光学非线性在一定范围内的控制，这在传统的分子化学领域中是很难实现的；最后，通过在酸性介质中的质子化作用有效地扩展了硫代卟啉和基本卟啉中两个特征吸收带之间的光谱区域，实现了非线性吸收在宽的光谱范围内的显著增强。在第六章中，我们研究了卟啉自组装和卟啉修饰单壁碳纳米管两种超分子结构的光学非线性。发现卟啉自组装结构中配位溶剂吡啶的添加会引起非线性吸收的提高，而锌原子对卟啉的金属化导致了非线性折射的剧烈变化。此外，将卟啉与具有良好光限制性能的单壁碳纳米管进行共价连接获得了三种卟啉修饰单壁碳纳米管超分子结构，通过卟啉的反饱和吸收与单壁碳纳米管的非线性散射两种非线性机制的结合增强了体系的光限制效果，而且卟啉与单壁碳纳米管之间的能量转移和电子转移过程在光限制的提高中也扮演着重要的角色，这三种卟啉修饰单壁碳纳米管结构展示出了更好的光限制应用前景。