进入二十一世纪,激光产业蓬勃发展,研究强光作用下材料的非线性吸收和非线性折射变化的非线性光学随之兴起。三阶非线性光学性质的研究,对于研究非线性光学、发展激光产业,研制新型光子器件、光开关、光通讯等具有重要的意义,非线性光学器件可广泛应用于全光开关、光频率转换、光限幅器和光信息通讯等领域。半导体纳米材料一直是具有较好性能的非线性材料之一,其通常具有着较大的载流子迁移率、较快的响应速度、较小的阈值功率和较高的非线性极化率等独特优势。金属硫族化合物之一的硫化铋（Bi₂S₃）是直接带隙的无机半导体材料,室温下的禁带宽度是1.3 eV,具有环境友好和优良的光电性能等特点;二硒化钼（MoSe₂）属于过渡金属二硫族化合物,单层结构是直接带隙半导体,具有1-2 eV的带隙,具有独特的薄原子层状结构和光吸收性能,可应用于光催化、电极、润滑等领域;二维材料石墨烯由有序排列的六角晶格sp²杂化碳原子组成,具有特殊的二维π电子共轭结构和包括像狄拉克锥型能带结构、优异的热导性和机械稳定性等新奇的特性。本文选取了Bi₂S₃和MoSe₂这两种典型的半导体纳米材料,对它们与石墨烯复合材料的三阶非线性光学性质及增强机理进行了研究,并在此基础上提出了半导体量子点与石墨烯之间电荷转移过程及模型构建的系列问题。从形貌、结构、线性光学性能、电荷转移原理和非线性光学极化率等多方面着手,分别讨论了Bi₂S₃纳米粒子与石墨烯纳米片之间的协同极化效应,和MoSe₂纳米片与石墨烯纳米片间层级生长机制对非线性光学性质的影响。同时为探究时间、浓度、光强对非线性光学性质的影响,研究了不同反应时间、不同石墨烯掺杂浓度和不同激光辐射强度下复合材料的三阶非线性光学性质,并进行了详细分析。第一章绪论主要介绍了半导体量子点、石墨烯与非线性光学的发展概况;第二章主要介绍了非线性光吸收与非线性光折射两个重要性质和Z-扫描技术测量非线性光学参数的基本原理和理论计算;第三章是Bi₂S₃与石墨烯复合材料的三阶非线性光学性质研究;第四章是MoSe₂与石墨烯复合材料的三阶非线性光学性质研究;第五章是总结与展望。本文的主要工作内容如下:第一,通过湿化学法制备了高纯度的氧化石墨烯和还原氧化石墨烯,对还原前后石墨烯的X射线衍射光谱、傅里叶转换红外光谱及紫外可见吸收光谱进行了对比,对其结构和性质进行了分析,最后通过Z-扫描技术测量了还原氧化石墨烯的非线性光学性质,发现其具有饱和吸收、正的非线性折射的性质。第二,通过液相合成法制备了Bi₂S₃纳米粒子和Bi₂S₃/RGO复合材料,对材料的形貌和结构进行了表征,结果显示Bi₂S₃纳米粒子在石墨烯纳米片的表面分散性良好,粒径均一。通过532 nm波长的皮秒激光器采用Z-扫描技术测试了材料的三阶非线性光学性质,结果表明Bi₂S₃和Bi₂S₃/RGO复合材料都具有反饱和吸收和正的非线性折射的性质。非线性光学性能的增强机理可以归因于量子尺寸效应、增强的电荷转移和协同效应。研究表明Bi₂S₃/RGO复合材料在光限幅和光开关等领域具有潜在应用价值。第三,通过简易的溶剂热法制备了MoSe₂亚微米球和MoSe₂/RGO复合材料,对它们的三阶非线性光学性质进行了分析。结构和形貌表明单体MoSe₂具有亚微米球的形状,尺寸大约在500 nm左右,而在石墨烯纳米片的表面MoSe₂形成了由薄片组成的网状结构。通过波长为532 nm、脉宽为30 ps的锁模脉冲激光器对材料进行了Z-扫描测试,结果表明MoSe₂和MoSe₂/RGO复合材料都具有饱和吸收和正的非线性折射的性质,可应用在饱和吸收体、光调制器和锁模脉冲激光器等领域。第四,对全文的工作内容进行了总结,并对石墨烯与半导体复合材料之间的电荷转移和结构缺陷等问题进行了展望。