激发态质子转移（ESPT）反应是生物体中最基本也是最重要的反应之一。激发态质子转移是指分子受到光激发后,质子从供体沿着分子内氢键或分子间氢键到达相邻的N、O等杂原子上的异构化过程。ESPT体系由于具有荧光效率高,斯托克斯位移大等优点,在荧光探针、生物成像、DNA碱基对、有机功能材料等方面有着广泛的应用前景。因此,从理论研究的角度研究不同有机分子体系中的激发态质子转移机理,不仅可以为实验提供合理的解释,也可以为设计新型ESPT有机发光分子提供理论指导。本论文研究了三种不同有机分子体系的激发态质子转移机理,详细分析了光物理和光化学过程。具体内容分为以下几个方面:1.采用密度泛函理论（DFT）和含时密度泛函理论（TDDFT）方法,研究了两个及三个水分子参与3-甲基-2,6-二氮杂吲哚（（2,6-aza）Ind·（H2O）n（n=2,2+1,3））的激发态分子间质子转移机理。研究结果表明:两个水分子参与（2,6-aza）Ind的ESPT过程时,首先要进行水分子重排,再进行激发态三重质子转移。当加入第三个水分子时,会进一步降低ESPT的能垒。（2,6-aza）Ind·（H2O）3的质子转移与（2,6-aza）Ind·（H2O）2和（2,6-aza）Ind·（H2O）2+1的质子转移比较,表明水溶液中的（2,6-aza）Ind更倾向在三个水分子的协助下发生激发态四重质子转移。2.采用密度泛函理论（DFT）和含时密度泛函理论（TDDFT）方法,研究了3-羟基黄酮衍生物（PPC,EPC,MNC）在极性不同的1,4-二恶烷（1,4-dioxane）和二甲基亚砜（DMSO）溶液中的光物理和光化学性质,探究溶剂和取代基对激发态分子内质子转移（ESIPT）的影响。结果表明:在1,4-dioxane和DMSO溶液中,PPC、EPC以及MNC的激发态酮式构型(KetoS1)比烯醇式构型(EnolS1)更稳定,且取代基给电子的能力越小,EnolS1与KetoS1的能差越大。计算得到了它们的S0态和S1态沿着质子转移方向的势能曲线,并且优化得到了激发态质子转移的过渡态。给电子基团会使得激发态质子转移的能垒增大。除此之外,溶剂极性增加,PPC、EPC与MNC分子的激发态质子转移的能垒也随之增加。3.研究了具有激发态分子内质子转移（ESIPT）以及聚集诱导发光（AIE）性质的HBT衍生物（HBT-s-Ph,HBT-d-Ph）在甲苯溶液和固相中的光物理和光化学性质。研究结果表明:HBT-s-Ph和HBT-d-Ph分子在甲苯溶液以及固相中ESIPT的能垒较小,表明激发态质子转移极易发生,与实验观测到的发射波长由激发态酮式构型(KetoS1)产生是一致的。在甲苯溶液中KetoS1构型存在沿θ（N1-C1-C2-C3）旋转的非辐射跃迁路径,这是两个分子在溶液中量子产率较低的主要原因。聚集态时,由于较高的势垒,分子内沿二面角θ（N1-C1-C2-C3）的旋转受限,因此在分子被激发后仅发生快速ESIPT过程,KetoS1决定固相荧光。HBT-s-Ph和HBT-d-Ph分子的AIE现象是ESIPT和限制分子内旋转机制共同作用的结果。此外,HBT-d-Ph分子比HBT-s-Ph分子具有更高的荧光量子产率与其较低的激子耦合,溶剂中较高HR因子和单三态之间的系间窜越有关。