荧光分子层析成像(Fluorescence molecular tomography,FMT)是一种宏观尺度的光学分子成像技术,它能够对活体小动物进行非入侵的功能性成像,在早期肿瘤检测,药物研发等多种生物医学研究中有着广泛的应用。FMT通过求解正向问题和逆向问题,重建出小动物体内荧光团的三维分布。但由于FMT的逆向问题具有高度的不适定性,所以实验中的噪声和正向问题的误差会严重恶化重建的结果,导致图像中出现大量的伪影,无法准确重建出荧光团的分布。为了全面提高FMT重建图像的质量,本文从提高FMT正向问题的精度,克服FMT逆向问题的不适定性,补偿光学参数建模误差等方面的相关算法进行了研究。本文基于玻恩近似理论建立了 FMT正向问题的有限元解法,并基于体素坐标对节点进行标号,从而将不同组织器官的解剖结构作为先验信息引入FMT正向问题的求解中。小动物实验结果显示,相比于FMT单模式成像,包含结构先验信息的FMT/CT双模式成像正向问题求得的激发光数据和实验数据之间的相对误差从34.08%降低为23.85%,求得的荧光数据和实验数据之间的相对误差从33.12%降低为20.94%。对比结果表明,融入结构先验信息有效地提高了 FMT正向问题的精度。为了克服FMT逆向问题的不适定性,提出了一种基于重权重L1正则化和split Bregman方法的图像重建算法。较之于普遍采用的L1正则化,本文提出的算法可以进一步增强解的稀疏性,并且理论上所需的投影图数据更少。仿体实验的结果验证了该算法在有限投影图条件下依然可以有效抑制重建图像的伪影,并提高了荧光团的定位精度。为了补偿光学参数建模不准确导致的误差,基于贝叶斯统计推断理论提出了一种变参数先验贝叶斯近似误差法(BAE),该方法通过动态变化先验分布的参数,促进了解的稀疏性。对小动物实验结果的量化分析显示,相比于传统BAE法,变参数先验BAE法能够更好地抑制光学参数建模不准确导致的重建图像伪影,提高了对荧光团形状重建的准确性。为了提高基于BAE法的FMT图像重建算法的效率,提出了小样本BAE法。该方法基于前向矩阵行之间的相关性,利用主成分分析法压缩了前向矩阵和相应探测数据集的规模,从而降低了估计误差参数时所需的样本数量。仿真实验和小动物实验的结果均验证了小样本BAE法可以在保证图像重建质量的条件下,将样本数量压缩为原先所需的1/10,极大地提升了计算效率。综上所述,本文发展了将结构先验信息融入FMT的正向问题,将稀疏先验信息融入FMT的逆向问题,建立了补偿光学参数建模误差的方法。最终有效抑制了 FMT重建图像中的伪影,实现了对荧光团分布的准确重建。