荧光分子层析成像(FMT)近年来已成为小动物成像的一种新兴技术。FMT通过重建荧光目标体的三维空间分布实现在体无创观测组织体内部细胞或分子水平的生物过程,具有检测、诊断和监测人体肿瘤的潜力。鉴于当前FMT技术因假设背景光学结构均匀而导致其灵敏度、定量性和空间分辨率等主要指标与实际应用要求存在一定的差距,本文展开了面向荧光分子层析成像的在体目标光学结构获取方法研究。在本课题研究中,我们采用扩散光学层析成像(DOT)技术来获取目标背景光学结构。DOT是利用散射光来探测组织光学结构的一种具有低成本、无辐射损伤、成像深度深的在体光学成像技术。但是,由于生物组织体的强散射、低吸收特性以及成像的高空间分辨率需求引起实验测量数据远少于待求参量个数,使得传统基于体元DOT技术逆问题呈现高度非适定性。因此,本文在传统体元DOT重建算法以及在由其他成像模式(如CT,MRI)提供的背景解剖结构先验信息的支持下结合基于光子传输模型的逆问题求解策略,发展了稳态测量模式下基于区域DOT算法初步解决方案。为验证该算法对于获取背景光学结构的有效性,展开提高FMT成像灵敏度的区域DOT/FMT混合成像方法的研究。由于基于区域DOT重建算法即硬先验(HP)正则化方法其重建精度高度依赖于背景结构先验信息的准确性,而软先验(SP)正则化法则对背景结构先验信息表现为良好的鲁棒性,本文又发展了在背景结构先验信息不同误差水平下利用HP及SP两种正则化方法(统称为基于结构DOT重建算法)获取复杂背景的光学结构,并将其用于指导FMT重建以提高其成像灵敏度。鉴于基于结构DOT重建算法在发展及应用方面存在一定的局限性,本文又发展了基于形状DOT重建技术,不仅通过HP正则化获取背景光学特性,而且通过球谐函数展开法对含有一定误差的背景结构信息进行调整。最后,将得到的背景光学结构用于指导FMT重建以提高其成像灵敏度,以验证该算法对于获取复杂背景光学结构的有效性。以上算法均分别采用标准数字鼠模型以及简化的仿体模型进行了模拟验证以及实验验证。