近年来各种影像技术在小动物研究中发挥着越来越重要的作用，涌现出各种小动物成像的专业设备，为科学研究提供了强有力的工具，其中扩散光层析成像（DOT）和荧光层析成像（FDOT）是两种新兴的无创光学检测技术（FDOT是DOT的推广）。在这两种成像模式中，扩散方程是广泛采用的描述光在组织中的传播模型，它是对辐射传辐方程的一阶球谐近似。然而，在小动物成像中，通常遇到近源区或吸收较强的病变组织区域（如心脏、肺、血管等），此时扩散方程不适用，已不能满足医学应用的需要。本文的主要研究目标是对辐射传辐方程进行高阶近似，并发展一套以此为理论基础的时域DOT/FDOT层析成像方法来提高小动物成像的重建图像质量。本文首先从辐射传输方程出发，应用球谐函数方法对辐射率进行多项式展开，利用球谐函数的正交性和递推性，在二维笛卡儿坐标下，导出含各向异性因子的三阶展开的球谐函数微分方程组（P₃近似），并用有限元方法对二维圆域均匀和非均匀两种情况做数值模拟。结果表明，本文推导的P₃近似能更准确的描述光源附近及吸收较强情况下边界的光辐射分布情况。应用源自广义脉冲谱技术（GPST）的特征数据类型，发展了一套基于P₃方程的DOT图像重建方法，实现了吸收和散射系数的双重建。考虑到随着近似阶数N的增大，尤其是对于多维复杂几何情况，P_N近似法在数学处理上将变得非常复杂和困难。采用Gelbafd提出的简化球谐函数方法（SP_N），该方法克服了P_N法公式复杂，计算量大的缺点，同时保持着P_N近似的有效性。同样将GPST推广到SP₃方程，发展了一套基于SP₃方程的广义脉冲谱技术DOT/FDOT图像重建方法。考虑到荧光成像的目标定位准确性，可以以此来做为肿瘤位置的先验信息，通过图像分割方法，将图像分割为“目标区域”和“背景区域”，其中“目标区域”包含了图像成像所感兴趣的特征点，该部分网格节点被筛选出来用于DOT重建；在重建过程中，与图像特征点无关的“背景区域”则被赋予初步成像的相应值，不参与分割后的图像重建。该FDOT先验信息的引入，可以显著地减小DOT图像重建过程参与迭代的变量的维数，改善其逆问题的不适定性。通过利用实验室搭建的时间相关单光子计数系统（TCSPC）完成基于圆柱透射方式的实验测量，对基于差分测量数据的二维图像重建算法进行验证。实验结果验证了本文所提算法的有效性。