分子成像能够特异性地对生物体内的大分子和细胞成分成像。光学成像技术,尤其是荧光分子成像已经成为在分子或细胞水平上进行生物医学研究的重要成像手段。反射式荧光成像(FRI)与光谱分析相结合,能够实现对多种荧光探针信号的同时检测,有助于观察分子和蛋白质相互作用。荧光分子层析成像(FMT)能够提供荧光探针的三维和定量信息,将它与计算机层析成像技术(CT)结合,能够为研究者提供更丰富的信息。本文设计并实现了一套适用于小动物研究的多光谱反射式荧光成像系统,并对相关的数据处理算法进行了研究。实现了对活体小动物体内荧光探针信号的采集、噪声和自发荧光干扰的去除,并能够实现对多种荧光探针信号的采集和分离。特别针对荧光信号微弱,难以与自发荧光区分的情况,提出了根据图像像素的光谱特性对像素进行分类从而在体提取典型光谱的算法。本文设计并实现了一套适用于平板样品的活体小动物荧光分子层析成像系统。系统使用双轴振镜实现了激发光在样品表面的非接触式快速扫描,可针对感兴趣区域灵活改变扫描范围和间距；利用高性能致冷电荷耦合器件(CCD)相机采集微弱的荧光信号；通过适当的挤压并利用光学参数匹配液将成像对象复杂的形状扩展为平板状,简化了边界条件。性能测试表明激发点在光源扫描平面上的空间定位误差小于200μm；模型试验表明系统的空间分辨率小于1.7mm,相对量化误差在10%以内；裸鼠在体实验结果表明系统能够对近红外荧光染料标记的肿瘤组织进行三维成像。本文提出了荧光分子层析成像和CT相结合的FMT-CT双模式成像系统的几何校准方法。建立了FMT子系统中双轴振镜和CCD相机的线性模型；通过标记点的位置和输入电压求得双轴振镜的几何参数,通过点状光源位置及其投影位置求得CCD相机的几何参数；再利用得到的几何参数预测样品表面上光源的位置和方向,以及探测器位置与它们在成像面上投影的对应关系,同时实现了双模式系统的图像配准。采用计算机模拟验证了在有噪声的情况下该方法的准确性和一致性,然后将本方法应用于自制的FMT-CT系统中得到了系统的几何参数,并利用模型实验验证了校准结果的正确性。在双轴振镜对圆柱样品的扫描实验中,激发光源位置的最大预测误差为0.375mm；而CCD相机对点状光源成像实验则证明本方法对空间点在成像面上投影的最大预测误差为0.629像素；将本方法分别应用于圆柱样品和具有复杂形状的样品的双模式三维成像,验证了本方法的有效性。本文提出了一种利用CT提供的先验信息帮助处理光学数据的方法,为FMT重建算法提供更准确的原始数据。该方法利用CT重建后提供的小动物和支架的边界信息,通过光线跟踪算法追踪激发光束的传播路径,计算激发点的位置和方向并判断其有效性,利用CCD相机的针孔模型和逆向光线跟踪计算探测点在光学图像上的投影位置并判断探测点有效性,将该方法应用于大鼠成像证明了该方法的可行性。