光遗传学技术是一种具有精准靶向、快速响应等优势的新兴生物神经调控手段。传统光遗传实验系统主要采用的植入光纤或器件的方式会对动物行为学分析造成一定的影响。因此,利用视觉技术进行定位和跟踪的无线光遗传实验系统的研究具有重要实践价值。本论文针对目前光遗传学实验系统存在的缺陷,提出并设计了一种基于视觉跟踪的无负重、无植入、满足大范围辐照的系统方案。根据对主流视觉跟踪算法的分析,将内建状态转移模型的粒子滤波算法应用于实验系统。该算法首先对预测区域进行提议采样,然后结合观测模型获取各粒子权重,经迭代计算,最后求取状态矢量的后验概率密度,以达到跟踪的目的。传统粒子滤波优化策略多采用特征融合的方式,这导致观测模型维度和算法复杂度增加且采样效率低下。本文针对观测模型和提议采样中存在的问题,分别通过背景判别式特征选择和分批提议采样的方法进行改进。其中,背景判别式特征选择是根据目标与背景的综合信息,选取更具代表性的观测特征,以提高观测模型的自适应能力;而分批提议采样是通过状态转移方程与权重反馈分批进行采样,在提高采样粒子多样性的同时降低采样粒子的分布方差,进而实现对粒子退化和粒子匮乏的抑制。根据光遗传实验的具体需求,本文详细阐述了包括视频跟踪和自动控制等模块的实验系统架构设计方案,并完成了各模块的设计与验证。在视频跟踪模块中,结合光遗传小鼠的状态转移模型,实现了改进粒子滤波算法的实例化应用,并利用目标成像模型解析小鼠与辐照点的位置差;在自动控制模块中,采用分段PD控制的方式驱动步进电机以避免步进电机出现失步和低频振荡问题,提高了系统稳定性,实现了系统的闭环控制。最后,本文对改进粒子滤波算法、系统模块要素以及系统实物平台等进行了实验测试。实验结果表明,改进粒子滤波算法明显优于传统特征融合算法,并验证了基于粒子滤波跟踪的光遗传实验系统具有较高的应用价值,为光遗传实验提供了一种新颖的解决方案,有利于促进光遗传技术的发展和进步。