脑机接口开辟了一条大脑与外部环境直接信息交流的通道,帮助患有脑损伤的人士获得与外界通信的机会。本文的研究课题是基于稳态视觉诱发电位(steady state visual evoked potential,SSVEP)的脑机接口,它具有训练时间少,信息传输率高的特点,是脑机接口的一个重要研究方向。经过多年的发展,在刺激范式设计与信号处理算法方面的改进使得该系统越来越接近实际应用。然而,针对短时间窗口下的SSVEP分析,传统的信号处理方法难以取得很好的效果。近年来,深度学习在模式识别领域得到了有效的应用。本文将深度学习模型运用到短时间窗口下的SSVEP分析中,分别从深度混合模型和半监督阶梯网络展开研究工作:1)无监督学习网络以贪婪式的方式逐层训练重构信号,能够有效地提取数据的内在特征,其中受限玻尔兹曼机(restricted boltzmann machine,RBM)和自编码网络(autoencoder,AE)是两种典型的无监督预训练算法。本文改进这两种算法用于学习多通道SSVEP的特征,并结合有监督的卷积神经网络(convolutional neural network,CNN),提出了一种深度混合模型算法进行短时间窗口下的SSVEP分类。对5名受试者进行实验,结果表明该深度混合模型针对短时间窗口的SSVEP能够达到很好的分类性能,平均准确率为90.56%。2)脑机接口中有监督学习需要采集大量有标签样本,费时费力。考虑半监督的情况,即利用大量无标签样本及少量有标签样本,本文采用了一种半监督阶梯网络训练方法。该方法通过横向连接机制有效地结合了无监督重构信号和有监督分类。实验结果表明,在有标签样本数量有限时,基于半监督阶梯网络的SSVEP分类效果优于现有几种方法。