最近十几年来,随着以神经信息学为核心的“人类脑计划”的开展,脑机接口技术在世界范围内引起广泛的重视。脑机接口依靠从人脑神经信号中获取的信息,实现人脑对外部设备的直接控制,创造了人与外部环境之间新的交流方式。视觉事件相关电位(Event-Related Potential, ERP)脑机接口是脑机接口研究的重要分支。具有高精度与高输出速率的高性能视觉ERP脑机接口一直是研究的重点。本文针对ERP脑机接口理论与应用研究中的性能改善问题、周期性干扰问题、异步控制问题,以及在线分类问题等重要问题展开研究,主要研究工作包括：(1)首先提出一种新颖的基于多变几何图形刺激的ERP脑机接口范式,然后,通过开展与经典范式的对比实验,研究多变几何图形刺激下脑机接口性能改善情况与ERP成分变化情况。实验与数据分析结果表明：所提出范式显著提高了ERP脑机接口的分类精度、信息传输速率与符号拼写率；在新范式下,前额-中央区的N2成分、P2a成分,以及枕-颞区的N1成分、P2b成分得到显著增强。进一步地,从应用角度对新范式下缩减电极数量的问题进行研究。数据分析结果表明,多变几何图形刺激可有效地用于缩减脑机接口分类识别所需的电极数量。(2)针对ERP脑机接口的周期性干扰问题,建立理论分析模型,认为这一周期性干扰主要是由靶刺激所诱发ERP响应的混叠效应引起的。而后,提出Toeplitz方法与差异波方法对周期性干扰进行抑制。实验数据分析结果表明,Toeplitz方法可以从非靶刺激平均信号中分离出靶刺激的ERP响应,而差异波方法则可以有效抑制周期性干扰。虽然周期性干扰对ERP成分的分析造成了不利影响,但是从另一个角度考虑,这一准周期波动却可以作为脑机接口处于控制状态的标志,用于解决脑机接口的异步控制问题。通过开展模拟的异步控制实验,表明了所提出基于准周期波动的异步控制方法的潜在价值。此外,对ERP脑机接口信号功率谱中出现的与周期性干扰相近的SOA (Stimulus Onset Asynchrony,刺激起始间隔)扰动线谱现象及其特性进行了理论模型与实验的研究。(3)将再生核希尔伯特空间内自适应投影次梯度方法(Adpative Projections Subgradient Method, APSM)应用于ERP脑机接口的在线分类问题,并提出改进的在线APSM-LM算法。使用实测数据分别对APSM-LM算法与基于高斯核函数的APSM-G算法中不同参数对在线分类性能的影响情况进行了研究。同时,从在线分类性能与处理时间角度,将APSM-LM算法与批处理的逐步线性判别分析方法进行对比。结果表明APSM-LM算法获得了接近于批处理算法的分类性能,而计算效率却显著提高。