随着现代工业生产规模的日益扩大、系统内部不同部分之间相互关联的增加，系统的可靠性、安全性和有效性显得更加重要，一旦发生事故就会造成人员和财产的巨大损失，其后果往往是灾难性的。因此，如何提高系统的安全性、可靠性，防止和杜绝影响系统正常运行的故障发生和扩大成为一个重要的有待解决的问题。 本文以超高压直流输电(High Voltage Direct Current Transmission，简称HVDC)系统的故障诊断为背景，在总结前人研究成果的基础上，针对一类基于观测器方法的非线性系统故障诊断技术展开深入的研究，在研究过程中，主要采用了迭代学习算法、粒子滤波器和自抗扰控制器中的扩张状态观测器方法。HVDC系统是电力系统中近年来迅速发展起来的一项新技术，主要应用于远距离大容量输电、电力系统联网、远距离海底电缆或大城市地下电缆送电等领域，其可靠性对国民经济至关重要。如果发生故障，将会引发大面积的供电中断。因此，HVDC的故障诊断技术是保障系统可靠性的核心技术。目前，对于HVDC系统的故障诊断技术，国内基本处于空白，国外也刚刚起步。研究高性能的故障诊断技术，有助于及时检测HVDC系统的故障，并对故障进行快速分类，确定故障根源，保障HVDC系统的正常运行，因此具有重要的理论和实际的意义。本文将理论研究结果扩展应用到了HVDC系统的故障诊断中，所取得的主要成果如下： (1)针对线性时滞系统和非线性时滞系统的故障诊断问题，研究了基于迭代学习算法的故障估计技术，提出了基于PID型和P型迭代学习算法的故障诊断方法。首先采用PID型的迭代学习算法，研究了线性系统的故障诊断问题，然后采用P型的迭代学习算法，研究了非线性时滞系统的故障诊断问题。设计出一种改进的故障跟踪估计器，并证明该故障跟踪估计器的状态和输出跟踪在λ范数下的收敛性。研究结果表明，所提出的方法具有更快的收敛速度，是一种可以实时在线检测和估计系统故障的估计器。 (2)将粒子滤波算法和故障诊断理论相结合，提出了一种基于粒子滤波的非线性非高斯随机系统故障检测的算法。一方面，该方法利用状态估计的全概率分布信息，使得估计结果更加可靠；另一方面，它适用于一般的具有非高斯噪声和干扰的非线性随机系统。蒙特卡罗仿真及与扩展卡尔曼滤波的故障检测性能的比较，表明了该算法的有效牲。 (3)针对基于扩张状态观测器和自抗扰控制器，提出了一种改进的故障诊断策略。将自抗扰控制器中的扩张状态观测器应用到故障诊断中，其扩张状态既可以用来检测系统故障，又可以用来估计故障，并将此策略应用到一类非线性随机系统的故障诊断中。通过仿真，表明了该算法的有效性。 (4)HVDC系统中故障诊断的研究国内还处于起步阶段，本文研究基于状态估计故障诊断方法，并将其应用到HVDC系统中。针对HVDC系统的状态方程特点，进行适当的数学变换，引入所设计的故障跟踪估计器和故障滤波器，进行HVDC系统的故障诊断研究。数值仿真验证了所提出的各种方法的有效性。