随着电力系统的不断发展，在电网的规模、电压等级、控制技术、电源和负荷特性等方面都呈现出了新的特点，对继电保护系统的性能的要求也越来越高。传统的继电保护虽经过了长期的发展和完善，但面对电力系统的新变化，仍暴露出了许多不足。因此，研究和开发新一代更快速、更可靠的继电保护算法和装置，对保证新形势下电网的安全稳定运行至关重要。信号处理技术是继电保护的核心技术。在继电保护算法中，傅里叶变换已经普遍应用了长达半个世纪之久，目前仍然是保护算法中的主要信号处理方法。然而，傅里叶变换在计算中存在着数据窗口长、易受非周期暂态分量的影响等明显的缺点。因此，研究现代信号处理技术在电力系统继电保护中的应用具有十分重要的意义。本文基于数学形态学、奇异值分解和高阶统计分析这三种现代信号处理技术，围绕分布电容电流，采样不同步和电流互感器饱和等输电线路保护面临的问题，研究和开发输电线路继电保护的新原理和新算法。自动重合闸技术是清除临时性故障，提高电力系统稳定性的一项重要措施，而可靠的选相元件是解决问题的关键。本文提出一种基于形态奇异熵的选相方法。形态奇异熵综合了数学形态学和奇异值分解的优点，通过在一个很短的时间窗中，实时地计算电压采样数据对应的熵值，来反应电压信号成分的变化。在此基础上，定义了一组故障选相指标，以消除输电线路各相之间的耦合作用对选相结果的影响。在PSCAD/EMTDC中的仿真结果表明，该选相方法对单相故障和多相故障都有极高的灵敏度和反应速度。在低故障起始角发生高阻接地故障的极端情况下，该元件也能正确地选相。大量的随机故障参数对比试验表明，该选相元件比电压突变量选相方案具有更高的可靠性和更快的响应速度。除了上述的故障选相方法，本文还提出了一种基于电流偏斜度的差动保护新方法。该差动保护方法通过测量差动电流的偏斜度的变化来检测输电线路中的故障，并用差动电流的偏斜度的绝对值与制动电流的偏斜度的绝对值的比例大小来区分区内故障和区外故障。该方法充分利用了高阶统计量的特点，使其对分布电容电流、噪声有较好的免疫能力，因此不需要抬高保护的整定阈值而牺牲其灵敏度。数值仿真结果说明了该差动保护方法具有很高的灵敏度和很快的反应速度。与传统的电流相量差动保护相比，新方法有更强的高阻接地故障检测能力，同时其性能受输电线路两端采样不同步问题的影响较小。针对电流互感器可能在区外故障时发生饱和，从而引起差动保护误动的问题，本文提出了一种结合了差分运算和数学形态梯度变换的互感器饱和检测新方法。该方法采用二次侧电流的三阶差分作为启动元件，并采用两个极性相反的饱和检测器，分别检测发生于正半波和负半波的电流畸变。两个饱和检测器中的形态梯度变换分别采用两个不对称结构元素，根据形态梯度变换输出的极大值点来定位饱和的起始点和结束点。在确定了二次侧电流的饱和时段和不饱和时段后，采用基于最小二乘法的补偿方法对二次侧畸变电流进行补偿。数值仿真验证了所提出的方法能对二次侧畸变电流进行准确地检测和精确的补偿。本文还对继电保护算法的实现技术进行了研究，开发了一套基于现场可编程逻辑阵列的片上系统继电保护研发平台，并将本文所提出的基于电流偏斜度的差动保护新方法实现到该平台中进行了测试。试验结果验证了该研发平台的设计和构建的正确性和可靠性，同时也说明了算法的实用性。论文最后对本文的全部理论和应用研究成果进行了系统的总结，指出了相关领域中有待进一步研究的问题。