复值随机信号是很多理论科学和工程实践问题的基础,在通信、雷达、声纳、光学、声学、电磁学、海洋学和其他应用科学中必不可少,但是通常所采用的复随机信号服从圆分布的统计假设并不能很好的反映问题内在的物理特点。在本论文中,我们主要关注面向非圆复数的自适应估计算法的设计,性能分析及其在通信中的应用。充分探索和利用复数信号完备的二阶统计特性不仅可以显著提升自适应估计算法的性能,还可以提供关于算法理论性能的深层理解,这进一步启发了其在实际中的应用。主要研究内容和贡献如下:对非圆高斯输入时,均方误差（Mean square error,MSE）和高斯熵准则下的严格线性（Strictly linear,SL）和宽线性（Widely linear,WL）估计器性能进行了理论分析和比较。首先,提出了互补权重误差方差分析,以量化各估计器在不同准则下的权重误差的非圆度。接着通过强不相关变换方法同时对角化输入信号协方差矩阵和互补协方差矩阵,我们分析了各个估计器互补权重误差方差的上界。同时,联合标准和互补权重误差方差分析也为进一步分析各个估计器在实虚数据通道各自的性能提供了足够的自由度,分析表明,对于SL估计器,高斯熵准则下其在实虚两个通道的权重误差方差都总是小于或等于相应的MSE准则下的结果;对于WL估计器,当将其用于线性估计问题时,在MSE准则下,尽管其在总体上相比于SL估计器有性能损失,在实通道或虚通道之一却可能有较小的权重误差方差,而在高斯熵准则下,WL估计器相比于SL估计器在实虚通道上均有性能损失。最后,系统辨识场景下的仿真实验验证了理论分析结果。对非圆高斯输入时的最小随机熵（Least stochastic entropy,LSE）自适应估计算法进行了完备的二阶统计性能分析。首先给出了相互耦合的权重误差协方差矩阵和互补协方差矩阵的迭代计算式,接着推导了自适应算法中步长应满足的均方稳定条件,以保证算法收敛,在此基础上,给出了LSE算法稳态时权重误差方差的闭合表达式。分析显示,在权重误差方差的递归最小化过程中,LSE算法的权重误差向量逐渐趋近于圆。最后,系统辨识场景下的仿真实验验证了相应的理论分析结果。在频域中分析了输入信号非圆时无约束频域块最小均方（Unconstrained frequency domain block least mean square,UFBLMS）算法的性能。首先,分析了算法的均方性能,以研究非圆相关复值输入信号的二阶统计特性如何影响UFBLMS算法的权重误差协方差矩阵和MSE的收敛性。接着,进行了互补均方分析,通过互补MSE（Complementary MSE,CMSE）和权重误差互补协方差矩阵可以看出输入信号和系统噪声的非圆性是如何传播到输出误差和权重误差向量中的。如此,我们给出了瞬态和稳态时UFBLMS算法输出误差和权重误差向量性能的完备二阶统计分析框架;并推导了稳态MSE/CMSE与输入信号非圆性之间关系的闭合表达式。仿真和真实数据实验均验证了相应的理论分析结果。提出了一般复值卡尔曼滤波（Generalized complex-valued Kalman filter,GCKF）算法及其非线性扩展算法,适用于二阶圆或非圆信号。首先提出了用于估计一般复值信号的批处理估计器,其联合了传统的线性最小均方误差（Linear minimum mean square error,LMMSE）估计器和共轭线性最小均方误差（Conjugate linear minimum mean square error,CLMMSE）估计器。对所提的估计器的理论性能分析表明,其MSE性能优于传统的LMMSE估计器,基于此,我们推导了GCKF算法,将新息及其复数共轭同时用于状态的更新以取得性能增益。接着,将这种滤波器结构用于非线性状态空间方程,我们得到了一般复值扩展KF（Generalized complex-valued extended KF,GCEKF）算法和一般复值无味KF（Generalized complex-valued unscented KF,GCUKF）算法。其中在后者的推导过程中,我们提出了一种sigma点选择方案,对前二阶矩的样本估计可以达到二阶精度。最后,基于自回归过程估计和信道估计的仿真实验验证了分析结果。提出了一种盲自适应频率相关同相/正交（Inphase/quadrature,I/Q）分量不平衡补偿算法,解决直接下变频接收机中的频率相关I/Q不平衡问题。算法的原理在于,I/Q不平衡会破坏理想接收信号的二阶圆性,则使含干扰的非圆信号重新变为圆信号即可实现不平衡的补偿。进一步,通过权重误差协方差和互补协方差分析,我们给出了所提补偿器的完备二阶性能分析。由分析可知,在I/Q不平衡补偿算法迭代收敛的同时,其权重误差向量在理论上将趋于圆分布。另外,我们还分析了补偿前后的镜像抑制比（Image rejection ratio,IRR）,以评估补偿算法的镜像频率干扰衰落能力。分析表明,补偿算法有效消除了整个带宽范围内的I/Q失真,即补偿后的IRR与频率无关。最后,在正交频分复用（Orthogonal frequency division multiplexing,OFDM）传输方案下的仿真实验验证了理论分析。