盲源分离是信号处理领域中重要的技术,它广泛地应用于生物医学信号处理、阵列信号处理、语音信号识别、图像处理等领域。在实际应用中,盲源分离问题可以转化为基于某种数学模型下的优化问题,通过优化目标函数而获得可分离矩阵,然后恢复源信号的波形。在这种意义下,优化算法是盲源分离算法的重要组成部分,它的优劣决定了整体算法的性能。本论文正是基于数学模型与优化算法这两方面对盲源分离问题做深入的研究。近年来,基于联合对角化模型的盲源分离算法成为研究的热点。但这些算法常出现日标函数趋向最优值而算法并没有相应地趋向可分离矩阵的问题。这是因为联合对角化模型并不考虑混合矩阵与分离矩阵的内在的数量关系。这样会导致优化算法的搜索域扩大,把一些无意义的解包含进来,从而降低算法收敛于可分离矩阵的机率。为了克服这些缺点,本论文提出了以下三种改进模型。在这些模型下,可以证明只要目标函数趋向最优值,算法就会趋向可分离矩阵从而达到分离信号的目的。(1)对偶矩阵模型(Dual Matrix Model,DMM)。引入镜像矩阵A、W,并构造两者的数量关系：AW=IN。经证明当目标函数趋向最优值时,由AW=IN可以导出分离矩阵与真实的混合矩阵的乘积等于广义交换矩阵,即算法趋向可分离矩阵,实现了分离信号。仿真结果表明,基于DMM的盲源分离算法比基于联合对角化的盲源分离算法具有更高的分离效率。(2)可变对偶矩阵模型(Variable Dual Matrix Model,VDMM),它是DMM的一般化。在DMM模型中,矩阵IN是单位矩阵,它的对角元素均为常数1。事实上,这样的条件还是过于严格,我们可以将条件放松为：AW=IN,其中IN可视为广义单位矩阵(对角元素均为非零变量),显然VDMM模型更具有一般性,DMM只是它的一个特例。仿真结果表明,基于VDMM模型的分离算法效率更高。(3)并行对偶矩阵模型(ParalIel Dual Matrix Model,PDMM)。当目标函数趋向零时,DMM算法收敛于可分离矩阵。但是迭代算法性能往往与最初迭代点、目标函数结构相关,在给定目标函数的情况下,由某些初始点迭代计算并不一定能保证该目标函数趋向很小的值。除了改变初始点外,还可以采用改变目标函数结构的方法来提高算法的成功率。根据矩阵A与W之间的关系,我们构造一个完备集Ω={AW=Pj,(?)Pj∈PN},由这个集合的元素可以导出不同结构的目标函数,那么在对这些目标函数进行优化过程中,迭代算法的搜索域往往不相同。在实际计算中,由于每个函数均能以概率意义上收敛于最优值,我们可以并行地优化几个不同结构的目标函数,所以这样能提高算法的成功率。当盲源分离问题抽象成上述数学模型后,它的算法就转换成无约束优化问题。为了提高优化计算的效率,我们提出了两种数值算法：(1)混合信赖域算法。本论文提出一种“混合”策略,将线性搜索算法融合到信赖域算法中。首先求解一次子问题以获取试验步,如果此试验步被接受,那么优化算法更新下一个迭代点,否则直接采用梯度下降算法计算出下一个迭代点,无需再次求解子问题,毕竟求解子问题远比梯度下降算法耗时。理论分析证明混合信赖域算法具有很强的鲁棒性及超线性收敛于最优值的特性。数值仿真表明它比现有的一些改进型信赖域算法计算效率更高。(2)改进型梯度下降算法。梯度下降算法简单容易实现,它广泛地应用在含大规模变量的优化问题中。现有同类型算法大多数采用Wolfe准则来计算迭代步长,而这些准则是不等式组,不易求解且费时多。为了提高计算效率,本论文提出了一种新的算法用于确定迭代步长,该算法更简单,无需求解不等式组。理论分析和数值仿真均表明改进型梯度下降算法比那些采用Wo1fe准则的算法计算效率更高。最后将改进型梯度下降算法应用于天线阵列方向图综合,考虑单、多波束综合两种情况。首先,利用惩罚函数的思想,将天线阵列综合问题转化为一个无约束优化问题,然后用改进型梯度下降算法优化目标函数以获取问题的解。仿真结果表明,无论是单、多波束方向图综合,本论文提出的算法可以得到比一些已有文献更优的旁瓣值。