(?)p正则化问题在变量选择、信号处理、压缩传感、数据挖掘、金融最优化等许多领域有广泛的应用背景.对该问题的理论与算法的研究是目前国际优化界关注的一个热点.本文研究求解（?）p正则化问题的理论、算法及其在压缩传感等领域中的应用.侧重于对p∈(0,1]时问题的研究.当p=1时,问题是一个Lipschitz连续的非光滑最优化问题.当p∈（0,1）时,问题是一个非Lipschitz连续的非光滑非凸函数极小化问题.是一个难度较大的问题.在数值算法方面,本文集中于对求解大规模问题数值算法的研究.首先研究求解大规模1正则化问题的数值算法.我们从两个不同的途径研究求解该问题的数值算法.一方面,将求解光滑大规模最优化问题颇受欢迎的谱梯度算法加以改进,利用1正则化问题中目标函数的广义梯度,我们提出一种求解1正则化问题的谱梯度算法,并建立算法的收敛性定理.另一方面,对2-1正则化问题,我们利用问题的特殊性质,将其转化为一个等价的非光滑方程组.该方程组是一个单调、Lipschitz连续的半光滑方程组.在此基础上,我们提出一种求解2-1正则化问题的一种具有低存储量的迭代法.该算法的一个重要优点是算法产出的点列到问题的解集合的距离单调递减,而且,整个序列收敛于问题的一个解.为测试本文所提出的算法的使用效果,我们将算法应用于求解稀疏信号重建和图像恢复等问题,并与求解1正则化问题已有的数值表现较好的算法如GPSR和SpaRSA等算法进行比较,结果表明,本文的算法具有更好的实用效果和数值表现.在对（?）p（p∈（0,1））正则化问题的数值算法研究方面,本文侧重于对求解（?）1/2正则化问题数值算法的研究.这主要是由于大量数值结果表明（?）1/2正则化问题是（?）p（p∈（0,1））正则化问题中具有代表性的问题.我们首先将谱梯度算法的思想应用于求解该问题,提出了求解（?）1/2正则化问题的一种拟谱梯度算法.值得一提的是,本文的拟谱梯度算法不是求解光滑最优化问题谱梯度算法的一种简单推广工作,而是一种改进.由于1和（?）1/2正则化问题是不可微问题,特别,（?）1/2正则化问题的目标函数非Lipschitz连续,其广义梯度不存在,为此,我们构造一个函数使得它在问题中的地位与梯度在光滑最优化问题中的地位相似.在此基础上采用谱梯度法的思想设计算法.我们在适当条件下,证明算法的全局收敛性.本文最重要的一个贡献是导出了求解（?）1/2正则化问题的一个等价的光滑约束最优化问题.该约束问题极小化一个光滑函数,可行域由简单二次不等式约束和非负约束构成.问题的可行域具有非空内部,其KKT点一定存在,而且KKT点与原问题的稳定点相同.该等价性模型的建立为求解（?）1/2正则化问题的数值算法开辟了一条新途径,使得应用求解光滑约束最优化问题的好的数值算法求解（?）1/2正则化问题成为可能.在此等价性模型的基础上,我们提出求解（?）1/2正则化问题的一种可行最速下降方向算法.该算法中的可行最速下降方向具有显式表达形式,因而,算法具有存储量少、计算量低的优点.在较弱的条件下,我们建立算法的全局收敛性定理.我们的数值试验结果表明,所提出的的可行最速下降法具有很好的数值表现.文章还研究ｌ1/2正则化问题的最优性条件.导出问题的解的一阶、二阶必要条件和二阶充分条件.它们是已有结果的一种推广.特别,我们还证明,满足一阶条件的点不会是目标函数的一个局部极大值点.此博士论文用LATEX2ε软件打印.