基于似然惩罚的变量选择方法是一种应用广泛的统计方法。其中常用的凸惩罚如岭回归、LASSO,速度快,解连续,但是是有偏的,不能做到oracle性质,稀疏性不能满足或需要很强的条件；而只有非凸惩罚才能具有oracle性质,但在凹度过大时,由于多个局部最优值的出现而导致相对稳定性不够,且不容易找到好的算法进行局部最优值的选择。所以我们需要控制凹惩罚的凹度。凹度过大,不能做到只有一个全局最优值(或者高维的稀疏凸),或者最终算法不收敛、或者收敛到不是严格局部最优的稳定点、或者多个局部最优值不能渐近到一点,从而相对稳定性较差；凹度过小(如LASSO),有可能选择不出稀疏的变量,或估计的偏差相对较大。我们将在满足oracle性质的前提下,将惩罚的凹度约束条件最弱化,以期在其中找到一个合适的模型,使其在具有预测最好的前提下,尽可能做到选出的变量最少。这里所说的相对稳定性由[7]所定义,即在数据发生很小的扰动时,预测不发生大的变化。相对稳定性在实际应用中受算法本身的稳定点的性质影响,即是否只存在一个全局最优解、高维下在稀疏的子模型中是否只存在一个全局最优解(稀疏凸)、迭代的每一步都是凸的从而算法收敛、解的连续性、多个局部最优解是否渐近趋向于一点、路径上每一个解都是严格局部凸的等。我们通过附加这些算法稳定点性质的限制条件,以间接达到相对稳定的目的。这些条件是对惩罚的凹度的约束。本文中针对各种常用的似然函数,提出一种自适应惩罚函数,其光滑性和(惩罚函数和似然函数的)形状消减可以较好地平衡解的稀疏性和相对稳定性,且同时具有oracle性质。本文的主要内容是提出基于参数或半参数似然函数的自适应惩罚变量选择方法,研究其低维和超高维情形下的理论性质及其应用。针对广义线性回归这一参数模型,本文给出了似然自适应惩罚函数的具体形式,并在低维下建立了相应的理论性质,也就是相合性、稀疏性、oracle性质,在高维下建立了弱oracle性质；针对低维度的情形本文提出了渐近稳定的概念,并证明了惩罚满足渐近稳定的条件；通过严格局部凸的条件的研究,本文发现似然自适应惩罚的形状消减性质；结合CD算法、LLA算法、迭代加权最小二乘和偏离函数的设定,本文给出了一种新型的算法,并证明了一定条件下的算法收敛性；通过低维度下的模拟,本文验证了似然自适应惩罚的oracle性质和形状消减性质,并和其他已有惩罚在选择准确程度,拟合误差、对自变量和交叉验证分割的敏感程度等方面做了比较；我们将似然自适应惩罚代入超高维度下的真实数据验证,结果表明,新的惩罚函数对于该数据能够在相同的预测误差下选出更少的变量,或在选出相同的变量下,具有更小的预测误差。对于半参数模型,本文主要考虑基于回溯性抽样的计数(含二值数据)模型。我们为这种模型基于剖面似然建立了惩罚似然,给出了对应的似然自适应惩罚的形式；给出了惩罚剖面似然存在局部最优值、具有oracle等理论性质所需的条件；我们通过模拟显示了回溯性抽样和前瞻性抽样模型下的变量选择最终解的区别,给出了计数模型在回溯性抽样下的变量选择可以视作前瞻性抽样的变量选择的条件——该计数模型为逻辑型模型,且对于该模型,它的似然自适应惩罚形式与它对应模型在前瞻性抽样下保持一致；我们还提到了另外一种建立惩罚似然的思想,也就是基于剖面似然的泰勒展开形式建立惩罚似然,并提出在回溯性抽样的情形下的算法修正。本文以参数模型为主提出的似然自适应惩罚是一族惩罚,对于广义线性回归绝大部分为凹惩罚。该族惩罚具有某种意义的贝叶斯解释,且比一般的惩罚具有更多好的性质,如算法的有效性,估计量的相合性、稀疏性、oracle性质、低维下的渐近稳定性、高维下的弱oracle性质、对应于似然的形状消减性、惩罚函数的无限可导性。通过随机模拟和实际数据应用,发现新提出的惩罚函数在高维和低维下均有良好的表现。综上所述,新的惩罚具有相当好的理论性质和实际应用价值。