非光滑优化又称不可微优化,由于不具有连续可微的性质,传统的最优性条件和基于微分(梯度)概念的优化理论和方法已经不再适用于非光滑优化问题。所以要对经典的微分概念进行推广,建立各种广义微分概念,然后基于广义微分的理论建立相应的最优化理论如非光滑优化问题的最优性条件,最后进行算法的研究。Hilbert空间是一个完备的内积空间,其上所有的柯西列都是收敛列,从而微积分中的大部分概念都可以无障碍的从Rn空间推广到Hilbert空间中,Hilbert空间是基于任意正交系上的多项式表示的傅里叶级数和傅里叶变换的一种表述。本文主要研究Hilbert空间上的非光滑优化的最优性条件和算法。首先将Rn空间上凸函数的次微分和局部Lipschitz函数的广义梯度以及拟可微函数的拟微分的概念推广到Hilbert空间中去,然后根据概念和相应的运算性质建立Hilbert空间中的非光滑优化的最优性条件。最后根据推广后的最优性条件,对Hilbert空间中非光滑优化问题的ε次梯度法,增量次梯度法和外接长方体算法中的某些步骤进行了改进,使其更加简便易行。