Fokker-Planck方程(FPE)是非平衡动力学系统中的一个重要方程,它在生命系统、化学动力学过程以及非平衡统计物理的研究中都有广泛的应用.在FPE的研究中,研究随机力作用下非线性系统的概率密度演化问题(非定态解和定态解)具有头等重要的意义.其原因首先在于定态解反映了系统的长时间行为,经过各种不同长短的瞬态过程后,系统就会被这种长时间行为所统治；其次在于系统还有许多性质是由非定态解的演化过程所决定的.然而,目前许多文献集中研究非线性系统的定态解,而对多维系统的非定态解以及从非定态到定态弛豫的整个演化过程的研究却很少涉及.本文基于随机力与非线性系统以及非线性动力系统的理论与方法,深入研究高斯噪声诱导下非线性系统在不稳定态附近以及从不稳定态弛豫到稳定态的概率密度演化问题.进一步探讨了高斯噪声在非线性系统演化过程中产生的各种效应及其应用.本文的主要内容和结论为：1研究了非同源高斯噪声激励下非线性系统在不稳定点附近的概率密度演化问题.主要目的是研究高斯噪声诱导的前提下,噪声强度以及噪声自关联时间对系统在不稳定态附近演化过程产生的影响.一维非线性动力学系统所对应的一般形式的郎之万方程可以表示为x=f(x)+g(x)ξ(t)+η(t),其中,f(x)为x的非线性函数,g(x)为x的函数.ξ(t)和η(t)分别为高斯色噪声和白噪声.众所周知,可精确求解的FPE是很少的,只有少部分特殊类型的方程(比如Drnstein-Uhlenbeck(O-U)过程、克莱默斯方程等)才可给出精确的解析解.所以,各种近似手段对处理此类问题就显得更为重要.要得到此模型的非定态解有两个难点：一是色噪声有限的自关联时间使系统形成了对历史的记忆,不再为马尔科夫(Markou)型的；二是确定性部分的非线性性.对此本文首先在扩大空间维数的基础上,将上述模型等效的变形为其次为了研究系统在不稳定态附近的演化行为,运用二阶泰勒展开将二维非线性系统转化为二维线性系统来讨论.并将此近似结果运用于Logistic模型中,计算模拟自洽地说明了系统在不稳定态的演化是瞬时完成的.2分别研究了非同源高斯噪声以及同源高斯噪声驱动下二阶Duffing系统从不稳定态弛豫到稳定态的概率密度演化问题.鉴于不稳定点附近非定态解响应过程的瞬时性不能反映系统的整个演化特性,本部分不仅将上述采用的方法用于研究高斯色噪声和白噪声共同驱动下的二阶Duffing系统x+γx-αx+βx3=xξ1(t)+ξ2(t).而且进一步应用了格林函数的Ω展开理论集中研究了：1)非同源高斯白噪声和色噪声诱导下系统状态变量从不稳定态演化到稳定态的概率密度问题；2)同源高斯白噪声和色噪声诱导下系统状态变量从不稳定态演化到稳定态的概率密度问题.并分析讨论了噪声参数和系统阻尼力对演化过程产生的影响.通过计算模拟给出了这一演化过程的动态过程,并与相关的数值模拟相比较,验证了此近似方法的有效性.