在随机微分方程理论中,稳定性研究一直是个热门课题。学者们采用了很多不同的方法和技巧对稳定性问题进行深入的讨论,并得到了大量有用的结果。他们的工作有相当多一部分是将常微分方程中的常用的定理和方法推广到随机微分方程中,从而为随机微分方程的研究提供一些有效且有益的工具。自然地,人们希望在常微分方程中发挥巨大作用的LaSalle定理也能应用于随机微分方程的讨论中,但遗憾的是,在过去很长一段时间里,将LaSalle定理进行改造使之能够适用于随机微分方程的工作一直未能得到实质性的突破。直到上个世纪末,才由英籍华裔教授Mao(毛学荣)做了开创性的工作。他成功地建立起了随机微分方程的LaSalle定理,并运用他所建立的随机LaSalle定理来分析随机微分方程,取得了较为丰硕的成果。Mao所建立的随机LaSalle定理能够很好地用于分析随机延迟微分方程和随机泛函微分方程的各种渐近性质。不过对于更具一般性的中立型随机泛函微分方程,他所建立的LaSalle定理出现了瓶颈。因为中立型方程特有的中立项,给分析问题带来了不小的困难,Mao的结论并不能直接用于该类方程的讨论。为了解决这个问题,本文借鉴Mao建立随机LaSalle定理的思想和方法,通过对中立项的相关条件进行特殊的处理,建立了中立型随机泛函微分方程的LaSalle定理,并借助于建立的随机LaSalle型定理,分析了方程的解的稳定性、吸引子、有界性等渐近性质,得到了一系列的新的结果。我们注意到,在研究方程解的渐近性质的大量文献中,人们往往只能得到方程的解将趋于某一个区域的结论,而对解趋于这一区域的速度快慢却缺少细致分析,这就不能满足应用上多方面的需要。为了解决这个问题,我们在讨论中引入了一类“ψ函数”作为辅助工具。我们将“ψ函数”与方程的解的乘积当作一个整体,并考虑整体的渐近性质。在得到了该乘积的渐近性质后,我们可以借助于有确定表达式的“ψ函数”与方程的解函数的相对比来揭示解趋于某特定区域的速度,从而使得我们能够更为细致地了解方程的解的性质。与之相应地,我们建立了“ψ函数稳定”的概念,这是一种更具有一般性的稳定:指数稳定和多项式稳定仅是其的特例之一。我们通过对几类方程的讨论,将不同的渐近稳定性借助于“ψ函数”归结为一种“ψ函数稳定性”。需要提到的是,这种新的更具一般性的稳定性为建立除指数稳定性和多项式稳定性等常见稳定性之外的新的稳定性提供了可能。此外,我们还同时建立了“ψ函数稳定”的若干判别标准。我们应用半鞅收敛定理、随机微积分的相关知识以及矩不等式、Burkholder-Davis-Gundy不等式和Gronwall不等式等技巧,得到中立型随机泛函微分方程的解与特定的“ψ函数”的乘积在一定的条件下将趋向某非空集合这一结论,并建立了该中立型方程的随机LaSalle型定理。在紧随其后的稳定性、吸引子和有界性等渐近性质的分析中,我们均利用了类似的方法和工具,所得到的主要结果可以视为某种随机的LaSalle型定理。最后我们对两类Markov调制的随机微分方程进行了讨论。对于Markov调制的中立型随机泛函微分方程,我们建立了随机LaSalle型定理,从而将我们的工作推广到一种更为一般的的方程之上。而对于Markov调制的随机延迟微分方程,我们建立了р阶矩“ψ函数稳定”的判别标准,这可以视为本文主要涉及到的几乎必然“ψ函数稳定”的一个补充。同时,通过矩稳定推出的几乎必然稳定,可以看作应用LaSalle定理去分析渐近稳定的一种参照。