最近的十多年里,在统计中的模型不确定性和金融中的风险度量和超对冲问题的推动下,人们提出了各种各样的风险度量,比如1999年Artzner等四人提出的相容风险度量,2002年Follmer和Schied提出的凸风险度量和Gianin提出的概率不变风险度量,以及2006年Song和Yan提出的共单调相容和共单调凸风险度量.其中对于相容风险度量,目前已有很多的研究成果.2006年,Peng引入了一种新的非线性期望-次线性期望.这一期望具有单调性、保常性、次可加性和正齐次性.它对应于某一相容风险度量.在这样一种次线性期望下,Peng通过下面的偏微分方程引入了G正态分布的概念,其中u是一定义在[0,∞]×R空间上的实值函数,φ是定义在实数域上的实值、有界和Lipschitz连续的函数.其中α+=max{0,α),α-=max{0,-α},它们和σ及σ都是非负常数,而且σ≤σ.G正态分布是经典的正态分布在次线性期望下的推广.2007和2008年Peng在他的两篇文章中给出了次线性期望下的大数定律和中心极限定理,指出次线性期望下的极限分布是G正态分布.这表明G正态分布同经典的正态分布一样重要.Peng还介绍了一给定次线性空间下的G布朗运动,与经典的布朗运动类似,它是一服从G正态分布且具有平稳独立增量的连续的过程,这时次线性期望被称为G期望.在G期望的框架下,Peng在2006年建立了一种新的伊藤随机积分和随机微分方程理论.与经典理论类似,在G期望下也有伊藤公式.对于此公式,Peng在2010年,Gao在2009年以及Li和Peng在2009年分别给出了它的推广的一般公式.Peng还介绍了一种由G布朗运动驱动的随机微分方程(简记为G-SDE).比如对于下面的随机微分方程(见Peng(2010))Peng证明了其解在空间MG2(0,T)中是存在唯一的.其中T和x都是给定实数,且T> 0. (Bt)t>0是1维G布朗运动,(<B>t)t≥0是对应于此布朗运动的二次变差过程,是给定的函数,记ψ=b,h,σ,则满足下面的条件：(A1)对于任意的x∈R,ψ(·,x)属于随机过程空间MG2(0,T).(A2)ψ是关于x一致Lipschitz连续的,即存在常数K使得与经典类似,对于G布朗运动驱动下的随机微分方程的解的存在和唯一性问题,在其他条件也有相应的结果,我们可以参考Lin (2006), Jing (2006)以及Bai和Lin(2010)等一些文章.特别是2009年Gao在假设(A2)以及系数与t和ω无关的条件下证明了随机微分方程(2)的解是连续的,并给出了一些很好的性质.其他的一些有关G期望的理论我们也可以看Hu和Peng (2009), Li和Peng (2009)及Bai(2009)等一些文章.在这篇博士论文中,我们将主要关注以下问题：1.在假设(A1)(A2)及系数与ω无关的条件下,G-SDE (2)的弱解是否存在且唯一?2.在与1相同的的条件下,G-SDE (2)的弱解与某类偏微分方程之间有什么关系吗?3.在G期望下是否还可以给出与经典类似的某一非线性Dynkin公式?4.如果非线性的Dynkin公式存在,那么它在计算中有什么应用?这篇论文包含三章的内容.第一章回顾了有关G期望、G布朗运动和G期望下的随机积分、伊藤公式、随机微分方程、非线性Feymann-Kac公式等基本知识以及一些相关的引理.第二章主要研究上面的提到的前两个问题,而第三章则研究后两个问题.现在我们给出第二章和第三章的主要结果.第二章：我们知道在经典的随机微分方程理论中(可参考(?)ksendal (1998),(?)ksendal (2003), Mao (1997), Ikeda和Watanabe (1989), Evans (2006)和Sobczyk (2001)等),当布朗运动给定时我们可以定义强解的概念.而且Tanaka公式告诉我们强解有时候是不存在的,但是我们可以有另一种解,称为弱解.弱解就是在布朗运动没有事先给定时的一种解.那么类似地,在第二章就来研究一下在G期望的框架下的随机微分方程的弱解问题.我们定义了强解和弱解的概念.为了证明弱解的存在唯一性,我们引入相似的概念以表示不同G期望空间下的随机向量和随机过程之间的关系.我们证明了在假设(H1)和(H2)下随机微分方程(2)的弱解是一致相似的.另外对于给定布朗运动的方差不确定性区间时,弱解是有限维弱同分布的.在2006年和2010年的文章中,Peng引入了G期望下的正倒向随机微分方程,并利用粘性解理论给出了非线性的Feymann-Kac公式用以描述正倒向随机微分方程的解与一类非线性偏微分方程之间的关系.我们借用Peng的证明方法给出了弱解的分布与一类非线性偏微分方程之间的关系.主要结论叙述如下：定理2.4.1在假设(H1)(H2)下,随机微分方程(2.1)的满足初值X0=x∈R的弱解Xt是弱唯一的.推论2.4.2在假设(H1)(H2)下,如果x∈R,和σ≥σ≥0给定,则方程(2.1)的满足的弱解是弱唯一的,即如果Xt1和Xt2是满足我们的条件的两个弱解,那么(Xt1)和(Xt2)是有限维弱同分布的.定理2.5.1假设(H1)(H2)成立,并假设方程(2.1)的所有的系数都是与时间t无关且可被常数K界住的.令过程(Xt0,x)t∈[0,T]是方程(2.1)的弱解,(Bt)t≥0和E分别是相应的G布朗运动和G期望.对任意的(?)我们令那么u是下面的偏微分方程的一个粘性解：其中σ2和σ2分别是B1的下方差和上方差,定理2.5.4假设(H1)(H2)成立.令是方程(2.1)的一个弱解,我们假设u,σ2,σ2和G与定理2.5.1同样定义.那么u是下面方程的一个粘性解：第三章：在随机微分方程理论中,扩散过程是一十分重要的过程,其在随机控制和金融数学等领域中有着重要应用(可参考Yong和Zhou(1999)).那么在G期望下,扩散过程又有着什么样的性质呢?这是个很有趣的问题.我们可以发现它们仍然是马尔科夫的.在这一章中,我们研究了扩散过程的最小算子AG,其定义与经典类似.我们给出了四种条件下的算子的表示定理.我们还研究了由G伊藤过程Xt产生的过程f(Xt)的性质,并给出了与算子AG相关的G鞅.另外,对于经典理论而言,Dynkin公式可以由伊藤公式很自然地得到,但是在G期望下,由于其非线性性Dynkin公式一般不成立.不过我们却是可以给出一非线性的Dynkin公式.并用其推论给出了在非负整数n,非负实数t和实数x给定情况下(?)的一个估计区间.主要结论叙述如下：定理3.2.1 f∈DG,且对任意给定的实数x,我们有定理3.2.2如果我们去掉系数a,b和c的有界性条件,并假设f∈C2(R)满足(?)xx2f有界Lipschitz连续性条件,代替f∈Cb2(R),那么定理3.2.1仍然成立.定理3.2.3我们假设(Xt)t≥0是G-Ito扩散过程并且其满足的G-SDE(3.1)满足系数是有界一致Lipschitz连续性条件.那么对于所有的满足(?)xx2f多项式增长的函数f∈C2(R),即存在一个常数C和正整数n使得对任意的实数x有Xt的生成元的表示定理3.2.1仍然成立.定理3.2.4假设Xt是G-Ito扩散过程,并设f∈C2(R)满足(?)xx2f是局部Lipschitz连续的,即对任意的m≥1存在常数Lm使得对所有的满足|x|≤m和|y|≤m的实数x和y,有而且设对(?)和(?)过程φ(X)ψ(X)是一致均方连续的,即那么(?)在LG1(Ωt)中有如定理3.2.1的表示定理.定理3.3.2设实函数f∈C2(R)和(?)扩散过程(Xt)t≥0满足下面的两个条件之一(ⅰ)(?)xx2f是一致增长的,过程Xt满足的方程的系数都是有界的.则如下定义的过程是上均值为f(x)的G鞅.而且,我们有下面的分解形式其中Mt是LG1(Ωt)中上均值为0的G鞅,Mt是上下均值为0的G鞅.定理3.4.4假设函数f和过程Xt如定理3.3.2中一样定义,则我们有下面的结果:(1)f(Xt)是G鞅(resp. G-上鞅,G-下鞅)当且仅当(2)f(Xt)是没有均值不确定性的G鞅当且仅当下面的条件之一成立：推论3.4.5假设函数f和过程(Xt)t≥0满足定理3.3.2中的条件,则按定理3.3.2定义的过程Mt是没有均值不确定性的G鞅与下面的两个条件都等价：(1)对任意的t≥0,在LG1(Ωt)中Mt=0.(2)σ=1或对任意的t≥0,在LG1(Ωt)中定理3.5.1(非线性Dynkin公式)假设函数f∈C2(R)和G-Ito扩散过程(Xt)t≥0(初值为X0=x∈R)满足下面的条件之一：(ⅰ)(?)xx2f是多项式增长的,过程Xt满足的G-SDE的系数都是有界的.则对任意的t≥0,我们有其中是上均值为0的非正的G鞅.推论3.5.3过程Xt和函数f如定理3.5.1一样定义,那么我们有,对任意的t≥0,其中,当σ=1时,两边同时取等号,当定理3.5.1中定义的过程Mt没有均值不确定性时,右边取等号.定理3.5.4对任意给定的整数n≥1和任意的非负数t,我们有下面的估计不等式