假设概率是可加的或者期望是线性的是经典概率论的基础.然而很多不确定性现象不能由这种可加性或线性性来刻画,所以这种假设在众多应用领域是不可行的.例如,著名的Allais悖论说明Von Neumann&Morgenstein期望效用理论需要被修正,Von Neumann&Morgenstein期望效用理论是现代经济学的基础,而悖论正是因为概率是可加的或者期望是线性的造成的.因此,受经济数学,统计学,工程学,金融学中不确定性问题的启发,许多文献开始用非可加概率和非线性期望来描述和解释问题.自从文献[1]提出一致风险度量后,人们对次线性期望(更一般的,凸期望)越来越感兴趣.大体的说来,次线性期望是一个定义在线性随机变量空间上的满足单调性,保常性,次可加性,正齐性的实值函数.一个次线性期望E可以表示成一族线性期望{Eθ：θ∈Θ}的上期望,也就是说,E[X]=supθ∈Θ E0[X](参考文献[62]).一般情况下,这可以表示不确定模型下的一族概率{Pθ：θ∈Θ},因此,次线性期望的概念提供了一个稳健的方法来衡量风险损失XPeng在文献[59,60,61,62,63]中提出了次线性期望空间中独立同分布的概念.对应于线性情况下的正态分布和布朗运动,他同时提出了的G-正态分布和G-布朗运动的概念.在这个框架下,Peng在文献[62]证明了大数定律和中心极限定理Peng在文献[59]中构造了G-期望空间,该空间在非线性概率中充当着经典概率论中Wiener空间的角色,可以说是最重要的次线性期望空间.在G-期望空间中,Peng引入G-Ito积分的概念,得到了G-Ito公式(参见文献[44,59]).本文的第一章和第二章分别研究上期望空间中独立随机变量的不等式和强大数定律；第三章和第四章将研究G-期望空间中G-布朗运动重对数律的不变原理和多重G-Ito积分.另一类重要的非线性期望是g-期望,它是由Peng在文献[57]中通过一类有限时间区间上的倒向随机微分方程(Backward Stochastic Differential Equa-tion,简记为BSDE)引进的,g=9(ω,t,y,z)：Ω×[0,T]×R×Rd→R为BSDE的生成元.经过最近二十多年的发展,倒向随机微分方程理论已经逐渐成为概率论,随机分析理论中的一个独特而重要的分支.特别是其在随机最优控制,随机微分对策,金融数学,经济学和偏微分方程理论中的重要应用,吸引了大批的数学家,经济学家和金融学家加入到其研究的行列.g-期望和条件g-期望保持经典数学期望及条件期望除了线性性以外的其它很多性质(参考文献[57]).他们的非线性性由其生成元g刻画.g-期望成为一个典型的具有时间一致性的非线性期望,在动态风险度量和非线性动态定价方面有着重要的应用(参考文献[10,27,34])Peng(1999)利用条件g-期望的概念引进了g-鞅、g-上鞅、g-下鞅的概念,同时证明了非线性的Doob-Meyer分解定理(参考文献[58]).Hu和Chen在文献[33]中拓展了Peng引进的g-期望的定义范围并得到了相关的性质.本文的后两章主要研究倒向随机微分方程理论和g-期望空间中的一些基本问题.本文共分为六章,以下是本文的结构和得到的主要结论.(Ⅰ)第一章主要研究上期望空间中独立随机变量序列部分和的不等式.Borel-Cantelli引理是经典概率论中最基础的引理之一,参考文献[9,11,12]研究了容度下的Borel-Cantelli引理.第一章我们首先给出了容度下条件更弱的Borel-Cantelli引理.引理1.2.5Borel-Cantelli引理.是F中的事件序列,(V,v)是由概率族P生成的上-下概率.(1)如果(2)若对任意的n,m∈N*,如果则(3)若v(·)是下连续的,并且对任意的n,m∈N*,如果则设{(?)是上期望空间(Ω,F,P,E)中独立的随机变量序列,且对(?)i∈N*,有E[Xi]=ε[Xi]=0成立代表的部分和过程,也就是说定义符号和下面我们列出在本文第一章中得到的上期望空间中独立随机变量序列部分和的最大不等式,指数不等式和Marcinkicwicz-Zygmund不等式.定理1.3.1最大不等式.假设f是R上非降的函数,并且f(0)=0,则对任意的n,j∈N*,特别的,对任意的λ>0,定理1.4.1指数不等式.设是一列正实数.若对任意的i∈N*有|Xi|≤Gi.则对任意ε≥0我们有以下两式成立.定理1.4.3若对任意的i∈N*有|Xi|≤c<∞,则对任意的r>1/2,n-rSn→0q.s.,定理1.4.4是正实数列,并且对任意的i∈N*有｜Xi｜≤ci.如果则对任意的r>0,我们有n-rSn→0q.s..定理1.5.2Marcinkiewicz-Zygmund不等式.对p∈(1,2],我们有定理1.5.3是一列正常数,p∈(1,2],‖Xj‖p<cj,则对任意的ε>0,我们有定理1.5.4是一列正常数,p∈(1,2],‖Xj‖p<cj.则我们有如果下面条件有一条成立,是使得pr>1的正数;其中α,r是使得pr-1>α的正数.(Ⅱ)在第二章,我们将用新的方法来研究容度下的大数定律.我们得到了一系列强大数定律的结果,它们都是经典Kolmogorov强大数定律的推广.设X1,X2,…,Xn+1是上期望空间(Ω,F,P,E)中实可测的随机变量.Xn+1称为在上期望E[·]下垂直独立于(X1,…,Xn),如果对R上使得E[φi(Xi)]<∞,i=1,…,n+1都成立的非负可测函数{φi(·)}i=1n+1,有如果对每一个n∈N*,Xn+1都垂直独立于(Xi,…,Xn),则我们称是垂直独立的随机变量序列.我们得到的容度下的强大数定律如下所示.定理2.3.1强大数定律.给定上期望空间(Ω,厂,P,E),是在E[·]下垂直独立的随机变量序列.如果存在着α>0使得并且令则我们有(Ⅰ)和更进一步地,假设v(·)是下连续的,对任意N*的子列关于容度v(·)独立,并且存在着n0∈N*,c0>0使得则我们有(Ⅱ)更有意思的是,利用我们的强大数定律可以得到Strassen形式的容度下大数定律的不变原理(参考文献[68]).定理2.3.4对任意R上的连续函数φ(·),在定理2.3.1的假设下,我们有在第一章的最后我们将容度下强大数定律应用到模糊条件下的Bernoulli试验中,得到了模糊条件下Bernoulli试验频率的极限特征.(Ⅲ)第三章采用Peng提出的次线性期望中独立同分布的概念,研究G-期望空间中G-布朗运动重对数律的不变原理,同时还得到了关于独立或同分布随机变量的一些性质.令E,ε表示G-期望E[·]对应的上-下期望.我们得到以下命题.命题3.2.13X和Y是G-期望空间中两个实值的连续随机变量.如果X=Y,那么其中φ(x)=IA(x),A是闭区间的有限并或者是开区间的有限并.命题3.2.14X和Y是G-期望空间中两个实值的连续随机变量.如果X=Y,那么其中φ(x)=IA(x),A是闭区间的有限并或者是开区间的有限并.命题3.2.16在G-期望空间(Ω,LG1(Ω),E)中,X,Y是两个实值的连续随机变量,并且Y在E[·]下独立于X.如果A,B同为有限闭区间的并,或者A,B同为有限开区间的并,那么,和设{B(t)}t≥0,是G-布朗运动,也就是说,我们只考虑非退化的情形,即旦>0.定义令C([0,1])表示在上模‖·‖下的从[0,1]到R上连续映射的Banach空间.ζn是取值于C([0,1])的随机变量.对任意的β≥0,定义对于任意的ω,C(ζn(ω))表示的极限点的集合.C(ζn)是一个随机集.在本文中,在不引起歧义的条件下我们经常为了符号的简洁,对ω省略不写.定理3.3.1令C(ζn)表示{ζn}n=3∞聚点的集合,则更一般的,我们得到如下所示的G-布朗运动重对数律的不变原理.定理3.3.4设φ是从C[0,1]到Hausdorff空间H的连续映射,则我们有(Ⅳ)在第四章中,我们定义了空间L2([0,T]n)中对称函数的多重G-Ito积分,并且找到了多重G-Ito积分和Hermite多项式的关系.为了构造合理的多重G-Ito积分的定义,我们首先引进下面的函数空间,对n∈N*：中的对称函数},其中对任意定义在Sn:=((x1,…,xn)∈[0,T]n：0≤x1≤x2≤…≤xn≤T}(n∈N*)上的函数f,定义对我们可以如此定义n次迭代的G-Ito积分：为了更加的完备和方便,定义注意到对任意的g∈L2([0,T]n),我们有受此启发,我们给出了多重G-Ito积分的定义.定义4.3.1对每一个9∈L2([0,T]n),定义同时对每一个c∈R,定义U0T(c):=0!0T(c)=c.令Hn(x)表示n阶Hcrmite多项式,我们引入一个两维的多项式函数hn(x,y),对n∈N,(x,y)∈R2,从而我们得到多重G-Ito积分和Hcrmitc多项式之间具有如下所示的关系.定理4.4.1设g0=1.对任意的f∈L2([0,T]),n∈N,令gn(t1,t2,…,tn)=f(t1)f(t2)…f(tn).则gn∈L2([0,T]n)且对n=0,1,2,…,其中且是非负的随机变量.利用上面的定理,我们给出了一个计算∫0T∫0tn…∫0t2dBt1…dBtn-1dBtn的一般公式.推论4.3.3其中[x]表示比x小的最大的整数.(V)第五章主要研究多维的倒向随机微分方程.我们在Rn上定义了一类全序关系,并且给出了多维倒向随机微分方程在该类全序关系下的比较定理.定义5.3.1设q∈Rn是给定的非零向量.对任意的y1,y2∈Rn,如果(y1,q)≥(y2,q),则称y1在q下大于(或者优于)y2,记为显然,y1(?)qy2当且仅当所以不失一般性,我们在第五章都假设q是单位向量.对任意的0≤u≤T,考虑下面两个BSDEs,定理5.3.3设g1和g2满足条件(A1)-(A3):(A1)对任意的(y,z)∈Rn×Rn×d,t→g(t,y,z)是连续的,P-a.s.;(A2)存在着常数μ>0,使得对任意的t∈[0,T],(y,z),(y’,z’)∈Rn×Rn×d,都有(A3)g(t,0,0)∈ST2.则下面(ⅰ)和(ⅱ)是等价的:()对任意的u∈[0,T],ξ1,ξ2∈L2(Ω,Fu,P；Rn)使得则BSDEs(0.2)在时间区间[0,u]上Su2×Hu2中的唯一的解(Y1,Z1)和(Y2,Z2)满足(ⅲ)对任意的t∈[0,T],(y,z),(y’,z’)∈Rn×Rn×d,我们有其中C>0是不依赖于(t,y,z)的常数.关于特定的全序关系(?)q,我们还得到一些更进一步的结果.(Ⅵ)第六章我们研究g-框架.为了研究了g-上鞅的性质,我们定义了与经典位势相对应的g-位势的概念,并且证明了g-上鞅的Riesz分解定理.在不假设g独立于y的前提下,我们找到了拓展后的g-期望是次线性期望的充分必要条件.定义6.2.6轨道右连续的非负g-上鞅{Xt}t≥0如果满足则称{Xt}t≥0为g-位势.定理6.2.9g-上鞅的Riesz分解定理.设{Xt}t≥0为右连续的g-上鞅,其中g满足下面的条件(H1)-(H4)：(H1)对(?)(y,z)∈R×Rd,g(·,·,y,z)是循序可测的,且(H2)g满足以下Lipschitz条件：存在非随机的非负函数v(t),u(t)使得dP×dt-a.s.,(?)(yi,zi)∈R×Rd,i=1,2,进一步的假设g满足超线性性,即：dP×dt-as.,(?)(yi,zi)∈R×Rd,i=1,2有下式成立若则Xt可分解为g-鞅与g-位势之和,即存在g-鞅Yt,g-位势πt使得Xt=Yt+πt.记其中是Rd值循序可测的过程并且dP×dt-a.s.,(?)(y,z)∈R×Rd,θt·z≤g(t,y,z)}.下面是我们得到的扩展的g-期望是次线性期望的充分必要条件.定理6.3.8设g满足(A1)-(A3)：(A1)对任意的(y,z)∈R×Rd,g(·,y,z)是循序可测的过程;(A2)存在着常数μ>0,使得P-a.s.;(?)t∈[0,T],(?)(y,z),(y’,z’)∈R×Rd,|g(t,y,z)-g(t,y’,z,)|≤μ(|y-y’|+|z-z’|).(A3)g(t,y,0)三0.则下面的结论等价:(ⅰ)εg[·]是L(Ω,FT,P)上的次线性期望.(ⅱ)存在FT上的概率测度集Q,使得(ⅲ)g独立于y且关于z次线性.