本文主要讨论了非线性不适定问题数值求解及在近场光学问题中的应用.第一章是绪论,介绍了散射问题和反散射问题的数学模型和常见方法,近场光学的模型,以及不适定问题的概念和正则化方法.第二章主要介绍谱截断矩量法的相关理论及其在处理严重不适定问题中的应用,特别是在近场光学问题中的应用.通过数值计算可以看到,相比常规的正则化方法,比如Tikhonov正则化,矩量法等,谱截断矩量法处理严重不适定问题更为有效.第三章主要介绍无穷维非线性不适定问题的同伦方法.使用同伦方法主要需要解决两个问题：一是同伦曲线的存在性;二是同伦曲线的数值跟踪方法.该章主要讨论了无穷维不适定问题的两种同伦方法,分别是带Tikhonov正则化的同伦和无导数同伦,并给出了同伦曲线的几种跟踪方法.在跟踪过程中,为提高计算效率,还提出了自适应跟踪技巧.1.近场光学的数学模型近场光学是上世纪80年代以来出现的一个新兴学科,突破了传统光学的分辨率极限.近场光学显微镜有三种主要的模型：近场扫描光学显微镜（NSOM）[23],全内反射显微镜（TIRM）[24,25],以及光子扫描隧道显微镜（PSTM）[26,27].NSOM有两种主要类型：照射模式（illumination mode） NSOM和接受模式（collection mode） NSOM照射模式NSOM中具有细小的光学探针,其尖端的孔径远小于光的波长,探针作为光源在被观察物体（散射体）的近场区域扫描,散射场将被探测并记录.接受模式NSOM的被观察物体由在远场的光源照射,其探针在被观察物体的近场区域探测总场（或散射场）.我们知道,当光线以大于临界角度射入一个棱镜时,光线会被发生全内反射现象,这时将产生倏逝波.全内反射显微镜（TIRM）由全内反射产生倏逝波,被观图1模型问题的几何结构.散射体q（x）位于紧集D内,探针在r：=｛x=（x1,x2）：x2=b>0,-L<x1<L}上探测,Ω（?）R12为包含D和r的紧集.察物体由倏逝波照射,并在远场探测散射场.光子扫描隧道显微镜（PSTM）可以看作是NSOM和TIRM的结合,被观察物体由倏逝波照射,并在近场探测散射场.我们主要给出光子扫描隧道显微镜（PSTM）的数学模型.假设被观察物体（散射体）置于均匀介质基座上,基座足够厚所以我们只考虑基座的一个面.在模型中,只考虑TM（transverse magnetic）极化情形,且不考虑探针的影响,如图1所示.以基座的面作为空间的分界面,设下半空间的折射率为n0,上半空间在除散射体外的部分折射率为1[19,28].即等价地,可认为背景物质由双层介质组成,其折射率为其中x=（x1,x2）,n0>1.记散射体为q（x）,位于紧集D（?）碾R+2=｛x=（x1,x2）：x2>0}内,其中q（x）/4π为散射体的极化率（susceptibility）[19]以时谐平面波作为入射波,从下半空间入射,其中k0为真空中波数.总场u满足Helmholtz方程记uref为参考场,即无散射体q时的总场,易知其满足Helmholtz方程：由方程（2）以及界面的连续性条件,我们可以得到参考场的解析表达式其中和分别为透射波和反射波[28-30],其中易见当|α|>k0时,发生全内反射现象,透射波ut变为倏逝波,在xx方向指数衰减.定义散射场us=u-uref,由（1）,（2）可得同时散射场还要满足辐射条件[28,31]其中∑R为圆心在原点半径为R的圆周,v是∑R上的单位外法向量.2.谱截断矩量法及其应用2.1谱截断矩量法谱截断矩量法是一种易于实现的方法,形式上看,它是矩量法与谱截断的结合.设Y=C[a,b],X为Hilbert空间,K：X→Y为有界线性算子,且是的.假设算子方程Kx=y存在唯一解,a≤s1＜s2＜…＜sn≤b为配置点,Xn（?X为n维子空间,则有配置方程由Riesz定理,存在kj∈X,使得取Xn=span{kj,j=1,…,n},则形成求解矩量解的线性代数方程组其中之后对系数矩阵进行奇异值分解（SVD）：其中U,V都是酉矩阵.且有以及其中λ1≥λ2≥…≥λn≥0对选定的正整数K（1≤K≤n）,记α（δ）:=∧2≥λK2,Σ=diag（λ1-1,λ2-1,…,λK-1,0,…,0）,则（6）的谱截断解为记则xnα（δ）（δ），δ为问题Kx=y的谱截断矩量解（moment solution with truncated SVD）.对谱截断矩量法,我们有如下的误差估计：定理1.设{s1（n）,…,s（n）}（?）[a,b],n∈N为配置点列,子空间a是问题（6）以β为右端项的解,假设存在z∈Cn,|z|≤E,使得a=A*z,则设常数c>0,取^=（?）cδ/E有为最优阶估计,其中2.2谱截断矩量法在近场光学线性化问题中的应用我们首先求解近场光学的线性化问题,即Born近似下的近场光学反问题.具体地,我们要从方程中求解散射体q（x）.注意到我们仅仅能在线段Γ={x:x2=b,-L＜x1＜L}上探测到散射场数据,所以我们在{x:x2=b,-∞＜x1＜∞}\Γ上将us补充定义为0.这里我们假设当L充分大时,补充定义的us与真实值的误差充分小,即有‖us-uexacts‖＜δ1,其中δ1依赖于L.由于散射数据与α有关,在反演散射体q（x）时我们需要多个角度入射.于是,有将基本解G（x,y）和ut的表达式代入方程（11）,注意到us依赖于参数α,方程（11）可写为在方程（12）的两端同时乘以e-iωx1并关于x1从-∞到∞积分,有注意到（13）可化为注意到（14）可化简为（15）当|ω|＜k0以及|α|<‰＜k0时,β1和γ都是实数;当k0<＜|α|＜n0k时,γ是纯虚数;当|ω|>k0时β1也纯虚数.所以,积分方程（15）的求解既涉及到有限区间上的Fourier逆变换,又涉及到有限区间上的Laplace逆变换.而有限区间上的Fourier逆变换和Laplace逆变换都是不适定的,特别地,Laplace逆变换是指数度不适定的（参见2.1.2节与文献[53]）.我们使用谱截断矩量法,就在一定程度上避免了计算机最小精度的限制.我们将二维的积分方程（15）分解为两个一维问题.这样计算效率会显著提高,计算中所占用内存也会大幅度下降.在计算其中第一个一维问题时,我们采用谱截断矩量法（moment method with truncated SVD）,这样我们可以在一定程度上减少对计算机最小精度的依赖,并获得更好的分辨率.首先,对每个ω-α=c（k）,k=1,2,,积分方程（15）化为一维问题,对每个k,我们可以求解得到q（c（k）,y2）;需要注意的是,在求解每个q（c（kl）,y2）,k=1,2,时,对不同的k,要选取不同的ω.如果我们有n个不同入射角,对应于αj,j=1,…,n,则对k=1,2,选取ωj=αj+c（k）,j=1,…,n我们设所有的ωj包含于集合[-W,W]中.第二步,通过有限区间上的Fourier逆变换,由q（c（k）,y2）得到q（y1,y2）经过以上两步计算,得到线性化问题（10）的数值解.以上两步的计算均是不适定的,特别第一步的不适定性更严重,一方面是Laplace逆变换的不适定,另一方面是探测数据的不完整（只在Γ上有限个点做探测）,我们将数据缺失作为一种扰动来处理.下面我们给出求解积分方程（15）的具体方法.首先,我们对每个k,k1,2,…,求解算子方程其中（17）记由于k（ω,y2）∈L.（[-W,W]×[0,b]）,显然K:L2[0,b]→L2[-W,W]为紧算子设Xn（?）L2[0,b]为有限维子空间,其维数dim Xn=n设0≤ω1ωn≤b为配置点,其中ωj=αj+c（k）,j=1,…,n于是配置方程为其中则qn∈Xn为问题（18）的配置解.选择Xn的基底为{Φj,j=1,…,n},则qn（c（k）,y2）可表为则系数aj为线性代数方程组的解,其中对于不适定问题（19）,对右端数据β很小的误差扰动都会使解不稳定,而我们只能在线段Γ探测数据,我们将数据的缺失也作为扰动来处理,即设有‖us-uexacts‖＜δ1为方便记,我们设带有噪声的探测数据为βδ,并设|β-βδ|<δ,其中δ包含了δ1的影响,这里的范数|·|为Cn空间的Euclidean范数.我们使用谱截断矩量法求解问题（18）.则Riesz定理,其中-表示复共轭.如果kj,j=1,…,n线性无关,即系数矩阵Ai,j=（kj,ki）的行列式不为0,则问题（18）存在唯一的矩量解qn设A的奇异值分解为其中λ1≥…≥λn≥0,取正整数K（1≤K≤n）,记α（δ）:=∧2≥λk2, Σ=diag（λ1-1,λ2-1,…,λK-1,0,…,0）,则于是（18）的谱截断矩量解为于是由定理1,可以得到关于近场光学线性化问题的误差估计：定理2.设{ω1（n）,ω2（n）,…,ωn（n）}（?）[0,b],n∈N,为配置点列,假设存在z∈Cn,|z|≤E,使得a=A*z.qn～δ是问题（18）的谱截断矩量解,则有如下的误差估计如果对常数c>0,取∧=cδ/E,则有其中由谱截断法,可以选取合适的^,使得δ/Λ有界.除了选取∧=cδ/E外,我们还可以针对不同问题,更灵活地加以选择,比如可以选取∧=δα,0＜α＜1,这时有δ/∧+∧|z|～δ1-α+cδα由上面的方法求解得到q（c（k）,y2）,k=1,2,后,可以利用Fourier逆变换公式,通过数值积分得到q（y1,y2）由Parseval公式,有‖qn～δ-q‖L22（D）=‖qn～0-q‖L22（D）/（2π）数值实验表明该方法快捷,可靠,即使在噪声数据下也可以获较为满意的分辨率.3.无穷维非线性问题的同伦方法及其应用3.1带Tikhonov正则化的同伦我们将无穷维空间的同伦方法与Tikhonov正则化结合到一起,构造一种解决无穷维不适定问题的同伦方法.设X,Y为Hilbert空间,考虑非线性不适定问题其中F:D（F）（?）X→Y为非线性不适定（紧）算子.构造极小化泛函其中x0∈D（F）,A（λ）:X→X为依赖于参数λ∈[0,1]的算子.注1.若取A（λ）=1-（1-α）λI,易见λ=1时,（25）恰为Tikhonov泛函.若同伦曲线存在,我们将得到问题（24）的Tikhonov正则化解.假设F于D（F）内对任何x都Frechet可微,则对任何h∈X,有当时,J将取得极小.于是,我们得到极小化泛函（25）的法方程：注2.对A（λ）=√1-（1-α）λI的情形,有恰为求解（24）的Tikhonov正则化解的不动点同伦.对于A（λ）=√1-（1-α）λI的情形,我们得到带Tikhonov正则化的不动点同伦：定理3.设D（F）为有界连通开集,F（x）∈C2（D（F）,Y）,F弱闭且存在一个元素x∈D（F）,使得F（x）=y.对x0∈D（F）,设h（x,t）如（26）所示,其中A（λ）=1-（1-α）λI,如果对（x,λ）∈（?）D（F）×[0,1）,有h（x,λ）≠0,则h（x,λ）=0的解集合中至少存在一条解曲线,连接x0到（24）的一个正则化解.在同伦曲线的跟踪中,可以采用Seidel技巧,用最新得到的x（λ）代替同伦曲线（27）中的x0,以获得更好的计算效果.3.2无导数同伦带Tikhonov正则化的同伦中含有非线性映射F的一阶导数,在同伦曲线的跟踪过程中,可能还需要计算F的二阶导数,在理论和计算上都有不小的难度,本小节介绍一种不含F的导数的同伦方法,它主要源于这样一个事实：我们对问题（24）直接构造“不动点”同伦：其中0<ρ<1.显然对λ∈[0,1-ρ],（29）中h（x,λ）=0的计算均是适定的.与定理3的证明类似,我们可以得到定理4.设D（F）为有界连通开集,F（x）∈C2（D（F）,Y）,对x0∈D（F）,设h（x,t）如（29）所示,如果对（x,λ）∈（?）D（F）×[0,1),有h（x,λ）≠0,则h（x,λ）=0的解集合中至少存在一条解曲线,连接x0到x1如果h（x,1-ρ）=0的解x1。与F（x）=y的一个解充分接近,我们可以x1。作为初始近似,采用某种正则化方法求解（24）.3.3同伦曲线的跟踪对于同伦曲线,我们要使用合适的数值方法去跟踪求解.假设x可由λ参数化,同伦曲线为h（x（λ）,λ）=0,其中h（x,0）=0的解x（0）已知,我们要对0=λ0＜λ1＜…＜λn=1,依次求解h（x,λj）=0,j=1,…,n的解x（j）,j=1,…,n.常见的方法有Stefenssen方法,牛顿法,欧拉法等.Stefenssen方法Stefenssen方法是从j=1,…,n顺次求解h（x,-）=0的解x（j）,所以总可以x（j-1）作为初始近似来求解.具体地,我们采用一种类似求解非线性代数方程组的Stefenssen方法.对l=0,1,…,令每一步迭代中的初始近似x（j-1）与x（j）足够接近是收敛的必要条件,而对于不适定问题,要想使x（j-1）成为h（x,λj）=0的足够接近的初值,就必须要λj-λj-1足够小,但这样必然会带来较大的计算量,我们会采用一种自适应的方法来处理这个问题.牛顿迭代法与简单迭代法的思想类似,假设h（x,λj-1）=0的解x（j-1）已经求得,我们将其作为一个初始近似,采用具有局部收敛的牛顿法求解h（x,λj）=0有特别地,对于同伦（27）,我们有于是,从x（j-1）计算到h（x,λj）=0的解x（j）的牛顿法为：当‖Δl（j）‖充分小时设定x（j）-xl（j）,并进入从x（j）到x（j+1）的计算过程.可见牛顿迭代法中每一步迭代需要解一个关于△l（j）的线性算子方程.对于同伦（29）,有于是,从x（j-1）计算到h（x,λj）=0的解x（j）的牛顿法为：‖Δl（j）‖充分小时设定x（j）=xl（j）,并进入从x（j）到x（j+1）的计算过程.从λ=1-δ到λ=1的跟踪过程中,需要求解的线性算子方程变为是一个不适定线性算子方程,我们可以采用某种正则化策略予以求解,如Tikhonov正则化,谱截断法等.欧拉法欧拉法是首先对h（x（λ）,λ）=0关于λ求导,得到一个形式上的常微分方程组,其中x0已知,再对其采用欧拉折线法进行数值求解.特别地,对同伦（27）,有对于给定的点x,上述方程是关于dx的线性算子方程.对λ选取合适的剖分步长,即对0=λ0<λ1<…<λn=1,有对于同伦（29）,有对于给定的点x,上述方程是关于dx的线性算子方程.对λ选取合适的剖分步长,即对0=λ0<λ1＜…＜λn-1=1-δ,有从λ=1-δ到λ=1的跟踪过程中,需要求解的线性算子方程变为是一个不适定线性算子方程,我们采用某种正则化策略予以求解,如Tikhonov正则化,谱截断法等.在从λ=λj-1到λ=λj的迭代步中,每一步迭代中的初始近似x（j-1）与x（j）都要足够接近才能取得较好的计算效果,这就要λj-λj1足够小,但这样必然会带来较大的计算量,这里给出一种自适应的方法.第1步：选定阈值ε>0,N为正整数.对λ∈[0,1].给出初始粗网格0=λ0＜λ1＜…＜λn=1,并令j=0;第2步：如果j=n,终止计算;否则进入第3步;第3步：计算h（x（λj）,λj）,如果h（x（λj）,λj）＜∈,则令j=j-＞next,返回第2步;否则将[λj-1,λj]再次剖分,将-1/2加入计算网格,形成新的较细的网格令j=j-＞former,返回第2步;若细分次数大于给定阈值N,终止运算,重新选择初值x0与正则化参数α.3.4同伦方法在近场光学问题中的应用本节将同伦方法应用于近场光学问题.我们已经给出近场扫描隧道光学显微镜（PSTM）的数学模型：以及辐射条件其中∑R为圆心在原点半径为R的圆周,v是∑R上的单位外法向量.如果记（32）（33）的解us为S（q）,则显然S（q）：L2（D）→L2（R2）是关于q的非线性映射.我们在前一部分针对线性化问题的求解进行了讨论,主要克服其严重不适定性.本节我们讨论处理其非线性的同伦方法.同伦的构造和同伦曲线的跟踪方法已在前节说明,本节主要给出在计算过程中所需要的各阶导数的计算过程.首先,我们推导S’（q）.由于us=S（q）满足（32）（33）,故对h∈D（?）Ω（?）R+2, us（q+h）=S（q+h）满足（34）-（32）并省去高阶项,有记v=S’（q）h,则v满足以及辐射条件.上式中右端将n2省略是因为于R+2中n=1（注意h∈D（?）R+2）.由此,可以继续推导二阶导数S”（q）.首先假设S”（q）存在.设V1=S’（q+h1）h,其中h1,h∈D（?）Ω（?）R+2,则v1满足以及辐射条件.（37）-（36）得利用关系式舍去高阶项,并令w=S”（q）h1h,有其中v=S’（q）h1满足其中w和v均满足辐射条件.在同伦方法中,需要求解S’（q）*（S（q）-y）,其中y是给定测量值.仍记v=S’（q）h1,则其满足（41）.在（41）两端乘以（?）,并在R2上积分,利用Green公式及辐射条件,有由关系式和S’（q）h1=v可知,对给定S（q）-y,求（?）满足和辐射条件,则这样,对于带Tikhonov正则化的同伦,即我们得到h（q（λ）,λ）的计算方法：由于（43）（44）式已经给出S’（q）*（S（g）-yδ）的表达式,我们需要按（43）和辐射条件求解微分方程正问题,得到（?）,再将（?）代入（44）得到S’（q）*（S（g）-yδ）,之后直接运算即得到h（q（λ）,λ）.接下来,我们按照自适应跟踪技巧,使用Stefenssen方法进行曲线的跟踪.第1步：选定阈值∈,∈’,N,N’,初始网格为0=λ0<λ1<…<λ。=1,并令j=0;第2步：如果j=n,终止计算;否则进入第3步;第3步：以qj→former为初值,使用Stefenssen方法计算q（λj）.具体地,对l=0,1,…,令若‖ql+1（j）-ql（j）‖＜∈’且迭代次数l<=N’,则令q（λj）=ql+1（j）,否则认为h（q（λj）,λj）＞如果h（q（λj）,λj）＜∈,则令j=j→＞next,返回第2步;否则将[λj-1,λj]再次剖分,将λj1/2加入计算网格,形成新的较细的网格令j=j→＞former,返回第2步;若细分次数大于给定阈值N,终止运算,重新选择初值q0与正则化参数α.这样,我们得到近场光学问题的同伦算法.