近年来,保险公司在金融市场的投资是保险数学领域研究的热点问题之一,因为将保险与金融结合在一起研究具有重要的理论与现实意义.由于保险公司本身的特殊性,它们通常会进行比例再保险业务,以将一部分索赔风险转移给再保险公司,从而降低自身的风险.研究较多的再保险方式有比例再保险与超额损失再保险.关于保险公司的最优投资与比例再保险问题已有很多学者从不同方面作了研究,普遍使用的方法是HJB方程方法.当然,也有使用其它的一些方法,如鞅对偶方法,针对二次控制的完全平方方法等等.本文围绕保险公司的投资与比例再保险研究了四个新的问题.所使用的方法与已有文献不同,主要是倒向随机微分方程与Malliavin计算方法.具体工作主要包括以下几点：(1)研究了保险公司在带期权支付下的最优投资,消费与比例再保险问题,选用的最优化准则为终端财富效用最大化.在投资与比例再保险满足一般而不局限于凸抑制条件时,基于鞅最优化原理,我们运用二次增长的倒向随机微分方程与BMO鞅论技巧给出了最优策略满足的关系式.特别地,在投资无抑制,再保险比例取值非负时,运用Malliavin计算可以得到最优策略的具体表达式.(2)研究了保险公司在隐马氏体制转换情形下的最优投资与比例再保险,选用的最优化准则为终端财富风险最小化,采用凸风险度量作为风险评价方法.先通过滤波理论将此问题转化为完全观测情形.再使用凸风险度量的表示定理将问题转化为双人零和随机微分博弈问题,运用带跳的倒向随机微分方程来求解此博弈问题,其中比较定理发挥了核心的作用.(3)研究了保险公司在仅获取部分关于金融风险资产与保险索赔信息下的最优投资与比例再保险问题,选用的最优化准则为终端财富效用最大化.为更好地符合实际情形,我们假设金融风险资产过程与保险索赔过程均为跳扩散过程.运用Levy过程的Malliavin计算,我们给出了最优投资与比例再保险的刻画,并且在特殊情形作了进一步的详细求解.(4)研究了保险公司在模型不确定情形下的最优投资,消费与比例再保险问题.最优化准则为效用最大化,效用函数取为一般形式,不局限于指数效用函数.求解方法是先将问题转化为双人零和的正倒向随机微分博弈问题,然后应用随机最大值原理来求解此博弈问题,在一些特殊情形,运用Malliavin计算可进一步给出最优策略的具体表达式.