受弦理论,特别是AdS/CFT对偶的研究启发,膜世界理论提出了新的额外维紧致机制,为解决层次问题提出了全新的解决方案,同时也为中微子手征性、暗物质、宇宙学常数问题等长期没有解决的问题提供了新的可能的解决方案。虽然在四维时空中,Einstein的广义相对论很好地描述我们的观测,但是Einstein理论面临一些的问题,比如奇点和不可重整化问题。为了解决这些问题,我们需要量子引力。虽然我们依然不知道完整的量子引力,但是修改引力理论为量子引力有效理论提供重要参考。本文主要讨论了临界引力和非最小耦合引力理论下Randall-Sundrum类型及其推广的膜世界。首先,我们研究了由吕宏和Pope等人提出的新的高阶引力——临界引力。与一般高阶引力不同,在这一引力理论中,薄膜可以存在,我们给出了一般情况下的协变的衔接条件,在最大对称膜情况下退化成Einstein-Gauss-Bonnet引力的解及其衔接条件。我们证明它改变的仅仅是张量涨落的传播子,而标量涨落不受影响,是稳定的。其次,我们研究了五维的单标量场产生的非最小耦合膜世界,发现在该理论中会有一些新的效应,模型中膜的形状会有Einstein理论所没有的形状,单膜在逐渐偏离Einstein理论时发生劈裂,会有三个子膜。此外渐进时空也不一定是AdS时空,引力的张量涨落在非最小耦合函数F（φ）非负条件下是稳定的,但是标量涨落的稳定性则进一步要求F（φ）在无穷远处是也是正的。最后,我们研究了多标量场膜世界模型,它是将前面单标量场非最小耦合理论推广到任意维数和任意多标量场,重点处理模型的涨落,尤其是标量涨落,给出一般处理框架。我们发现单标量场与多标量场有着本质不同：对于单标量背景扭结场（或者其他孤子解）,如果没有鬼场,则模型始终是稳定的,但在多标量场情形下没有这样的结论。我们重点研究了无质量模式,以双标量场为例进行了详细研究,发现零模时物理解会多一个约束。对于超势背景解,这个约束不是独立的,并且通常会有一个可以局域化在膜上的零模。我们将f（R）引力作为多标量场特例进行分析,发现一个特解模型是稳定的。我们这里对膜世界稳定性分析仅限于线性涨落,为了能得到与实验观测,特别是和太阳系检测结果进行比较,都需要进行非线性的分析,这是未来我们所需要做的工作。