悬臂式挡土墙是一种轻型支挡结构，以其构造简单，施工方便，能适应较松软的地基而广泛应用在公路、铁路等高度在6m左右的支护结构中。挡土墙的土压力问题一直是困扰工程界的一大难题，设计土压力的大小直接影响到工程的质量及人民生命财产的安全。由于岩土体物理力学性质的复杂性，要精确得到土压力的分布及大小是很困难的，传统探测土压力的方法除了理论研究、数值模拟外最重要的就是现场实验。本文从挡土墙这一结构-半无限岩土介质动力相互作用下墙土系统的振动模态出发，研究墙后土压力分布形式与大小对悬臂式挡土墙系统模态参数的影响，进而通过模拟模态参数与试验模态参数对比来进行土压力反演。本文主要的研究工作如下：(1)在广泛查阅文献资料的基础上，系统阐述悬臂板振动模态的基本原理，分析悬臂式挡土墙系统的模态频率和模态振型的求解方法，提出通过墙后土体对悬臂式挡土墙系统模态参数的影响进行土压力反演的基本思路。(2)通过综合分析墙后土体对悬臂式挡土墙模态参数的影响，建立通过附加刚度与附加质量影响的悬臂式挡土墙结构有限元模型，并通过有限元模拟得出其模态振型及模态频率。(3)对一工程实例假设不同的土压力分布形式，通过改变土侧压力系数，运用悬臂式挡土墙系统的模态参数计算方法，建立有限元模态参数和试验模态参数相比较的目标函数，并通过优化设计反演出与实际工程较符合的土侧压力系数和分布形式。通过本文的研究，建立了基于温克尔弹性地基假设的悬臂式挡土墙系统模态分析理论，确立了土压力反演研究的基本模式，为悬臂式挡土墙的土压力监测提供了另外一种思路，对于已建悬臂式挡土墙的健康监测具有重要意义。