波浪在复杂地形上的传播以及与结构物的相互作用是海岸、海洋工程等最为关注的问题之一，开展非线性波浪的数值模拟研究具有重要的理论意义和较高的工程应用价值。本文利用计算平台的用户接口功能，从计算模型、程序实现、数据存取、结果分析等多个方面对平台进行了改进，建立起了基于粘性流理论和VOF方法的、可有效模拟非线性波浪问题的数学模型。 数值造波、消波方法是否合适、有效是决定非线性波浪数值模拟成功与否的关键性问题之一。本文针对有限水深下的Stokes波理论，详细分析和评述了不同的数值造波技术，为不同情况下采用何种造波方法提供了指导性意见；根据多孔介质的消能原理，从渗流力学的达西定律及相关理论出发，提出了多孔介质数值消波的概念和方法。以此为基础，探讨了二阶和五阶Stokes波理论的适用性，成功模拟了三维椭圆浅滩上的波浪折射和绕射问题。 孤立波和椭圆余弦波是近岸浅水区常见的两种非线性波浪形式。本文在对孤立波不同造波方法进行充分调研和分析比较的基础上，发展了可以大幅节省计算资源的非均匀网格下的移动网格模型，得到了VOF方法框架下的定常孤立波，系统、准确的模拟了孤立波在常水深下的传播以及在斜坡上的浅化、破碎和爬高等全过程。针对椭圆余弦波，采用了整合不同编程语言的技术，部分的解决了椭余波编程技术中普遍存在的计算较为繁复的问题。讨论了一阶和二阶椭余波理论在数值模拟中的不同表现，将VOF方法成功的应用到了椭余波在圆柱周围的爬高问题中。 通过将不规则波的水位和流速数据导入上述工作建立起的非线性数值波浪水槽，实现了VOF方法下的不规则波造波，模拟了下坡陡、上坡缓、中间为平台的复式海堤断面上的不规则波爬高，分析了平台宽度对有效爬高的影响。在原有水槽的层流模型基础上，引入了多种k—ε湍流模型、大涡模拟模型等，详细分析和讨论了不同波浪问题中层流模型和各种湍流模型的有效性。