高超声速边界层转捩是飞行器设计过程中的重要问题之一，成功预测高超声速边界层转捩取决于对转捩机理的深入理解。在环境扰动较小的情况下，边界层转捩可以分为感受性、线性增长、非线性增长和层流破碎三个阶段。作为初始阶段，感受性和稳定性问题主导着边界层转捩的后续发展，是国内外学者重点关注的研究方向之一。本文基于WCNS高阶精度格式，数值研究了表面粗糙对于高超声速边界层稳定性的影响，分析了表面粗糙引发边界层转捩的物理机理。
　　针对平板边界层稳定性问题，开展了高效时间推进方法对比及多种参数对二阶模态不稳定波的影响分析。采用隐式方法求解二维可压缩NS方程，得到定常层流基准解；通过在平板模型上游引入二维周期性壁面吹吸扰动进行非定常数值模拟，获得二阶模态不稳定波在平板边界层内的发展规律。为了提高计算效率，在保证计算结果精度的前提下，对比了二阶精度隐式双时间步方法和显式RK方法，得到了隐式双时间步方法的收敛准则。分析了吹吸扰动频率和平板壁面温度对于二阶模态不稳定波的影响，扰动频率越高，二阶模态不稳定波出现的位置越靠前；壁面温度冷却对于二阶模态不稳定波表现出不稳定作用。
　　研究了波纹壁和二维椭圆形粗糙元两种典型表面粗糙对于边界层稳定性的影响。与平板边界层相比，波纹壁可以有效抑制相对高频的二阶模态不稳定波，从而延迟边界层转捩，对相对低频的二阶模态不稳定波起到了放大作用。波纹壁深度增加和波纹壁向下游移动可以增强对二阶模态不稳定波的抑制作用。对于椭圆形粗糙元，当其位于扰动波同步点下游位置时也能起到抑制二阶模态不稳定波的作用。双粗糙元模型对边界层稳定性的影响本质上也与粗糙元位置相关，通过合理组合不同位置粗糙元，即可获得期望的放大或抑制二阶模态不稳定波的效果。
　　另一方面，考虑到真实飞行环境中可能出现的烧蚀或撞击现象，采用隐式大涡模拟方法进行了单独粗糙元模型和组合粗糙/凹陷元模型的三维数值模拟。首先对比分析了四种形状单独粗糙元模型诱导边界层转捩的不同机理，结果表明方柱形粗糙元最先转捩，钻石形粗糙元尾迹区最宽，圆柱形粗糙元次之，半球形粗糙元效果最差。然后选定圆柱形粗糙元诱导边界层转捩，在其下游放置尺寸相当的圆柱形凹陷元构成组合粗糙/凹陷元模型，研究了不同直径、深度和位置凹陷元的存在对于已转捩边界层的影响。总体而言，凹陷元的存在对于边界层转捩有促进作用，这对认识和理解真实飞行环境中飞行器表面流动状态具有重要意义。