转捩预测是目前湍流研究的重要课题。飞行器的黏性阻力预测以及其它技术应用问题都在不断地吸引着人们对转捩预测进行数值和实验研究。为了更准确地模拟边界层从层流到湍流的转捩过程,本文利用用户自定义函数实现了基于非线性涡黏假设的SST（Shear Stress Transport）k-ω两方程湍流模型,并把该模型引入到γ-Re_θ转捩模型和γ转捩模型中,以研究非线性涡黏效应所引起的流线曲率和旋转效应、雷诺应力的各向异性等对转捩的影响。由于转捩预测需要用当地变量进行转捩判据,选用当地变量模拟结果更好的湍流模型,可以提高转捩位置预测精度。同时γ-Re_θ转捩模型的部分经验关系式相关系数与目前转捩模型发展的需求已经不太适应,需进行重新标定。为此本文还对γ-Re_θ转捩模型的临界动量厚度雷诺数Re_θc经验关系式中的系数及其它相关系数对转捩起始位置以及升力阻力特性的影响进行了研究,以实验结果重新标定系数从而改善γ-Re_θ转捩模型预测精度。首先,研究了非线性涡黏和临界动量厚度雷诺数经验关系式的修正方法。非线性涡黏关系是通过分别在动量方程、k和?方程的源项中加入雷诺应力非线性项来实现的。而临界动量厚度雷诺数经验关系式修正则是通过用户自定义函数将临界动量厚度雷诺数经验关系式及其相关系数加入现有程序并用重新标定值替换现有的系数值来实现。其次,开发了基于非线性涡黏假设的γ-Re_θ转捩模型。以S809翼型为例,研究了雷诺应力非线性项表达式和临界动量厚度雷诺数经验关系式中各系数对转捩位置以及气动特性的影响,并且以S809翼型的实验结果对临界动量厚度雷诺数经验关系式中的各系数进行了标定,得到了系数修正后的非线性涡黏γ-Re_θ转捩模型,使用该转捩模型模拟了低速二维平板和S809翼型的绕流场,并与风洞实验对比。对比结果表明,系数修正后的非线性涡黏γ-Re_θ转捩模型,上表面和下表面的转捩位置预测精度与非线性涡黏γ-Re_θ转捩模型相比分别提高了5%和1.5%。阻力和升力系数的模拟精度也有一定的提高,特别是在大攻角下由于模型考虑了非线性涡黏效应,得到的流场更合理,因此升力系数的预测精度与线性涡黏模型相比提高了21.1%。最后,发展了基于非线性涡黏假设的γ转捩模型。并采用线性和非线性涡黏假设γ转捩模型模拟了低速二维平板、S809翼型和三维旋转尖锥绕流,与实验结果以及非线性涡黏γ-Re_θ转捩模型对比结果表明:非线性涡黏γ转捩模型也能较好的预测转捩位置,相对于线性涡黏γ转捩模型,S809翼型算例上表面转捩位置的预测精度提高了30%,但上、下表面转捩位置的预测精度低于非线性涡黏γ-Re_θ转捩模型;由三维尖锥算例的对比发现γ转捩模型由于考虑了横流转捩效应,因此可以模拟由于旋转引起的转捩位置偏转,而非线性涡黏γ-Re_θ转捩模型不能模拟此现象;非线性涡黏γ转捩模型较线性模型的预测精度更高,其侧向力系数的精度与线性模型相比提高了6%。