自然循环由于具固有安全特性而在近代反应堆设计当中被广泛应用,但是其应用的主要问题为两相情况下的不稳定性,而且在真实反应堆当中堆芯功率与流体热工参数之间互相耦合会对系统产生一定影响,所以对核热耦合条件下的自然循环不稳定性的研究有重要意义。本文的研究对象为模拟核热耦合自然循环实验系统,通过简化实验系统得到计算的物理模型并建立该系统的数学模型,流体参数计算采用基于均相流模型的控制方程,功率计算采用考虑六组缓发中子的点堆中子动力学方程,对控制方程进行离散后采用编写程序的方式求解方程,得到系统的静态流量漂移不稳定和动态密度波不稳定性,分析了不同参数对于两种不稳定性的影响。计算结果表明,自然循环系统在运行特性曲线存在负斜率区的时候在一个运行条件下可能存在一个以上流量,如果给系统一个扰动系统会从原来工况漂移到一个新的工况,即发生流量漂移不稳定性,增加系统压力、降低实验段入口过冷度、增加实验段入口阻力系数、降低实验段出口阻力系数可以降低系统的流量漂移不稳定性区域。自然循环系统由于在实验段入口的流动扰动需要一定的传播时间,阻力对于实验段入口扰动的响应存在时间上的迟滞,在一定工况下会发生密度波不稳定性,此时流体在实验段和上升段内的流动时间与密度波的周期存在2倍左右的倍数关系,在本文的计算参数范围内,增加功率会使振幅和周期增加,增加系统压力会使振荡幅度和周期减小,增加入口过冷度会使振荡幅度和周期减小,增加上升段长度会使系统振荡幅度和周期增加,增加入口阻力系数会使振荡振幅减小而周期增加,增加出口阻力系数对于振幅的影响与增加入口阻力系数的影响相反,对周期的影响相同。考虑核热耦合条件时密度波不稳定性的振荡幅度比不考虑时增大,增加燃料温度反馈系数、冷却剂温度反馈系数、空泡份额反馈系数的绝对值可以降低系统的振荡幅度。