超临界流体（Supercritical fluid,SF）广泛存在于自然界,并作为多种动力循环及废水处理等的工作介质。传统热学理论将SF处理成无相变、无相界面的单相流体,难以精确描述SF能量传递转换。20世纪60-70年代,基于超临界传热和亚临界沸腾传热均可能出现壁温飞升的现象,提出了超临界类沸腾的概念,但直到如今,国际上并未给出超临界类沸腾的内涵和外延。因此,本文在超临界多相流框架下,研究了非受限空间和受限空间内SF相分布、类沸腾转换温度、传热特性等,在分子尺度下划分了类液、类两相和类气三个区域,重点探索了类两相区的特性及规律。本文的主要研究内容和创新点描述如下:近临界氩密度时空分布和时序曲线的非线性分析。目前纳米尺度的研究揭示了 SF具有异质结构特性。现有SF密度波动的研究主要集中在特定工况的定性分析,本文基于分子动力学模拟方法对临界温度Tc,密度在0.5ρc-1.4ρc（ρc为临界密度）范围内的近临界氩的密度波动进行定量分析,研究发现,随着平均密度增加,局部密度时序曲线的均方根偏差呈M型分布,在0.8ρc的工况偏差最大。在势函数φ（r）的作用范围内,原子间引力和斥力的作用会影响原子的排布,称为“势能诱导”机制;统计物理学指出涨落是一切物质的基本属性,涨落会产生微观的不均匀性,在临界区域内尤为明显,被称为“临界波动”机制。研究结果表明在上述两种机制的共同作用下,均方根偏差最大的工况出现在临界点以下（0.8ρc）。此外,通过非线性动力学分析,发现不同模拟工况呈现出混沌或随机特性。研究结果大大加深了对近临界流体的认识,为SF的实际应用提供理论基础。研究了超临界氩的类沸腾转换温度,发现了纳米尺度的类气泡。采用分子动力学模拟研究了非受限空间SF的相分布特征,模拟过程中控制体系的温度和压力,六面均使用周期性边界条件。亚临界沸腾发生在对应压力下的饱和温度,本文发现超临界类沸腾发生在一个温度区间内,将类沸腾起始温度和终止温度分别定义为Ts和Te,发现按近邻原子数、径向分布函数和二体过剩熵三种方法确定的Ts和Te相互吻合。进而,采用Ts和Te将超临界温压相图划分为类液、类两相和类气三个区域。在类两相区,发现纳米尺度类气泡结构,具有以下特征:（1）类气泡内的粒子分布稀疏,呈现出类气体属性。（2）类气泡具有明显的弯曲界面。引入非线性动力学分析方法,表明类两相区呈现混沌特性,与亚临界压力下的两相流类似。本文研究揭示了 SF具有显著的多相流特征,为建立超临界多相流理论奠定了基础。超临界水密度时空分布、相分布及氢键结构。孤立水分子的性质通过实验和计算已得到很好理解。水是由大量水分子组成,目前对其结构和动力学的理解比较有限。超临界水的密度波动、相分布和氢键结构等方面还存在很多未知的领域。本文基于刚性的SPC/E水模型,对超临界水的密度波动和相分布规律进行研究。发现随着温度和密度的降低,密度时序曲线的均方根偏差呈下降趋势,与氩流体M型的演化规律不同。根据近邻分子数和径向分布函数法建立了超临界水的三区模型。此外,揭示了超临界水氢键与密度、温度和压力之间的关系,在演化过程中会出现一个或多个氢键的断裂,断裂的氢键又会与新的分子形成新的氢键,或者以孤立分子存在,超临界水中氢键的断裂和重组主导了局部密度的波动,也是超临界水与氩密度波动规律存在差异的主要原因。相关研究加深了对超临界水结构的认识,证明SF广义的多相特征。受限纳米通道内SF的相分布和传热特性。随着纳米流体器件的不断发展,纳米尺度流-固界面附近的物理现象变得非常重要。页岩气在满足经济发展的同时减少了 CO2排放,SF压裂技术是纳米结构中提高页岩气采收率、碳捕集和储存的有效方法。因此,本文对受限空间内SF相分布和传热特性展开研究。主要考虑壁面润湿性,壁面温度和流体初始状态对相分布的影响。在壁面润湿性的作用下,不同初始状态的流体会自组织形成新的相分布,强润湿性壁面的近壁区会形成类液层,与亚临界压力下的环状流类似,弱润湿性壁面的近壁区会形成类气层,与亚临界压力下的Leidenfrost现象类似。受壁面温度的影响,在冷壁面处形成比热壁面厚（薄）的类液层（类气层）。SF的传热特性具有以下规律:（1）流-固界面处的温度阶跃和热阻长度随壁面润湿性的减弱而增大,与亚临界压力下的结论相反;（2）热流密度随壁面润湿性的减弱和初始系统密度的减小而减小,在弱壁面润湿性下,不同初始状态之间的差异减小。此外,不同模拟工况下,流体相分布的演化过程满足最小能量原理。研究揭示了受限空间内SF相分布和传热特性,为SF设备的设计和应用提供理论支撑。