国民经济的迅猛增长使得能源需求日益加大,使用清洁能源和提高能源利用效率是未来能源系统的重要发展方向。超临界CO2系统结构紧凑、效率高,在未来能源系统中应用前景广泛。作为系统中的重要组成部分,换热设备的性能对整个系统的效率有着重要影响。然而,超临界CO2在临界点附近剧烈变化的物性以及一些新型紧凑式换热器复杂的通道结构,给换热设备的优化设计带来巨大挑战。因此,阐明超临界CO2在不同通道内的复杂流动换热机理对于指导换热器优化设计具有重要意义。本文基于数值模拟和实验测试,对超临界压力CO2（sCO2）在通道内的流动换热性能进行详细分析,并针对不同通道结构进行了优化设计。首先建立单直通道模型,设置壁面受均匀热流,探究sCO2流动换热机理。在单直通道内,为获得较高对流换热系数,同时流动阻力和熵产较小,通道内热通量与质量通量的比值应相对较小,工作压力也应相对较小。相同水力直径的圆管、半圆管和方管中,圆管内整体对流换热系数最大,方管内流动阻力系数最小。理论分析和数值结果均表明,sCO2在黏性底层和过渡层内的有效热导率对管内局部对流换热系数的大小起着决定性作用。考虑到太阳能集热器、燃煤锅炉水冷壁等换热设备中周向热流明显不均的情况,通道内sCO2的换热性能更为复杂。建立有固壁的圆管模型,研究非均匀热流条件对管内流动换热性能的影响。大部分情况下,周向热流越不均,sCO2的流动换热性能越差。非均匀热流条件时,加热半周越接近通道底部,sCO2换热性能越好。为缓解非均匀热流导致的传热恶化,提出了四个局部强化的管道。强化管道内,sCO2的综合性能可提升23%左右,同时管道内壁的热流和温度不均匀度也明显降低。分布协同理论可以很好地解释非均匀热流导致的管内换热不均匀性。印刷电路板式换热器（PCHE）通道结构复杂且通道布置方式多样,仅基于单个圆管中sCO2的流动换热规律,并不能满足其优化设计要求。因此,建立更接近实际流动换热过程的耦合模型,探究PCHE内的sCO2的流动换热特性。基于半圆直通道耦合模型的研究,首次提出使用二次流数与雷诺数的比值（Se/Re）对水平通道内变物性导致的浮升力效应进行判别:当Se/Re>0.1时,浮升力效应的影响不可忽略。与传统浮升力判别式相比,新判别式对水平通道内整体和局部的换热强化都有更好的预测。较低雷诺数条件下,直通道PCHE内轴向导热的影响不可忽略,已有轴向导热判别数并不能对PCHE内局部轴向导热的影响进行准确的判断。与直通道相比,之字形通道可以有效强化换热,但同时流动阻力也明显增大。同时考虑热力学第一定律和第二定律评价指标,之字形通道的拐角在110°至130。之间时,sCO2在PCHE内可获得最优的综合性能。场协同原理可对不同之字形拐角通道内的流动换热性能进行很好的解释。之字形通道拐角附近的回流可有效增强局部速度和温度梯度的协同,且减小局部熵产。通道拐角相对较小时,通道内二次流强度更大,整体速度场和温度梯度场的协同更好。最后,基于课题组全温全压超临界CO2实验平台,对新翼型肋PCHE在不同质量流量、工作压力和入口温度条件下的换热和压降特性进行了测试。新翼型肋PCHE换热量最高可达100 kW,相同进出口条件下,新翼型肋PCHE的换热量与之字形通道PCHE相当,而压降仅为之字形通道PCHE的1/6左右。进一步的数值模拟结果还表明,增大新翼型肋宽对换热的影响不大但明显增大通道内压降。较低温度和质量流量有利于减小翼型肋通道内的局部参数振荡,从而保证换热设备稳定安全运行。本文从单直通道受均匀热流的数值模型入手,到探究非均匀热流条件对换热性能的影响,再基于实际换热器建立耦合模型进行分析,最后实验测试新结构PCHE,逐步深入。研究阐明了复杂工质在不同结构通道内的换热机理,获得了优化的通道结构,且针对水平通道内流体物性变化导致的浮升力效应提出了新的判别式,可为以变物性流体为工质的新型紧凑式换热器的优化设计提供重要参考。