辐射传热（热辐射）是自然界中最常见的能量传递方式之一。热辐射的增强、抑制和调制的需求广泛存在于生产生活和科学研究中,其中涉及微纳米尺度复杂结构参与的辐射传热问题覆盖了从天文学到微观粒子的广阔物理尺度,是目前传热学研究中的前沿和热点。辐射电磁波与复杂结构的相互作用,以及传热路径在亚波长尺度的近场辐射传热现象,均存在诸多尚待解决的问题。本论文按照辐射传热路径尺度将该课题分为两类代表性问题,第一类是传热路径为宏观尺度、有微纳米尺度颗粒体系作为参与性介质的问题,第二类是传热路径在微纳米量级、且有复杂微纳米结构参与的近场辐射换热问题。对于第一类问题,选取遮光气凝胶复合隔热材料作为研究对象,结构中包含SiO₂纳米颗粒骨架与遮光剂微米颗粒,具有随机性和跨尺度特征。为表征颗粒辐射特性的相互影响,首先生成SiO₂颗粒聚团作为气凝胶骨架模型。研究了非球形、非单一粒径特征对遮光剂辐射特性的影响,发现模型中粒径尺寸分布的影响不能忽略。改进颗粒聚团生成方法,建立了气凝胶-遮光剂体系结构模型,用多球T矩阵方法严格表征了气凝胶骨架对遮光剂颗粒辐射特性影响,揭示了与经典Mie散射解的区别。结合计算结果确定了辐射传递方程的求解方法,并据此设计实验路线,由遮光气凝胶板材的辐射特性测量结果证实了本模型的可靠性。对于第二类问题,选取近场热光伏发电系统作为研究对象,目标是实现高于半导体电池能带的窄频域选择性高热流,而近场辐射传热机理的复杂性和半导体电池的弱吸收性给系统设计带来了很大挑战。本文研究了简单四层平面结构发射器设计,优化结构使系统转化效率超过当前文献报道代表性成果的水平,讨论了近场热光伏系统与远场的影响因素区别。其次,对于用亚波长周期结构设计的双曲性超颖材料发射器,用近场辐射传热的复杂结构严格解计算了辐射热流,通过比较分析指出了当前常用的等效介质理论近似解在近场辐射传热中的适用性限制。最后,创新性地提出了用于近场辐射的GaSb电池表面减反射结构,用严格计算方法揭示了GaSb纳米线、纳米孔、柱面栅格结构对近场辐射光谱热流的改进,相比无结构情况将系统效率提升可达78.3%,并揭示了表面结构调制近场辐射光谱热流的物理机理是与表面波耦合的陷光效应,证明该现象只在近场辐射传热中出现。