连续体结构拓扑优化是结构优化中的前沿和热点问题之一。本文以连续体结构为研究对象,分别就连续体拓扑优化的材料插值方法、优化中的数值计算不稳定性现象的分类和解决策略、以及数值求解算法等方面进行了比较深入的研究。主要工作如下:1)针对变密度法中SIMP(Solid Isotropic Material with Penalization)法在惩罚函数方面的不足,提出了一种改进的修正SIMP法惩罚函数,并进行了算例验证,结果表明新的惩罚函数具有优化结果稳定、收敛快等优越性。2)基于变密度法的基本思想,提出了一种构建插值模型的新思路,给出了具体的插值模型数学形式,进行了相关的数例验证。3)建立了基于修正SIMP法惩罚函数,以最小柔度为目标的优化模型,将连续体结构拓扑优化设计方法应用到天线背架结构的优化设计中,得出了较为合理的拓扑结构形式。