拓扑优化主要研究在给定设计空间、支撑条件、载荷条件等要求下材料的最优分布问题。本文在分析总结相关研究成果的基础上，以拓扑优化在不同机械结构设计中的若干关键问题研究为主线，以拓扑优化方法的基础理论、常用方法、优化算法、关键问题及应用为提纲进行研究。论文首先对拓扑优化中常用的材料插值方法进行总结研究，系统分析了均匀化理论和SIMP材料插值方法，推导了基于SIMP方法的拓扑优化模型，得出了基于优化准则法的迭代格式及分析流程。针对机械设计中常见的刚度问题对现有拓扑优化中若干关键问题进行探讨：论文深入分析现有Lagrangian乘子的求解的不足，并提出一种改进Lagrangian乘子的求解法；从理论角度分析了静力学中由多载荷步导致的“病态”载荷现象产生的原因，并采用分布载荷的方法有效的解决这种现象；分析了动力学中局部频率现象产生的原因及对优化的影响，并采用ESO方法有效避免局部载荷现象。本文还针对现代结构设计中的热力学以及渗流力学问题进行了深入的研究探讨，并编制了相关的拓扑优化程序。