连续体拓扑优化方法是一种高效的柔性机构设计方法,而目前的柔性机构拓扑优化方法基本是基于有限元方法的,有限元方法易产生基于网格的局部近似误差,并在处理诸如大变形等问题时,容易出现网格畸变等现象,使得求解困难或产生错误。无网格法只利用点离散问题域,摆脱了单元的束缚,精度较高,并解决了有限元方法在某些特殊领域应用的缺陷。因此,本文深入研究了无网格法和柔性机构拓扑优化的基础理论,将无网格伽辽金法引入柔性机构的拓扑优化设计中,并对相关技术进行了讨论和研究。本文较系统地研究了无网格伽辽金法。在保证解的精度的基础上,简化了Lagrange法施加本质边界条件过程。讨论了节点分布对无网格法中形函数矩阵性质的影响,提出了节点支撑域的选择方法,有效避免了矩阵计算奇异问题。同时对载荷进行分类,分别采用不同的施加方法。并用实例验证了无网格法求解几何非线性问题的优势。将无网格法引入到连续体结构拓扑优化方法中。利用无网格伽辽金法进行了优化过程中的线性和非线性结构响应分析和敏度分析,以结构的刚度优化设计为例,详细阐述了基于无网格法的拓扑优化方法的求解流程。基于无网格法的拓扑优化方法,进行了柔性机构的优化设计。比较研究和分析了基于有限元法和无网格法的几何非线性柔性机构优化过程和结果,说明了无网格法的优势,并用实例说明几何非线性无网格法比线性方法能得到更符合优化目标的柔性机构拓扑形式。分析了弹簧模型的缺陷,利用应力约束方法进行了改进,使得柔性机构更适合工程实际。并利用敏度过滤技术,对基于无网格法优化结果中散乱不连续点现象进行处理,得到了结构清晰的拓扑形式。按本文线性和几何非线性方法设计的机构,利用线切割技术制造了反向器和微型钳两类柔性机构,并对这些机构进行了载荷-位移响应测试,测试结果验证了几何非线性无网格法对大变形柔性机构设计的必要性。将无网格法拓展到耦合场柔性机构优化,研究了基于无网格法的散热结构优化及线性和几何非线性热固耦合柔性机构优化技术,拓展了无网格法的应用领域。