复合材料具有比强度高、比模量高、性能可设计性等优点,已经被广泛应用于航空航天、汽车工业和机械制造等领域。在一些情况下,复合材料结构会受到残余振动的影响,过度的残余振动会对复合材料结构产生危害,因此需要抑制复合材料结构的残余振动。通过复合材料结构优化可以最小化其残余振动响应。本文通过优化复合材料结构的纤维角度、铺层顺序和材料选择来抑制初始激励下的复合材料结构的残余振动,同时,在论文的最后,本文考虑了复合材料结构的优化设计中纤维连续以提高优化设计的制造性。本文完成的主要工作如下:1.基于离散材料优化（Discrete Material Optimization,简称DMO）方法建立复合材料结构设计模型,将衡量复合材料结构残余振动大小的二次型积分形式的性能指标作为目标函数,同时通过李雅普诺夫方程将目标函数简化,建立了最小残余振动的复合材料结构优化模型。通过模态降阶法提高复合材料结构优化的计算效率,采用伴随法求解目标函数的灵敏度。采用应用运动极限法并结合信赖域方法的序列线性规划（Sequential Linear Programming,简称SLP）方法求解优化问题,并给出收敛准则。2.利用数值算例说明了最小初始激励下的复合材料结构残余振动优化模型的有效性。首先,通过数值算例,比较了初始激励、目标函数、阻尼系数和边界条件对优化结果的影响。然后,通过引入Patch设计变量,对受到初始激励的20层复合材料层合板进行优化设计来最小化其残余振动。最后,利用有限元分析软件ABAQUS提取复合材料结构的单元刚度矩阵和单元质量矩阵,对复合材料圆柱壳结构和复合材料类机翼结构的纤维角度和铺层顺序进行了优化设计。3.采用CFAO（Continuous Fiber Angle Optimization）方法,以复合材料的纤维角度作为设计变量,同时在优化模型中引入相邻单元纤维角度的线性约束以保证优化设计中纤维的连续性,对受到初始激励的复合材料结构的纤维角度优化来最小其残余振动。本文结果表明,通过对受到初始激励的复合材料结构优化设计,复合材料结构的残余振动明显减小。