演化博弈理论为研究人类社会中自私个体之间广泛存在的合作现象提供了有效的理论框架。研究各种社会困境下合作行为的涌现及维持,已成为各学科领域的研究热点。以往的一系列演化博弈理论研究已经发现或提出了各种合作行为涌现及维持的必要条件和促进机制。而由于现实社会的复杂性,个体在交互过程中表现出的多样性行为使得演化博弈理论模型得到进一步研究发展。基于现实社会中的个体行为进行理论建模是进行研究的基础,然而实际存在的一些貌似有违常理的个体行为如反社会惩罚等现象给演化博弈研究带来了新的合作困境。此外在以往大多数研究模型中,群体中只有有限几种类型的个体,并且相同类型的个体在交互过程中也表现出相同的行为,这种过于简单理论抽象的方法无法有效反映现实社会的复杂性,因而多样性个体在交互过程中的异质性行为就成了研究合作演化的一个重要问题。本文针对上述问题,在公共品博弈中研究基于反社会惩罚所带来的合作困境下的合作演化问题,以及多样性策略个体在公共品博弈中的异质性行为对合作演化的影响。首先,在反社会惩罚的出现带来的合作演化困境中,本文研究了反社会惩罚对合作演化的抑制现象,并通过引入保险合作策略,使得采用了保险策略的合作个体可以通过预防性手段来应对未来可能遭受的恶意反社会惩罚。通过仿真实验证明了保险策略是一种有效的合作机制,可以在反社会惩罚带来的合作困境中仍能有效促进合作演化。此外针对公共品博弈中个体的异质性行为对合作演化的影响,本文采用混合策略系统赋予公共品博弈模型中个体策略多样性的特性,研究个体在参与多次博弈中异质性行为对种群合作演化的影响。通过仿真实验,验证了本文所提出的基于历史交互信息的异质性投资行为对种群合作演化的促进作用。