现实中的投资决策是非常复杂的,很多因素都会影响投资者的决策过程。越来越多的人认识到,人的行为、心理感受等主观因素在金融投资决策中起着不可忽视的作用。传统的金融理论受到了越来越多的挑战,面对复杂的金融系统,更多的学者着眼于用复杂系统理论以及复杂系统仿真工具来解决问题。桑塔菲的研究者认为金融系统不仅包括技术专家、各种行为、市场、金融机构、工厂等实物元素,而且还包含隐藏在背后的并与实物系统起相互作用的各种心理因素,正是这些心理因素促成了宏观经济行为,推动着金融市场的演变。因此,投资者心理是市场演化重要动因,这也是本文研究的出发点。本文首先对投资者心理的研究做了一个较为系统的回顾,之后对金融复杂性的特点以及金融市场的异象的进行了分析,认为金融市场是一个自组织、自适应的复杂性系统,没有任何一种规则可使投资者在金融市场中一劳永逸地获利,而投资者的投资决策是受其情绪、心理波动以及以往经历的影响,是个性、易变的,其提出在对金融市场研究时,应该综合行为金融以及计算金融两方面来考虑。其次本文利用行为金融学中DHS模型解释了投资者心理对股票价格的信息反应过度以及反应不足的过程,以及当投资者过度自信时对股价波动的影响。同时利用信息串联的模型对羊群效应进行了解释,指出了羊群效应对股票价格的影响。最后本文提出利用元胞自动机仿真的方法来分析研究投资者的心理与股票交易量的变化以及股价波动之间的关系。经过模型仿真可以看出,投资者心理是股票市场稳定的关键因素。