本文从行为金融学对于EMH的质疑“投资者的完全理性”着手，分析了投资者的异质性。通过将市场上的投资者分为两种类型，建立了一个基于投资者异质的股价动力学差分方程模型。再利用非线性动力学关于差分方程解的稳定性方面的理论，研究这两类投资者影响股价的力量大小与股价稳定性之间的关系。 结果表明： 1、当两类投资者影响股价的力量都不大时，股价的波动比较稳定，长期向基本价值收敛，在这样的市场情况下，可以认为市场是有效的。 2、当趋势投资者影响股价的力量超过一定限度时，无论价值投资者影响股价的力量如何，股价波动都会越来越大。市场往往体现出来的是投机气氛很浓，人们追涨杀跌现象比较严重，市场存在严重的价格泡沫。这时的市场往往不是有效的。 3、当价值投资者影响股价的力量超过一定限度而趋势投资者影响股价的力量不大时，股价由倍周期分岔逐渐走向混沌。在混沌的状态下，股价始终呈现一种类似于随机噪声的无规则的振动状态，且长期来看，没有向基本价值收敛的趋势。这时的市场也不是有效的。另外，对中国权证市场的有效性进行了实证研究，发现该市场有效性较差。并对宝钢权证隐含波动率时间序列的做了具体的实证研究，发现该时间序列具有低维混沌的特征。