寡头垄断市场中厂商的竞争行为一直是经济学家研究的热点领域之一。本文应用非线性科学中的分岔与混沌理论以及相关的经济学理论，对一类寡头博弈模型进行了深入而细致的研究。首先建立了不同预期条件下的三寡头离散动力系统模型，然后通过引入延迟决策，建立了不同预期条件下的四寡头离散动力系统模型，两个模型都以产量为决策变量。由于在现实的市场竞争中，有的厂商采取以产量作为决策变量的策略，有的则以价格作为决策变量，而且寡头之间的产品具有差异性，本文针对这一类市场情况建立了具有产品差异性的古诺-伯川德混合模型。全文深入剖析了三类模型随着参数变化表现出的复杂动力学行为，得到了一些具有理论指导意义和实际应用价值的结论。全文主要创新性工作如下：1.在微观经济学中，总成本函数和需求函数都是非线性的形式。总成本函数曲线的拐点落在第一象限，其斜率在定义域内一直是非负的，斜率在拐点左侧递减到零，在拐点右侧逐渐递增，这类似于三次曲线形式中的一种。本文首次引入三次成本曲线，结合二次需求函数建立了非线性寡头产量博弈模型，使之更加接近真实的市场情况。2.由于市场中厂商的决策类型不尽相同，其对未来的预期也不同。本文在假设厂商分别具有静态预期、自适应预期、有限理性预期和延迟有限理性预期的条件下，建立了不同预期的三寡头产量博弈模型和四寡头产量博弈模型，重点考察具有不同预期厂商的参数变化对市场稳定性的影响，并分析了四寡头产量博弈模型中延迟决策对系统的影响。3.在古诺模型和伯川德模型的基础上，本文研究了一个相比于以往寡头博弈模型更一般化的模型，即古诺-伯川德混合模型。在该模型中，厂商1是古诺型寡头，以产量为决策变量；厂商2是伯川德型寡头，以价格为决策变量。文中详细分析了产量调整速度和价格调整速度的变化对市场稳定性的影响。4.本文研究了古诺-伯川德混合模型中产品差异性对市场竞争的影响。结果表明：寡头间不同程度的产品差异性会使市场演化到不同的状态，厂商刻意追求较大的差异性容易使市场失稳，甚至会陷入对所有厂商都不利的混沌状态。5.本文通过对市场中出现的混沌现象施加有效控制，使得分岔和混沌现象被推迟或消失，系统稳定到纳什均衡点处，市场重新回到有序的竞争状态。本文给出了混沌控制的经济学解释，为经济管理中的现实问题提供了理论参考。