煤层钻机由于其独特的优势,被广泛应用于煤矿的瓦斯抽采中。但在实际钻进中,由于松软煤层特性和钻头的再生切削作用,导致钻柱系统产生自激振动,自激振动包括轴向振动、横向振动和扭转振动。这些自激振动会使钻进系统失稳,轻则破坏成孔质量、降低钻进效率,重则导致钻具破碎和卡钻、塌孔等严重事故。所以,本文以煤层钻进中的钻柱系统为研究对象,研究自激振动的特性和线性稳定性,寻找控制、避免自激振动的方法,主要工作和结论如下:（1）建立了钻柱系统的轴向—扭转耦合模型,考虑钻头的再生切削作用,建立状态依赖延迟（SDD）和常延迟（CD）两种延迟模型。首先分析了 SDD模型在低转速（0～10rad/s）下的粘滑振动特性。模型在Ωrot=5 rad/s时发生了典型的粘滑振动,表现为粘滞时期的扭矩积累和滑动时期的速度突变。同时,随着系统输入转速从5rad/s增大到10rad/s时,粘滑振动会逐渐消失。对比SDD模型和CD模型在输入转速为50rad/s时特性发现,SDD模型所得到系统输出特性要比CD模型更精确。同时,系统输入转速的不同会对模型有很大影响。（2）对轴向—扭转耦合模型进行了线性稳定性分析。在小控制参数ρ情况下,常延迟和状态依赖延迟稳定性差异不大,但随着控制参数ρ的增大,SDD模型的稳定性区间逐渐增大,且明显高于CD模型。分别对系统的纯轴向振动、纯扭转振动和轴向扭转耦合振动进行分析。结果表明,轴向振动起着稳定扭转振动的作用。在对控制参数ρ与输入转速Ω之间的线性稳定性过程中发现,系统的低转速失稳形式为粘滑振动;系统的高转速失稳形式为钻头反弹。（3）利用多尺度法对考虑SDD和CD的轴向—扭转耦合模型进行霍普夫分岔分析。在CD模型下,系统只存在次临界霍普夫分岔区域;在SDD模型下,系统的霍普夫分岔现象依赖于控制参数ρ,随着ρ的增大,稳定性叶瓣图右侧的次临界霍普夫分岔点会逐步转化为超临界霍普夫分岔点。通过对SDD模型失稳幅值的研究发现,钻具系统粘滑振动的振幅随着切削深度的增加不断增大,在相同的参数条件下,高转速的钻进系统要想出现失稳现象需要更大的切削深度。（4）对钻柱的横向振动进行分析,分别建立了钻柱涡动模型和考虑钻头横向切削的轴向—扭转—横向耦合模型。研究发现钻柱涡动主要存在三个阶段。分析了钻柱在涡动下所受流体力和接触力对涡动平衡点（涡动偏心距,涡动转速）影响。结果表明,钻柱与孔壁不连续的法向接触力和切向接触力导致了系统平衡点鞍结分岔的发生,钻柱所受流体力是涡动的主要原因。通过对比轴向—扭转—横向耦合模型和轴向—扭转耦合模型发现,在模型的切削力和频率成分中,占主导因素的仍是轴向振动。但幅值和频率比轴向振动更小的横向振动会使系统变得极不稳定。本文的自激振动特性和稳定性研究可以为煤层钻进的稳定性预测及钻柱结构的动态优化设计提供参考依据。从抑制自激振动的角度提高煤层深孔成孔率,进而保证煤矿开采的安全、高效。