在科学和工程领域，含有无理项的非线性系统经常出现，如：非线性的弹性力，油膜力等。对于无理非线性系统的研究，现有的谐波平衡法，哈密尔顿方法，参数展开法，无理项泰勒展开等方法，仅得到了系统的近似周期解、近似频率等。在这些方法中将无理非线性系统转化为的多项式系统仅仅是原系统的一种局部近似，且对于本论文中的系统来说，会丢失系统固有的特性。所以，本文在避免展开无理项恢复力的前提下，针对一个含有无理项的非线性系统提出三种无理型椭圆函数来精确地表达系统的解析解。并通过解析解的应用，可以得到扰动系统的混沌阈值曲线。通过该阈值曲线可以预测系统的参数对该系统混沌振动的影响，即混沌出现(消失)时的参数的临界值，从而为工程应用中系统参数的选择提供了参考。本文的主要内容如下：首先对本文中未扰系统的平衡点，Hamilton量，势能曲线及相图进行了分析。并引入了参数k，将系统能量与相图中的轨道联系起来。从而针对不同的参数范围建立了系统的第一类无理型椭圆函数，第二类无理型椭圆函数，同宿轨道函数以及第三类无理型椭圆函数，并分别研究了这些函数的基本性质及对系统解析解的表示。在所建立的系统的同宿轨道函数的基础上，得到同宿轨道的Melnikov函数，并运用数值积分法得到小扰动情况下系统出现Smale马蹄变换意义下的混沌阈值曲线。通过该阈值曲线预测系统中外激励幅值f0，阻尼比，以及外激励频率对系统的混沌振动的影响，即混沌振动出现（消失）的临界值。运用数值方法分析了受扰系统的每个参数对系统的影响，分别给出了外激励幅值，阻尼比，以及外激励频率的分岔图，及特定值下周期解或混沌解的时间历程图，相图和庞加莱截面图。这些结果不仅验证了前面的预测，也对系统的复杂非线性动力学行为有了更深的理解。