对于非线性最优化问题寻找快速有效的算法一直是优化专家们研究的热门方向之一。非线性约束优化问题是和实际问题最接近的抽象模型，随着计算数学理论的发展，计算机性能的提高，寻求高效可靠而易于计算机实现的大规模非线性约束优化算法成为当代研究的热点。罚函数法是解决这一问题的有效的方法之一。 罚函数的构建直接影响着算法的有效性。本文在传统形式的罚函数基础上引入双曲余弦函数做罚项，构造了新的对于一般约束优化问题的双曲余弦罚函数和求解迭代公式；进一步地，又提出了求解具有等式约束优化问题的双曲罚函数乘子法。 在第一章中，我们首先简要地介绍了非线性最优化问题的提出；判断最优解常用的最优性条件及常用的几类解决方法；回顾了早期的罚函数，并介绍了增广拉格朗日函数和乘子法的演变过程及现状。 在第二章中，我们利用函数Q(t)=ch(t)-1良好的性质，提出一种用双曲余弦函数作罚项的双曲余弦罚函数及算法，证明了该罚函数和算法的合理性及迭代点列的收敛性。把它与传统的罚函数方法进行分析比较，说明新算法在一定程度上能减弱因罚因子过大而引起的病态性质，从而易于计算机的编程实现。我们做了数值实验，计算结果表明本文中所提出的方法有望提高算法收敛的速度。 在第三章中，我们把传统的增广Lagrange函数和双曲余弦函数结合，构造了一类新的在等式约束下的双曲罚函数乘子法，推导出了双曲乘子迭代公式。在一定条件下证明了算法的收敛性，并做数值实验检验了该方法的有效性。