凸性和广义凸性在优化问题、均衡问题和变分不等式问题研究中起着非常重要的作用,这主要是因为凸函数在凸集上的局部极值也一定是其全局极值.但是,凸函数的局限性也十分明显.因为实际问题中的大量函数都是非凸函数.为进一步满足解决实际问题的需要,人们对凸性概念作了多种形式的推广.因此,研究凸性的各种推广形式及其在最优化理论中的应用是一件十分重要而有意义的事情. 本文主要内容如下： 第一章：综述广义凸函数和广义单调性的研究意义和研究现状. 第二章：因为杨新民等在文献[8]中提出了广义不变单调概念,并研究了一些广义不变单调性和广义不变凸之间的关系.本章给出八个反例说明[8]中一些实例是错误的,并给出九个新的、合适的实例来说明(伪、拟)单调和不变(伪、拟)单调性之间的关系,修正了[8]中的Remark 2.5. 第三章：因为M.A.Noor等在文献[9]中引入了α-不变凸,α-预不变凸,αη-单调的概念,本章系统研究了(伪、拟)α-预不变凸,(严格、强、伪、拟)α-不变凸和(严格、强、伪、拟)αη-单调性之间的关系,并给出一系列实例. 第四章：本章在文献[6]基础上提出了严格半-B-预不变凸函数的概念,并给出严格半-B-预不变凸函数的一些性质,推广了[5,14]中的结论.