连续和整数非凸二次规划是一类重要的最优化问题,在工程、经济和管理等领域有广泛的应用.其包含了许多重要的具有挑战性的NP-难优化问题,如二次约束非凸二次规划(QCQP),线性约束非凸二次规划(QF),二次整数规划(QIP),0-1二次规划(0-1QP)和二次背包问题(QKP)等.本文旨在研究连续和整数非凸二次规划问题的对偶理论和方法、SDP松弛和其它松弛方法及其应用.以下是本文的主要工作.(1)我们给出了一般二次/线性约束非凸二次规划问题零对偶间隙(强对偶性)和非零对偶间隙的若干新的充分条件.我们首先利用鞍点条件刻画强对偶性,然后给出了一个基于对偶最优解的零对偶间隙的新的充分条件,由于该条件只与对偶最优解有关,因而是多项式时间可检验的.对线性约束非凸二次规划问题,我们利用与鞍点条件有关的集合距离来刻画对偶间隙,该距离可用离散几何中的胞形枚举技术计算.最后,我们指出,对两类非凸二次规划问题,文献中基于原始可行解的最优性充分性条件实际上隐含了零对偶间隙成立.(2)我们提出了线性等式约束(-1,1)-二次整数规划的对偶(SDP)间隙的估计方法,从而得到了该问题SDP界的改进方法.首先,我们研究了线性等式约束(-1,1)-二次整数规划的拉格朗日对偶性质,基于{-1,1}n到一仿射空间的距离,我们给出该问题的对偶间隙的估计.另外,通过精确罚函数法或将线性约束条件化为等价范数平方约束的方法,分别得到不同的对偶松弛.进而,我们给出了这些不同松弛问题产出的界之间的关系.(3)我们给出了二次背包问题的SDP松弛及其界的改进方法.首先建立了二次背包问题对偶问题的基本性质,并给出零对偶间隙成立的充分条件.我们给出了二次背包问题对偶最优解不唯一的反例,进而给出了保证对偶最优解唯一的充要条件.通过{0,1}n到一仿射空间的距离来刻画二次背包问题的对偶间隙,并给出了在不同的情况下SDP界的改进公式.(4)我们给出了一种新的方法求线性方程组Ax=b在有界整数集合X上的解.通过计算有界整数集合X到{x∈Rn|Ax=b}的距离δ,我们可以判断线性方程组Ax=b在有界整数集X上是否有解并在有解的情况下求其一个解.该方法的关键在于把δ的计算和离散几何中胞形枚举联系起来.我们证明了判断线性方程组Ax=b在X={-1,1}n的可解性和求解可在O(nn-d)时间内完成,讨论了当X={-1,1}n时的一些多项式时间可解的情况,并将该方法推广到X={-m,…,m}n的情况,证明了线性方程组在X={-m,…,m}n可解性判断和求解可在O((2mn)n-d)时间内完成.(5)我们对线性约束非凸二次整数规划提出了一种新的整数对角化方法.通过引进矩阵半单模变换的概念,使对称矩阵对角化并同时保留可行集的整点性质,由于半单模变换得到的可分离整数规划是原问题的一个松弛,我们得到原问题的一个新的下界.我们还引入了整数对角化对偶问题并分析了半单模变换的基本性质.对非奇异的2阶有理对称矩阵,我们给出了所有半单模变换的集合.对松弛的可分离二次整数规划,我们还研究了它的拉格朗日对偶及凸松弛,并比较二者之间的关系.(6)我们对多约束二次背包问题提出了拉格朗日对偶和替代(surrogate)约束方法,该方法中所需的拉格朗日对偶界是由外逼近法和Bundle方法求解得到的,而其中的拉格朗日松弛则是用最大流算法求解.我们用替代约束启发式算法寻找可行解.对中小规模多维二次背包问题,我们给出了初步计算结果.(7)我们对线性约束非凸二次规划提出了一种新的最优D.C.分解方法.我们首先给出了一个基于最优D.C.分解的带参数的凸松弛方法,证明了最优D.C.分解-即基于D.C.分解的最紧凸松弛,可以通过求解一个SDP问题得到.该方法的优点在于：在得到一个SDP界的同时还可以通过求一个凸二次规划问题得到原问题的近似最优解.我们研究了三种特殊的D.C.分解：对角扰动,线性约束平方化,合同变换及它们的组合.最后,通过数值试验比较了不同的D.C.分解产生的下界以及文献中现有的下界之间的关系.(8)我们进一步研究了二次约束非凸二次规划的最优D.C.分解方法.对凸二次约束非凸二次规划问题,给出了几类带参数的D.C.分解,证明了其最优的D.C.分解可通过求解一个SDP问题得到.进而我们提出了一类基于约束矩阵和分片线性下逼近的最优D.C.分解,证明了相应的SDP界比经典SDP界紧.与线性约束的情况类似,该最优D.C.分解方案的优点是可以在得到SDP界的同时通过求解一个二阶锥规划得到原问题的一个近似最优解.数值试验表明,最优D.C.分解方法可以得到比较紧的SDP界及较好的近似最优解。特别地,对单二次约束非凸二次规划问题,我们给出了一个求解原问题精确最优解的算法.