回归分析是当今统计学最为重要的分支学科之一。特别是,在线性回归问题中,著名学者Gauss以及Legendre提出了最为经典的最小二乘估计方法后,回归分析得到了非常广泛的应用。然而,在一些实际应用中发现,经典的线性回归方法在处理某些带有先验条件的实际问题时,无法对先验信息进行完整而正确的表达,导致系数估计不符合实际情况。Lawson等人在1974年针对回归系数的非负约束条件,提出了非负最小二乘问题。随后又有大批学者开始研究带约束的回归问题及其系数估计方法,使得带约束的回归方法迅速发展。1995年Vapnik与Cortes提出了新方法——支持向量回归机,成为数据挖掘中重要的方法之一,被大量应用于实际问题当中,但这个方法没有考虑约束问题。本文考虑对支持向量回归机增加约束条件,研究带有约束的线性支持向量回归机,并推广到非负约束的函数型数据回归分析问题。在约束线性支持向量回归机中,将约束条件分为:非负约束、有序约束以及线性约束三类。重点讨论了非负约束的情况,研究了如何求解带有非负约束的支持向量回归机优化问题。将原始问题和对偶问题进行对比后发现,把前者转化为带有不等式约束的凸二次规划问题,可以更为简便的实现该方法。本文做了多项数值模拟,并与其他约束回归方法进行比较看出,非负支持向量回归机可以保证估计稳定性的前提下,在预测精度方面有更好的表现。对于另外两种约束,都可以视为非负约束的变体,将原始问题变换后,均可通过与非负约束相似或相同的算法进行系数估计。此外,本文还针对北京市PM2.5数据进行了实证分析,结果表明本文方法对观测数据有着更高的拟合优度。同时,本文引入函数型数据分析方法,讨论带有非负约束的函数型数据回归分析,提出了该问题的一般形式以及优化方法,还介绍了函数型支持向量回归机的相关内容。最后对研究成果进行了总结,并针对研究过程中出现的问题进行了对策思考与展望。