近年来,具有物理学背景的偏微分方程及方程组在数学界引起广泛关注,众多数学和物理工作者对非线性椭圆方程及方程组的解的存在性、唯一性、多解性等性质展开了深入研究,并得到了大量优秀的成果。由于结构更加复杂,目前关于k--耦合非线性椭圆方程组的结论相对较少,方程组非平凡解的存在性、唯一性、多解性、渐近收敛行为等方面仍有许多重要的问题有待解决。系数方程组的解的存在性也为方程组的解的分类刻画带来了困难。本文旨在通过经典的变分法和椭圆方程理论,研究非线性椭圆方程组的极小能量估计和非平凡解的存在性等相关性质。首先我们考虑空间维数N≥5的临界k--耦合非线性薛定谔方程组。我们利用数学归纳法,对非线性薛定谔方程组的极小能量进行了更加精细的估计,从而得到当耦合系数全部大于零时,临界k--耦合方程组及对应的全空间上的极限方程组存在正的基态解。我们通过巧妙的构造,将方程组系数满足的代数方程组的正解存在性问题转化为极小值存在性问题,首次简洁而完整地证明了代数方程组正解的存在性,并进一步刻画出基态解的形态。该结果推广了Chen,Luo,Wu和Zou等关于方程组基态解存在性的结果,并首次给出了空间维数N≥5的临界k-耦合非线性薛定谔方程组基态解的分类结果。另外,我们将上述结果推广到空间维数N＞4s的带分数阶Laplace的临界k-耦合非线性椭圆方程组。我们系统性地研究了方程组基态解的存在性和非存在性等性质。由于含分数阶Laplace的非线性方程组更加复杂,我们在证明过程中将利用一些新技巧。此外,我们关注方程组的解的渐近收敛行为,并将Chen和Zou的相关结果推广到带分数阶Laplace的非线性椭圆方程组,同时得到另一类方程组的正的基态解的存在性。最后,我们考虑非线性耦合薛定谔方程组的正规化解问题。关于方程组的正规化解结果相对较少。正规化解的存在性可以转化为寻找能量泛函在限制下的临界点。我们研究的方程组可以看作是玻色-爱因斯坦凝聚型方程组的线性扰动,但是线性扰动项的存在使得验证极小化序列的紧性变得更加困难。我们通过Shibata重排和Schwarz对称单调递减重排得到极小化序列的收敛性,进一步证明了方程组正规化解的存在性。