在现实世界中,事物以及事物之间的关系是极其复杂的,由于客观存在的随机性、模糊性以及某些事物或现象体现的不充分性,导致人们对事物的认识往往是不精确、不完全的,具有一定程度的不确定性。不确定性普遍存在于经济、工程、环境、社会科学和商业管理等领域的许多重要问题中。概率论、模糊集理论和区间数学是常用的处理不确定性问题的数学工具,其中概率论和模糊集理论是分别处理随机性和模糊性的有力工具。软集理论是Molodtsov于1999年从参数化角度提出的一种新的处理不确定性问题的数学工具,模糊集合可以看作是一种特殊的软集合。目前,软集理论已经成功应用到许多领域如运筹学、测度论、博弈论、企业竞争力的综合评价、文本分类、数据挖掘、农村土地使用权的估价、信用资料的处理、外贸进出口量的预测、医疗诊断、洪水预测、决策等等。同时,软集合理论方面的研究也在不断完善,大体可分为三个方向:一是继续探讨软集合本身所具有的性质,如定义新的运算、提出软集合的子类等;二是在软集合上讨论各种代数结构,如软群、软环、软模、软BCK/BCI代数、软BCH代数等;三是将软集合与已有的各种处理不确定性的方法相结合,如模糊软集合、直觉模糊软集合、区间值模糊软集合等。本文继续探讨软集合的理论和应用,提出了软P-超群和软超模,结合软集合和2型模糊集合定义了2型模糊软集合,并研究其在决策中的应用。同时阐明了决策、推理、知识编译之间的关系,并指出基于扩展规则的知识编译方法的不足,提出了两种有效的启发式策略分别用于指导待扩展子句和变量的选择,降低了知识编译后目标子句集的规模,进而提高了在线推理的效率。本文的创新成果具体如下:首先,我们讨论了软集合的代数超结构,代数超结构是代数结构的扩展。我们定义了软P-超群、正规软P-超群、软子P-超群、正规软子P-超群,并且在它们的基础上讨论了软集合的各种运算,得到了一些相关性质。同时,我们研究了软P-超群的同态和同构,证明了软P-超群的三个同构定理。超模是另一种代数超结构,我们继续讨论了软集合的代数超结构,给出软超模、软子超模的定义并得到一些基本性质。相应地,利用软超模的同态与同构我们证明了软超模的三个同构定理。进一步,利用正规模糊子超模的概念,我们证明了软超模的三个模糊同构定理。其次,我们结合软集合与2型模糊集合,提出了2型模糊软集合,作为模糊软集合的扩展。2型模糊集合是在模糊集合的基础上提出的,它比模糊集合具有更强的表达能力。因此,2型模糊软集合比模糊软集合具有更强的处理不确定性问题的能力。我们定义了2型模糊软集合的交、并、补等基本运算,并且证明一些基本定律的成立。同时,利用2型模糊软集合的水平软集合的概念,提出了一种基于2型模糊软集合的灵活决策方法。其优点主要体现在如下两个方面:一是不用直接处理2型模糊软集合,降低了计算的复杂性;二是该算法具有灵活性,可以根据决策者的偏好来得到不同的决策结果。最后,我们提出了基于启发式策略的扩展规则知识编译方法。知识编译将推理过程分为两个阶段:离线编译阶段和在线推理阶段。离线编译阶段得到的知识库规模对之后的在线推理的效率起着至关重要的作用。我们对基于扩展规则的知识编译方法进行深入研究后发现,该方法对待扩展子句的选择没有考虑子句之间的内在关系,而且在选择变量进行扩展时,没有使用任何启发式策略,只是采用顺序扩展的方式。为了减小编译后的子句集规模,我们提出了两种启发式策略MCN策略和MO策略分别用于指导扩展过程中子句与变量的选择。实验结果表明,MCN策略和MO策略都可以大幅度减小编译后的子句集规模,两种启发式策略同时使用,效果更为明显。