在过去的几十年里,随机系统凭借其在金融、经济学和生物学等领域的广泛应用而受到愈来愈多学者的关注。在实际应用中,由于噪声的存在,往往使系统的稳定性变差甚至不稳定继而影响系统的其它性能。因此,本文利用谱技术研究了乘性噪声干扰下随机系统的稳定性,利用矩阵理论和随机分析的方法解决了随机系统的H∞以及混合H2/H∞控制问题,并借助线性矩阵不等式求解出了带有谱约束的输出反馈控制器的增益矩阵。本文主要工作可以分为以下三个部分:1.研究了状态乘性噪声干扰下连续型随机系统的谱约束静态输出反馈H2/H∞控制问题。具体来说,一方面基于谱技术定义并讨论连续型随机系统的D（-β,-α）稳定性,得到了确保闭环系统D（-β,-α）稳定性的充分条件。另一方面,进一步研究了系统的H2/H∞控制问题,通过求解最优化问题,得到了静态输出反馈控制器的参数以及最优的H2/H∞性能指标。2.利用随机系统的谱技术,进一步考虑了具有状态、控制输入和干扰依赖乘性噪声的连续型随机多智能体系统的谱约束输出反馈H∞一致性控制问题。其中,核心问题是利用邻近智能体的输出反馈信息设计控制器,使所有智能体状态达到期望的特性。借助于随机分析的方法和克罗内克积,得到了确保闭环系统满足D（-β,-α）一致性以及H∞一致性性能指标的充分条件。3.研究了具有状态、控制输入和干扰依赖乘性噪声的离散型随机系统的谱约束输出反馈H∞控制问题,同时考虑了丢包现象且丢包现象被二项分布的随机变量所描述。基于谱技术定义并讨论了离散型随机系统的D（0,α）稳定性。利用矩阵不等式技术求解出控制器参数,得到了确保闭环系统满足D（0,α）稳定性以及H∞性能的充分条件。此外,通过仿真揭示了系统收敛速率、丢包以及H∞性能指标之间的关系。