随着人工智能、大数据等技术的快速发展,诸如数据加密、身份认证等传统网络安全被动防御技术已经无法完全抵御智能化、复杂化、多样化的网络攻击,网络攻击在成功突破被动防御措施后将对信息系统产生致命的危害。针对上述问题,本文以入侵检测和策略决策为核心,对网络安全主动防御技术展开研究,实现对信息系统的实时检测、脆弱评估、策略决策三阶段在线主动防御。针对当前入侵检测技术存在的问题,本文结合群体智能优化算法、机器学习算法提出了两种入侵检测方法。首先基于堆叠稀疏自动编码器对数据维度进行压缩,形成新的特征子集;然后使用混沌映射和随机游走对麻雀搜索算法进行改进,提高算法搜索和开拓能力;最后使用改进麻雀搜索算法分别对支持向量机和极限学习机进行模型优化,进而得到两种入侵检测方法,提升异常检测效果。针对当前网络攻防双方的对抗关系,本文结合博弈模型、强化学习提出了一种防御策略决策方法。首先提出一种基于攻击图和通用漏洞评分系统的脆弱性评估模型,以此降低博弈模型复杂度;然后将网络攻防问题设计为多阶段随机博弈模型;最后将强化学习Minimax-Q算法引入博弈模型,该算法可以通过多次学习之后收敛得到最优的防御策略,进而兼顾防御过程中风险和资源两者带来的影响。多组对比实验表明,本文提出的两种入侵检测方法在NSL-KDD和UNSWNB15两种数据集下的分类任务中均取得了比传统机器学习算法更佳的检测结果,且有效提高了原始算法的检测速度。同时,本文提出的融合博弈模型和强化学习的防御策略决策方法在网络攻防中可以成功预测大部分攻击意图,在面对理性攻击者时具有比其他方法更高的防御胜率,且与相关工作对比显示,本文所提方法更加适用于真实复杂的网络环境。因此,本文的研究工作对加强网络空间安全建设具有指导意义和实用价值。