随网络技术不断发展,网络攻击手段逐渐复杂化、多样化,因此如何有效检测出互联网边界与终端内部的恶意攻击对维护网络安全具有重大意义。本文主要工作研究内容围绕web攻击检测和主机入侵检测两个维度展开,具体内容如下:（1）提出基于BERT的web攻击检测方法。传统基于规则的web攻击检测方法需要人工设计添加规则,规则较多时消耗的计算资源会增长并降低检测效率,且无法识别未知攻击;近年基于深度学习的web攻击检测相关研究大多仅对http请求的url及参数部分进行检测而遗漏了部分存在于http请求其余字段的恶意攻击。针对上述问题本文基于BERT提出了两种对http请求进行全量检测的web攻击检测方法,对BERT提出改进,基于其表征输出分别在网络后增加LSTM和Transformer,用于融合特征使BERT支持长文本的输入。两种检测模型均使用出行服务网站真实数据集作为训练集,使用网站真实数据集的测试集部分验证其检测效果,使用CSIC2010公开数据集作为测试集验证模型的泛化能力。实验结果表明两种模型均可在保证检测效率的前提下有效的识别网站真实数据集中的正常流量及异常流量,且使用Transformer的检测模型在两种测试集上表现更好。（2）提出基于关联规则的主机入侵检测方法。传统日志分析手段对日志通过规则匹配或神经网络模型对日志逐条解析并给出检测结果,没有学习到日志数据之间隐含的关联信息,无法检测出由多条日志关联分析才能发现的入侵行为。针对上述问题本文基于关联规则挖掘算法Apriori提出了一种主机入侵检测模型,使用Sot M34数据集作为训练集用于关联规则的挖掘,并使用Elastic Stack技术与wazuh搭建入侵检测平台用于数据采集、存储与展示。最后通过正常日志数据与执行自动化攻击工具采集到的异常日志数据结合,验证模型的检测能力,实验结果表明该模型能够有效检测出多条日志关联构成的入侵行为。