论文部分内容阅读
互联网技术及其应用的飞速发展,使得许多创新型网络应用广泛部署于我们生活中的不同领域,如线上交易、线上拍卖、网上银行和在线考试等。这种广泛应用导致了网络用户的持续增长,并且带来了一些缺陷,例如大量数据流的产生、潜在漏洞的出现,以及可疑连接数量的增加。此外,许多能够执行不同类型网络攻击的自动工具被开发了出来,他们会带来一系列例如系统损坏、个人信息盗窃和曝光、未授权的非法访问,以及数据污染等灾难性后果。因此,对这些攻击的检测,成为了网络安全问题的一个重要部分。在此背景下,入侵检测系统被设计用于检测和防止入侵者,以避免可能的网络攻击会对企业所带来的数据损害和财产损失。
入侵检测系统(IDS)是网络安全基础设施中必不可少的一部分,它可以确保和保护网络安全,抵抗网络漏洞。入侵检测系统能够通过收集审核数据来监控网络的内部活动,它通过标记可能的非法事件或者即将到来的威胁,对收集到的数据进行识别,并通过建立对管理员的响应,来阻止入侵者。目前,入侵检测系统的发展主要存在两个挑战,第一个挑战是对于新出现的攻击类型,应该如何分类和处理,该问题的产生源于,监控数据的显著重叠使得计算机网络中的正常行为和异常行为难以区分;第二个挑战是如何设计能够实时有效的检举异常行为的自适应入侵检测系统,现有的入侵检测系统会随着时间的推移逐渐变得低效,这使得对新攻击模式的永久性覆盖成为了不可实现的目标。这些挑战促使我们设计一种更加先进的入侵检测机制。
许多研究已经将人工智能应用在了入侵检测系统当中,例如数据挖掘技术、基于规则的技术,和机器学习技术等。在计算机学科的很多领域,人工智能都倍受关注,它包括了许多的统计学方法,能够对具有多个自变量和因变量的问题进行学习,预测和分类。这些优点启发我们提出了使用不同的人工智能技术来辅助构建入侵检测系统的思路。
本文对人工智能的两个子领域,神经网络和进化算法,进行了实验探究。研究人员已经证明了,一些众所周知的技术,例如神经网络,往往无法解决内在问题,这是因为学习的过程仍然是一个对输入到输出进行广义映射的复杂过程。另外一种被称为深度神经网络(DNN)的神经网络模型,以分层的方式对信息进行阶段性的处理,来进行模式分类和特征或者表征学习。此外,权重学习任务在机器学习中也是必不可少的。
神经网络学习是一项复杂的任务,但是它对于需要建立训练行为的问题具有非常重要的意义。神经网络的学习可以被具体化为优化问题,我们需要一个更强大的工具,来解决神经网络在训练中的优化问题。本文提出了一种新的神经网络计算方法,利用进化算法来更新神经网络的权值,称为“进化神经网络”(ENN)。进化算法和神经网络相结合,构成了进化神经网络,并且,进化神经网络确实能够检测到一类已有文献报道了的入侵行为,且使用传统训练算法的神经网络无法检测到该入侵行为。此外,为了克服深度神经网络的局限性,我们提出了一种新的混合算法,该算法在传统的神经网络训练算法的内部使用进化算法,以优化最优解,并且加速神经网络收敛至局部最小值。
总的来说,我们的工作利用元启发式算法和人工神经网络的优点来克服上述提到的困难。这些内容可以分为三个部分,且对入侵检测和人工智能领域都有所贡献。尽管本文研究的重点是将自然激励优化算法等先进技术应用到入侵检测中,但是对一般的机器学习领域也做出了些许贡献。在第四部分中,我们开发出了一种先进的进化算法并将其应用于全局优化问题,最终,该方法可以应用到入侵检测系统中。
更准确的来说,本文主要研究如何利用进化算法来训练不同的神经网络权值,以建立先进的入侵检测系统。我们首先研究了一种新的称为“多元优化算法”的进化算法,用于训练神经网络的权值以及开发先进的入侵检测系统。然而,基于神经网络的入侵检测存在两个问题,即训练算法和数据集的问题。为了克服训练算法的局限性以及避免陷入局部最优,我们使用前面提出的多元优化器进行神经网络的训练,以获得合适的权值。此外,我们需要一个均衡的数据集,其数据集的分布不受某类攻击的限制,以避免过拟合问题。最近被开发的UNSW-NB15数据集作为IDS评估的基准,它解决了cup99数据集存在的问题,正是我们需要的数据集。本文将所提的第一个方法与其他算法进行了比较,验证了算法的性能和有效性,并通过VisualStudio实验,证明了所提第一个算法比文献中提到的其他算法具有更高的效率和更好的性能。
其次,我们首次提出了一种处理前馈神经网络训练问题的有效技术,它基于最新提出的元启发式优化算法中的蝗群算法。我们的建议是,将其应用于入侵检测系统,以建立一个先进的检测视角。蝗群算法是一种基于群的元启发式算法,这种方法的优点是避免了过早收敛,以及避免了探索与开发之间的平衡对于权重集的获取的正向影响。我们也将提出的第二种算法与文献中的其他算法进行了实验对比,仿真结果表明,该算法取得了良好的效果,提高了检测率,并且成功检测到了新的攻击。
接着,我们提出了另一种在输入和输出之间具有多层结构的神经网络,深度神经网络(DNN)。DNN的训练需要非常强大的优化器。由于进化算子具有较高的局部最优避免能力,可以降低算法停滞在局部最优解的概率,因此取代了传统的训练方法例如反向传播算法。将进化算法与反向传播算法相结合,可以解决上述提到的问题,或者说可以在问题解决上优于传统的DNN。为了提高DNN的性能,我们提出了一种模拟退火和反向传播相结合的训练方法,通过与现有算法的对比试验,我们证实了第三种方法有很大概率能够成为IDS存在的问题的解决方案之一。
除了上述关于进化算法及其应用的研究,本文还进行了全局优化问题和多目标优化问题的求解。事实上,最优化已经被广泛应用于物理、医学、经济学和计算机科学等各个领域。进化算法也与元启发式算法相关,元启发式算法在解决生活中普遍存在的优化问题上表现出了很强的竞争力,此外,也有许多其他优化算法在探索生物学过程或者自然进化过程中被提了出来。
最后,为了解决全局优化问题,我们提出了一种新的基于种群的优化技术,我们称之为“多维竞争优化器”。我们的基本思路是,在不同域之间引入一种成对竞争机制,并采用一种新颖的更新策略,使得其他域能够向成功域学习。这项工作在另一方面,也提出了一个多目标版本的多维竞争优化器,它带有一个能够显示算法快速收敛到帕累托前沿的简单结构。基于大量的标准基准的数学问题,我们证明了我们所提出的方法在单目标优化问题上的性能,我们所得到的结果表明,相较于许多最新的元启发式算法,我们所提出的算法在整体性能上,包括获得的解的质量、计算效率和收敛速度等方面都具有较好的表现。在多目标优化问题中,我们使用10个多目标基准,包含了5个无约束问题,3个约束问题,以及2个工程设计问题,对我们所提出了多目标优化方法,进行了评估,并且与其他算法进行了比较,实验结果表明,我们的方法在定量和定性方面都具有一定的竞争力。
入侵检测系统(IDS)是网络安全基础设施中必不可少的一部分,它可以确保和保护网络安全,抵抗网络漏洞。入侵检测系统能够通过收集审核数据来监控网络的内部活动,它通过标记可能的非法事件或者即将到来的威胁,对收集到的数据进行识别,并通过建立对管理员的响应,来阻止入侵者。目前,入侵检测系统的发展主要存在两个挑战,第一个挑战是对于新出现的攻击类型,应该如何分类和处理,该问题的产生源于,监控数据的显著重叠使得计算机网络中的正常行为和异常行为难以区分;第二个挑战是如何设计能够实时有效的检举异常行为的自适应入侵检测系统,现有的入侵检测系统会随着时间的推移逐渐变得低效,这使得对新攻击模式的永久性覆盖成为了不可实现的目标。这些挑战促使我们设计一种更加先进的入侵检测机制。
许多研究已经将人工智能应用在了入侵检测系统当中,例如数据挖掘技术、基于规则的技术,和机器学习技术等。在计算机学科的很多领域,人工智能都倍受关注,它包括了许多的统计学方法,能够对具有多个自变量和因变量的问题进行学习,预测和分类。这些优点启发我们提出了使用不同的人工智能技术来辅助构建入侵检测系统的思路。
本文对人工智能的两个子领域,神经网络和进化算法,进行了实验探究。研究人员已经证明了,一些众所周知的技术,例如神经网络,往往无法解决内在问题,这是因为学习的过程仍然是一个对输入到输出进行广义映射的复杂过程。另外一种被称为深度神经网络(DNN)的神经网络模型,以分层的方式对信息进行阶段性的处理,来进行模式分类和特征或者表征学习。此外,权重学习任务在机器学习中也是必不可少的。
神经网络学习是一项复杂的任务,但是它对于需要建立训练行为的问题具有非常重要的意义。神经网络的学习可以被具体化为优化问题,我们需要一个更强大的工具,来解决神经网络在训练中的优化问题。本文提出了一种新的神经网络计算方法,利用进化算法来更新神经网络的权值,称为“进化神经网络”(ENN)。进化算法和神经网络相结合,构成了进化神经网络,并且,进化神经网络确实能够检测到一类已有文献报道了的入侵行为,且使用传统训练算法的神经网络无法检测到该入侵行为。此外,为了克服深度神经网络的局限性,我们提出了一种新的混合算法,该算法在传统的神经网络训练算法的内部使用进化算法,以优化最优解,并且加速神经网络收敛至局部最小值。
总的来说,我们的工作利用元启发式算法和人工神经网络的优点来克服上述提到的困难。这些内容可以分为三个部分,且对入侵检测和人工智能领域都有所贡献。尽管本文研究的重点是将自然激励优化算法等先进技术应用到入侵检测中,但是对一般的机器学习领域也做出了些许贡献。在第四部分中,我们开发出了一种先进的进化算法并将其应用于全局优化问题,最终,该方法可以应用到入侵检测系统中。
更准确的来说,本文主要研究如何利用进化算法来训练不同的神经网络权值,以建立先进的入侵检测系统。我们首先研究了一种新的称为“多元优化算法”的进化算法,用于训练神经网络的权值以及开发先进的入侵检测系统。然而,基于神经网络的入侵检测存在两个问题,即训练算法和数据集的问题。为了克服训练算法的局限性以及避免陷入局部最优,我们使用前面提出的多元优化器进行神经网络的训练,以获得合适的权值。此外,我们需要一个均衡的数据集,其数据集的分布不受某类攻击的限制,以避免过拟合问题。最近被开发的UNSW-NB15数据集作为IDS评估的基准,它解决了cup99数据集存在的问题,正是我们需要的数据集。本文将所提的第一个方法与其他算法进行了比较,验证了算法的性能和有效性,并通过VisualStudio实验,证明了所提第一个算法比文献中提到的其他算法具有更高的效率和更好的性能。
其次,我们首次提出了一种处理前馈神经网络训练问题的有效技术,它基于最新提出的元启发式优化算法中的蝗群算法。我们的建议是,将其应用于入侵检测系统,以建立一个先进的检测视角。蝗群算法是一种基于群的元启发式算法,这种方法的优点是避免了过早收敛,以及避免了探索与开发之间的平衡对于权重集的获取的正向影响。我们也将提出的第二种算法与文献中的其他算法进行了实验对比,仿真结果表明,该算法取得了良好的效果,提高了检测率,并且成功检测到了新的攻击。
接着,我们提出了另一种在输入和输出之间具有多层结构的神经网络,深度神经网络(DNN)。DNN的训练需要非常强大的优化器。由于进化算子具有较高的局部最优避免能力,可以降低算法停滞在局部最优解的概率,因此取代了传统的训练方法例如反向传播算法。将进化算法与反向传播算法相结合,可以解决上述提到的问题,或者说可以在问题解决上优于传统的DNN。为了提高DNN的性能,我们提出了一种模拟退火和反向传播相结合的训练方法,通过与现有算法的对比试验,我们证实了第三种方法有很大概率能够成为IDS存在的问题的解决方案之一。
除了上述关于进化算法及其应用的研究,本文还进行了全局优化问题和多目标优化问题的求解。事实上,最优化已经被广泛应用于物理、医学、经济学和计算机科学等各个领域。进化算法也与元启发式算法相关,元启发式算法在解决生活中普遍存在的优化问题上表现出了很强的竞争力,此外,也有许多其他优化算法在探索生物学过程或者自然进化过程中被提了出来。
最后,为了解决全局优化问题,我们提出了一种新的基于种群的优化技术,我们称之为“多维竞争优化器”。我们的基本思路是,在不同域之间引入一种成对竞争机制,并采用一种新颖的更新策略,使得其他域能够向成功域学习。这项工作在另一方面,也提出了一个多目标版本的多维竞争优化器,它带有一个能够显示算法快速收敛到帕累托前沿的简单结构。基于大量的标准基准的数学问题,我们证明了我们所提出的方法在单目标优化问题上的性能,我们所得到的结果表明,相较于许多最新的元启发式算法,我们所提出的算法在整体性能上,包括获得的解的质量、计算效率和收敛速度等方面都具有较好的表现。在多目标优化问题中,我们使用10个多目标基准,包含了5个无约束问题,3个约束问题,以及2个工程设计问题,对我们所提出了多目标优化方法,进行了评估,并且与其他算法进行了比较,实验结果表明,我们的方法在定量和定性方面都具有一定的竞争力。