摘要
为解决入侵检测系统在学习新类攻击样本时存在的灾难性遗忘、分类偏向新类、旧类泛化能力弱等问题,提出基于对比学习和关系蒸馏的增量式入侵检测方法(incremental intrusion detection method based on contrastive learning and relational distillation,CLRD-IIDM)。首先,提出对比学习增强方法,构建具有特征提取层、投影分支和分类分支的双分支网络结构,并提出旧类补偿对比损失与之配合以增强对旧类样本的记忆;其次,提出新旧类关系蒸馏方法,提取旧模型中的新旧类相似关系并构造类关系标签,利用这些标签对新模型施加正则化约束,缓解模型对新类的分类偏向问题;最后,设计均衡偏差示例存储器,存储能够有效且全面表征旧类特征的样本以保持模型对旧类的泛化能力。在UNSW-NB15数据集上的实验结果表明,应用CLRD-IIDM的多个神经网络模型的最终准确率优于基线模型2.11%~9.78%;对比实验和消融实验结果验证了本文方法的有效性和泛化性。CLRD-IIDM能较好地适应复杂多变的现实网络环境,具有一定的应用价值。
Abstract
To solve the problems of catastrophic forgetting, classification bias towards new classes, and weak generalization ability of old classes in intrusion detection systems when learning new attack samples, an incremental intrusion detection method based on contrastive learning and relational distillation(CLRD-IIDM) is proposed. Firstly, a contrastive learning enhancement method is introduced, which constructs a dual branch network structure with the feature extraction layer, projection branch, and classification branch. The old class compensation contrastive loss is employed to cooperate with it to enhance the memory of old class samples; Secondly, the distillation method for the relationship between old and new classes is proposed, which extracts the similarity relationship between old and new classes in the old model and constructs class relationship labels. These labels are used to apply regularization constraints to the new model to alleviate the problem of classification bias towards new classes; Finally, the balanced bias example memory is designed to store samples that can effectively and comprehensively characterize the features of the old class, which maintains the model's generalization ability to the old class. The experimental results on the UNSW-NB15 dataset show that the final accuracy of multiple neural network models using CLRD-IIDM is 2.11% to 9.78% better than the baseline model. Comparative experiments and ablation experiments have demonstrated the effectiveness and generalization of the proposed method.CLRD-IIDM can adapt well to complex and ever-changing real-world network environments, and has certain practical value.
互联网、物联网等各类网络技术的大规模应用使得网络环境变得日益多样化和复杂化,导致网络空间安全面临严峻挑战。入侵检测系统(intrusion detection system,IDS)作为一种重要的安全防御手段,已成为研究的焦点[1]。
基于深度学习的IDS能够充分提取网络流量特征,且检测性能优秀,被广泛用于IDS中网络攻击检测。IDS依赖训练样本获得对网络攻击的识别能力,在不完备数据集下训练难以适应网络流量动态变化、新类别攻击不断涌现[2-3]的现实网络环境。同时,利用新类数据对IDS进行微调会遭遇深度学习固有的灾难性遗忘问题[4],即IDS在拟合新类数据的过程中会丧失对旧类的识别能力。联合新类数据和旧类数据重新训练IDS是一种有效的方法,然而,旧类数据可能会因存储成本过大和隐私问题而不可用。此外,随着新类别攻击的出现,反复重新训练IDS的高成本和低效率也使得这一方法难以在实际中应用。
增量学习方法(incremental learning,IL)允许IDS在学习新类数据的同时保留对旧类的识别能力[5]。国内外研究人员对基于增量学习的IDS展开了一系列研究。王一丰等[6]提出一种细粒度恶意流量识别方法,该方法利用变分自编码器存储原有类知识,通过旧类样本重构和知识蒸馏方法实现对原有类检测能力的保持。Amalapuram等[7]提出基于增强内存回放的增量学习方法并应用于入侵检测,该方法提出一种扩展的类平衡水库抽样算法优化旧样本存储,并提出一种参数近似扰动辅助算法优化训练过程。Du等[8]提出一种基于分支融合策略的少样本增量式IDS,该系统仅使用少量样本增量学习新的网络攻击,并在增量学习过程中微调系统参数以避免灾难性遗忘问题。综上,增量学习的相关方法主要分为两类:一类是基于正则化[9-10]的方法,即引入正则项限制模型参数的优化方向,保障模型学习到的旧类知识不会被新类知识破坏;一类是基于回放[11-13]的方法,即设置一个内存受限的示例存储器存储旧类样本,以极小的内存代价帮助模型保留旧类知识。在入侵检测任务中,基于正则化的方法由于不访问旧类数据,无法有效应对不断出现新类样本带来的数据特征分布变化问题,对旧类泛化能力较弱,因此常与基于回放的方法结合使用。而基于回放的方法仅允许模型访问少量旧类样本,在训练时,新旧类样本数据严重失衡,模型倾向于适应新类样本,分类偏向新类[14]。因此,缓解模型的分类偏向,增强模型对旧类的泛化性成为研究的关键。
基于此,本文提出基于对比学习和关系蒸馏的增量式入侵检测方法(incremental intrusion detection method based on contrastive learning and relational distillation,CLRD-IIDM)。提出对比学习增强方法,同时优化模型的特征提取能力和分类性能,并构造旧类补偿对比损失与之配合以缓解灾难性遗忘问题。提出新旧类关系蒸馏方法,缓解分类偏向问题。设计均衡偏差示例存储器,确保所存储旧类样本的特征表征能力。在多个神经网络模型上应用所提方法,并与基线模型对比以验证所提方法的有效性和泛化性。此外,通过消融实验探究所提方法中各部分对于增量式IDS识别性能提升的具体效用。
1 对比学习增强方法
对比学习[15-17]通过构建正负样本对,并在特征空间对齐语义相同的正样本对,分离语义不同的负样本对的方式增强模型的表征能力,提升模型的性能。因此,本文提出对比学习增强方法,借助对比学习的特征对齐能力学习样本的本质特征,增强模型的特征提取能力以缓解模型的灾难性遗忘问题。对比学习增强方法如图1所示。研究[17]表明,利用投影头将数据特征投影至低维潜在特征空间可以过滤原始特征中可能存在的噪声,并进一步提取数据的可泛化性特征,从而增强数据特征的可区分性。因此,在对比学习增强方法模型中插入一个投影头作为投影分支,构成由特征提取层、投影分支和分类分支组成的双分支网络结构。在投影分支中,应用对比损失优化模型的特征提取能力;在分类分支中,应用交叉熵损失优化模型的分类性能。随后,提出旧类补偿对比损失,依据分类分支对各类别的学习效果以及新旧类数量差异调整投影分支对不同类别数据特征的学习权重,对数量较少的旧类进行权重补偿,从而使模型学习到各类更具区分度的数据特征。反过来,模型特征提取能力的增强则有助于分类分支进行更好地分类,从而提升CLRD-IIDM的性能。
图
1
对比学习增强方法
Fig.
1
Contrastive learning enhancement method
1.1 双分支网络结构
双分支网络结构的具体组成如下:
1)特征提取层fFE(·):将网络流量输入fFE(·),提取数据原始特征。对于给定的网络流量样本x,特征提取层输出的原始特征可以表示为
(1)
2)投影分支gPr(·):投影分支由两层全连接层组成。特征提取层提取到的数据特征被投影分支映射到应用旧类补偿对比损失的潜在特征空间。对于给定的数据特征,投影分支输出的投影特征可以表示为
(2)
式中:W(1)、W(2)为两层全连接层的权重;σ(·)为ReLU激活函数,用于将投影分支转换成非线性结构以增强其学习与表征能力。
3)分类分支fCLS(·):基于特征提取层的输出,分类分支采用全连接神经网络对网络流量的数据类别进行分类,检测当前网络流量是否属于网络攻击。对于给定的网络流量样本x,分类分支输出可以表示为
(3)
为便于下文清晰表述,用Ψ表示由特征提取层和投影分支组成的投影网络,用Θ表示由特征提取层和分类分支组成的分类模型,用Λ表示由特征提取层、投影分支和分类分支组成的完整模型。
1.2 旧类补偿对比损失
在IDS的增量学习任务中,新旧类别数据数量失衡问题导致模型倾向于学习新类,旧类则发生不同程度的灾难性遗忘,而传统对比损失无法针对这一问题对各类别样本做出对应调整[17]。针对此局限性,本文提出旧类补偿对比损失优化模型。在模型对齐正样本对特征、分离负样本对特征时,依据模型对样本拟合程度的不同,对各类别样本进行重加权,数量较少、易被遗忘的旧类样本被重点关注以保持模型对旧类样本的记忆,进而缓解模型的灾难性遗忘问题。
具体而言,入侵检测模型当前处理任务Tn下的一个mini-batch数据Bn表示为{\begin{equation}X_{b}^{n}\end{equation},\begin{equation}Y_{b}^{n}\end{equation}}=,其中Dn为当前任务的新类数据,DM,n为示例存储器中存储的旧类样本,\begin{equation}y_{i}^{n}\end{equation}为对应样本的标签,b为Bn的batch-size。此mini-batch的传统对比损失LCON为:
(4)
(5)
式中:i∈I={1,2,···,b}为Bn中各样本的索引,A(i)={a∈I:a≠i}为Bn中除样本xi外其他样本的索引,C(i)={c∈A(i):yc=yi}为Bn中与样本xi有相同标签的样本的索引,|C(i)|为C(i)的基数,zi、zc、za分别为i、c、a对应类型的样本在潜在特征空间中的数据特征,τ为温度超参数。
由式(4)和式(5)可以看出,面对IDS增量学习任务的灾难性遗忘问题时,传统对比损失缺乏对样本学习效果差异和新旧类数据量差异的考量。因此,提出旧类补偿对比损失应对此问题。具体而言,模型对样本(\begin{equation}x_{i}^{n}\end{equation},\begin{equation}y_{i}^{n}\end{equation})的拟合程度\begin{equation}h_{i}^{n}\end{equation}定义为
(6)
式中:Pn(\begin{equation}x_{i}^{n}\end{equation},Θn)为样本(\begin{equation}x_{i}^{n}\end{equation},\begin{equation}y_{i}^{n}\end{equation})经Θn分类得到的概率分布,fCE(·)为交叉熵函数。
根据式(6)可知,模型对样本的拟合程度越差,\begin{equation}h_{i}^{n}\end{equation}越大,表明模型还没有很好地学习到该样本或者已经遗忘该样本的知识,需要加强对该样本的学习;模型对样本的拟合程度越好,\begin{equation}h_{i}^{n}\end{equation}越小,表明模型对该样本的知识掌握得越好,则需要放缓对该样本的学习。
进一步,新旧类的整体拟合程度定义为:
(7)
(8)
式中:κ(·)为条件判断函数,当变量为真时,κ(·)=1,为假时则κ(·)=0;Ynew和Yold分别为新类标签和旧类标签。
利用式(7)和式(8)计算新旧类的整体学习效果。
基于此,对于一个mini-batch数据Bn的旧类补偿对比损失LOCC-CON定义为
(9)
式中。
通过引入权重,LOCC-CON将依据旧类数量和旧类整体学习效果对数量较少的旧类进行学习补偿,增加其在对比损失中的权重占比。而对于新旧类内部的每个类别,LOCC-CON根据每个类别样本的学习效果平衡学习速度,重点处理难以学习或易被遗忘的样本,缓解模型在训练过程中的灾难性遗忘问题。
2 新旧类关系蒸馏方法
旧分类模型Θn-1中保存着旧类数据知识。当采用旧模型Θn-1预测新类数据类别时,Θn-1输出的概率分布可以看作新旧类之间的相似关系。本文利用这种类间相似关系对新类学习施加正则化约束,缓解模型的分类偏向问题。具体而言,在当前任务Tn下,利用上一个任务Tn-1的旧模型Θn-1对一个mini-batch数据进行分类,获得Θn-1对该mini-batch数据预测的概率分布Pn-1(\begin{equation}x_{i}^{n}\end{equation},Θn-1),该概率分布表示由Θn-1得出的新类样本与各旧类之间的相似程度。进一步,每个新类与各旧类之间的类关系原型计算公式定义为
(10)
(11)
通过计算每个新类与各旧类之间的类关系原型来消除可能存在的异常样本引入的噪声。
接下来,将\begin{equation}X_{b}^{n}\end{equation}的标签\begin{equation}Y_{b}^{n}\end{equation}独热编码,并将其前C·(n-1)个维度按照对应类别替换为(C为每个增量任务中的样本类别数),获得蕴含新旧类相似关系的类关系标签\begin{equation}Y_{b,r}^{n}\end{equation}。最后,利用\begin{equation}Y_{b,r}^{n}\end{equation}对新模型Θn进行类关系知识蒸馏。类关系知识蒸馏损失表达式为
(12)
式中DKL(·)为KL散度。
类关系标签对模型新类学习施加正则化约束,使得模型权重更新方向不再由新类过度主导,增强了模型对旧类知识的学习,缓解了模型对新类的分类偏向问题。具体而言,利用类关系标签对模型进行知识蒸馏这一操作使得模型在拟合新类时不仅学习新类独热编码标签中的分类信息,更新与新类相关的权重,还从类关系标签中学习新类与各旧类之间的相似关系,更新与旧类相关的权重。
此外,新旧类关系蒸馏方法作用于分类分支,与常规的交叉熵损失LCE共同优化模型参数。因此,分类分支所用的损失函数为
(13)
式中αCE和αRD为超参数,用于平衡新旧类关系蒸馏方法和交叉熵损失的权重。
3 均衡偏差示例存储器
在现实应用中,增量式IDS受限于示例存储器的内存大小,无法存储所有已学习的旧类样本,应存储对于保持旧类知识尤为有益的旧类样本,因此,本文提出均衡偏差示例存储器。该存储器利用均衡偏差示例选取方法(bias equilibrium-based sample selection method, BESS)选取有效且全面表征旧类特征的样本并进行存储。具体而言,对比学习增强方法会在潜在特征空间聚集同类样本,分离异类样本。而靠近特征中心的样本具备该类样本代表性特征,能帮助模型巩固已学习到的该类代表知识,避免特征漂移问题[18];偏离特征中心的样本反映了该类样本中更复杂多样的情况,能帮助模型学习样本中更广泛的旧类知识[19]。存储器通过存储靠近和偏离特征中心的样本来帮助模型更好地回忆旧类知识,进而提升模型对旧类的泛化能力。
对于标签为y、数量为|X|的一类样本X,其中的一条样本xi经投影网络Ψ投影得到的特征为Z(xi,Ψ),该样本距特征中心的偏差距离计算式为:
(14)
(15)
式中‖·‖2为L2范数。
在每个增量学习任务结束时,依类别计算所有样本的偏差距离。随后,采用等偏差距离间距采样的方式均衡选取新类中靠近特征中心的样本和偏离特征中心的样本进行存储,以使存储样本对旧类的特征表征更加全面。同时,依据现实数据分布更新示例存储器中各旧类的样本数量。示例存储器的内存不断随新类存储而增加,这不符合实际应用,因此,均衡偏差示例存储器的内存大小固定不变。具体而言,假设示例存储器内存为m,每个增量任务中的样本类别数为C,增量任务Tt中的各类样本为\begin{equation}D_{c}^{t}\end{equation}∈{\begin{equation}D_{c}^{t}\end{equation}}\begin{equation}_{c=1}^{C}\end{equation},则增量任务Tn完成后,示例存储器中各旧类样本的数量可表示为
(16)
总之,在当前任务训练结束后,利用BESS更新存储器中已存储的旧类样本,并选取新类样本存入存储器。BESS伪代码和均衡偏差示例存储器的更新流程伪代码如下:


4 CLRD-IIDM训练流程
CLRD-IIDM的整体训练流程如图2所示。当新类攻击样本到来时,模型开始进行增量训练。在增量任务Tn中,模型的训练样本由新类攻击样本和示例存储器中存储的旧类样本组成。将训练样本送入模型,利用对比学习增强方法和新旧类关系蒸馏方法对模型进行增量训练。当训练结束时,利用BESS选取用于存储的新旧类样本并更新均衡偏差示例存储器以保持模型对旧类的泛化能力。
图
2
CLRD-IIDM整体训练流程
Fig.
2
Overall training process of CLRD-IIDM
CLRD-IIDM训练流程伪代码如下:

5 实验结果与分析
5.1 数据集
为了评估CLRD-IIDM的性能,在UNSW-NB15数据集[20]上开展实验。UNSW-NB15数据集是由澳大利亚网络安全中心收集整理的,已被广泛应用于入侵检测研究之中。其共包含10种数据类型,即1种良性数据和9种攻击类别。实验中舍弃数据集中样本过少的Worms类。针对本文增量学习任务,UNSW-NB15数据集具体划分见表1。
表
1
UNSW-NB15数据集具体划分
Tab.
1
Specific divisions of UNSW-NB15 dataset
5.2 评价指标
采用准确率A、精确率P、召回率R作为评价指标。A用于评价模型的整体分类性能,P和R用于评价模型在识别攻击时的准确性和全面性。各评价指标的计算式如下:
(17)
(18)
(19)
式中:TP为模型正确识别为攻击样本的样本数量,FP为模型错误将正常样本识别为攻击样本的样本数量,TN为模型正确识别为正常样本的样本数量,FN为模型错误将攻击样本识别为正常样本的样本数量。
5.3 实验环境及参数设置
实验的硬件环境与软件环境见表2。
表
2
实验环境
Tab.
2
Experimental environment
实验的主要参数设置:τ设为0.07,存储器内存设为本文训练集数量的2%。此外,为了便于分析实验结果,超参数αCE和αRD均设为0.5。
5.4 不同模型效果对比实验
为验证本文所提方法的有效性和泛化性,以DNN[21]、CNN[22]、RNN[23]、CNN-GRU[24]模型作为所提方法的基础模型,并与未使用本文方法的最佳性能模型(基线)进行对比,实验结果见表3。
由表3可以看出,本文方法在CNN-GRU上取得最佳性能,在不包含旧类数据的任务1中,CNN-GRU的准确率比基线模型高5.37%,说明对比学习增强方法提升了模型提取数据本质特征的能力,增强了模型的整体性能。此外,CNN-GRU模型在精确率和召回率指标上的优势最为突出。其中,在任务3中,精确率和召回率分别比基线模型高17.25%和10.93%,这意味着CNN-GRU模型能够更精准、更全面地识别各种攻击行为。原因是基线模型在旧类上的精确率和召回率严重衰减,有的甚至降为0,即在该类上出现了严重的灾难性遗忘问题。而CNN-GRU模型在旧类补偿对比损失和新旧类关系蒸馏方法的作用下,保持了对旧类知识的记忆,对旧类的识别能力强于基线模型。对于RNN模型,其在任务3中的精确率表现相对不足。这是因为模型学习少数类的难度较大,而增量学习场景更是增大了这一难度。模型无法有效识别少数类,极大地影响了平均计算所有类别的精确率和召回率所得的整体结果。同时,受限于模型自身的拟合能力,RNN模型对少数类的识别能力较差。尽管如此,其性能依然优于基线模型。所提方法在CNN模型和DNN模型上也同样取得了整体优于基线模型的性能。总体而言,所提方法通过增强模型特征提取能力以及缓解灾难性遗忘与分类偏向问题,有效提升了增量式IDS的识别性能。
表
3
CLRD-IIDM多模型对比实验结果
Tab.
3
Comparative results of CLRD-IIDM on multiple models
5.5 对比学习增强方法实验
为探究对比学习增强方法在CLRD-IIDM的效用,本文以CNN-GRU为基准模型开展实验。实验在以下4种条件下进行:1)有投影分支并采用旧类补偿对比损失(所提方法),2)有投影分支并采用传统对比损失(无旧类补偿对比损失),3)无投影分支并采用旧类补偿对比损失(无投影分支),4)无对比学习增强方法。需要注意的是,当不采用投影分支时,旧类补偿对比损失直接应用于特征提取层。实验结果如图3所示。
由图3可知,与传统对比损失相比,旧类补偿对比损失通过调整新旧类样本学习权重使得模型在3个任务中准确率分别提升了3.12%、3.32%、5.61%。在3个增量学习任务中,对比学习增强方法中旧类补偿对比损失的应用显著提高了模型检测的准确率。尽管任务1不存在旧类样本,不需要调整模型对新旧类的学习速度,但旧类补偿对比损失仍可以根据模型对任务1中各类别样本的拟合情况平衡不同样本的学习权重,表明即使在非增量场景下,对比学习增强方法同样有助于提升模型性能;模型在任务2、任务3中的表现则说明在新旧类样本数量失衡的情况下,旧类补偿对比损失能有效保持模型对旧类的特征提取能力。此外,观察采用所提方法与无投影分支的结果,在任务3中,所提方法使模型准确率提升了9.63%。而在仅采用旧类补偿对比损失、未引入投影分支的条件下,准确率仅提升3.61%,说明投影分支对数据原始特征的低维空间映射有助于模型学习各类别更加有效的特征表示,投影分支的应用进一步增强了旧类补偿对比损失对模型性能的提升效果。
图
3
对比学习增强方法对模型性能的影响
Fig.
3
Impact of contrastive learning enhancement method on model performance
图4给出了不同条件下CNN-GRU在UNSW-NB15测试集上的混淆矩阵,以进一步具体分析投影分支和旧类补偿对比损失对模型识别能力的影响。
对比图4(a)和图4(b)可知,采用旧类补偿对比损失的模型在旧类识别上的性能显著优于采用传统对比损失的模型。在采用旧类补偿对比损失的条件下,模型对所有旧类的识别准确率为59.02%,而改为传统对比损失后,模型对所有旧类的识别准确率下降为51.50%,且后者在任务1中3个旧类上的识别准确率相比于前者下降了11.59%,表明在增量学习过程中,旧类补偿对比损失能有效帮助模型维持对旧类知识的记忆,缓解灾难性遗忘问题,而去除旧类补偿对比损失后,模型会随着增量任务的更新逐渐加重对早期旧类知识的灾难性遗忘。此外,采用旧类补偿对比损失的模型对于任务3的3个新类的识别准确率为92.57%,而采用传统对比损失的模型对这3个新类的识别准确率为91.97%,表明旧类补偿对比损失对各类样本学习速度的平衡并不会造成对新类识别能力的下降。
对比图4(a)和图4(c)可知,投影分支的缺失削弱了旧类补偿对比损失对数据特征的优化能力,导致模型对数据的识别偏向于Exploits类,同时对其他各类的识别水平出现了不同程度的下降。具体分析,投影分支通过一系列非线性变换将数据原始特征映射至低维空间,这些变换可以提取更具判别力的特征,同时压缩冗余信息,提升对比损失对数据特征的优化效果。实验结果表明,在对比学习增强方法中引入投影分支是必要的。
图
4
不同条件下CNN-GRU在UNSW-NB15测试集上的混淆矩阵
Fig.
4
Confusion matrix of CNN-GRU on the UNSW-NB15 test set under different conditions
5.6 新旧类关系蒸馏方法实验
为探究新旧类关系蒸馏方法对模型识别能力的具体影响,将完整所提方法(CLRD-IIDM)与消融掉新旧类关系蒸馏方法(CL-IIDM)应用于CNN-GRU模型的性能进行对比,结果见表4。
表
4
新旧类关系蒸馏方法消融实验结果
Tab.
4
Ablation results of the new and old class relational distillation method
由表4可知,新旧类关系蒸馏方法消融与否不会影响任务1的结果,因为任务1中仅包含新类数据,模型训练过程中不涉及新旧类关系蒸馏方法。而在任务2、任务3中,新旧类关系蒸馏方法的应用使得模型在各项指标上均获得明显的提升,这是因为新旧类关系蒸馏方法利用类关系标签对模型施加正则化约束,减少了模型对新类的分类偏向,提升了模型对旧类的识别。
图5和图6给出了采用完整所提方法的模型和消融掉新旧类关系蒸馏方法后的模型在UNSW-NB15测试集上的混淆矩阵,进一步对比分析新旧类关系蒸馏方法在模型增量训练过程中的具体效用。
由图6可以看出,消融掉新旧类关系蒸馏方法后,模型失去了类关系标签对新类学习的正则化约束,对各类别样本的预测大部分偏向Reconnaissance类,而对Exploits类和DoS类的错误预测最为明显,达到各自类别数量的36.86%和70.40%,模型在增量学习任务中出现了明显的分类偏向问题。
图
5
采用完整所提方法的模型在测试集上的混淆矩阵
Fig.
5
Confusion matrix of the model using the complete proposed method on the test set
图
6
消融新旧类关系蒸馏方法后模型在测试集上的混淆矩阵
Fig.
6
Confusion matrix of the model on the test set after ablation of the new and old class relational distillation method
对比图5和图6可以看出,消融掉新旧类关系蒸馏方法后,模型对新类的识别准确率提升了3.49%,对于两个历史增量任务中的旧类,其识别准确率分别下降了4.04%和15.12%。尽管模型在新类识别上有所改善,但这些改进主要是分类偏向问题的附加效果导致的。新旧类关系蒸馏方法中的类关系标签可以帮助模型在学习新类的同时关注新旧类之间的相似关系,消融该方法后导致模型无法有效保持对旧类知识的记忆,进而导致模型对旧类知识的遗忘。实验结果表明,新旧类关系蒸馏方法有效缓解了模型的分类偏向问题,在保证新类检测准确率无明显变化的情况下,提升了对旧类的识别能力。
5.7 均衡偏差示例存储器实验
为验证均衡偏差示例存储器在CLRD-IIDM中的效用,以CNN-GRU、DNN、RNN为基准模型,在任务1训练结束的基础上,分别采用以下方式更新示例存储器:1) 采用均衡偏差示例选取方法(存储均衡样本),2)选取偏差距离最小和最大的样本进行存储(存储非均衡样本),3)随机选取样本进行存储(存储随机样本)。随后在任务2、任务3中对比存储器中不同样本类型对模型性能的影响,结果如图7所示。
由图7可以看出,存储均衡样本使得CNN-GRU模型在任务3上的准确率比存储非均衡样本提高了5.40%。在相同的对比条件下,DNN模型在任务3中的准确率提高了4.95%,RNN模型在任务3中的准确率提高了3.89%。尽管在任务2中存储均衡样本相比存储非均衡样本对3个模型的优势不如在任务3中明显,但准确率仍然提升了2.35%~3.46%。尽管偏离中心的样本有助于提升对比学习增强方法的效果,但存储偏差距离最小和最大的样本使得存储的样本类型过于单一,且数据集中存在一些位于数据分布边缘的异常样本,其对模型性能的提升是有害的。存储偏差距离最小和最大的样本的方法将这些位于数据分布边缘的异常样本过多地存入存储器中,在模型训练时,影响了对比学习增强方法对数据特征的提取能力,降低了模型的检测性能。与之相反,均衡偏差示例选取方法从整个类别的数据分布中选取旧类样本,避免异常样本过多存储的同时,提高了存储样本的特征表征全面性。此外,对比存储均衡样本与存储随机样本的结果可知,在3个模型上,存储均衡样本的准确率均高于存储随机样本,说明均衡偏差示例选取方法选取的样本更有效地表征了旧类特征,模型记忆到了更多的旧类知识。综上,存储均衡样本的均衡偏差示例存储器能保证回放样本对旧类数据有效全面的特征表征,更有助于模型对旧类知识的保持。
图
7
示例存储器中不同样本类型对模型性能的影响
Fig.
7
Impact of different sample types in the sample memory on the model performance
6 结论
1)本文提出了基于对比学习和关系蒸馏的增量式入侵检测方法,由对比学习增强方法、新旧类关系蒸馏方法和均衡偏差示例存储器3部分构成。
2)对比学习增强方法通过双分支网络结构和旧类补偿对比损失增强了IDS的特征提取能力,缓解了IDS的灾难性遗忘问题。
3)旧类关系蒸馏方法能够在模型训练时对新类学习施加正则化约束,有效缓解了模型的分类偏向问题。
4)均衡偏差示例存储器通过存储并回放有效全面表征旧类特征的旧类样本,有效保持了模型对旧类攻击的泛化能力。
5)在多个神经网络模型上的对比实验与消融实验显示,应用本文所提方法后,模型在学习新类攻击样本的同时更有效地保持了对旧类的识别能力,表明了本文所提方法的泛化性和有效性,为设计、应用于现代网络环境的IDS提供了可靠参考。

