改进ET-BERT的加密流量分类模型
万嘉彬
黎远松
石睿
廖婉婷
四川轻化工大学 计算机科学与工程学院,四川 宜宾 643002
摘要：针对传统加密流量-基于变换器的双向编码器表示(encrypted traffic-bidirectional encoder representations from Transformer,ET-BERT)模型在加密流量分类任务中精度较低的问题,在复现原ET-BERT模型的基础上进行了结构优化与性能改进.首先,引入了学习率预热(learning rate warmup,Warmup)策略,以平滑模型训练过程并提升收敛稳定性.其次,设计了卷积神经网络-BERT(convolutional neural network-BERT,CNN-BERT)融合模块,在保留Transformer模型全局建模能力的同时,加强了局部特征提取能力.最后,加入了随机失活层以减少过拟合,提升模型泛化性能.实验在轻量化加密流量数据集上进行,结果表明,改进ET-BERT模型在F1 分数(F1-score,F1)、准确率(accuracy,ACC)上较原ET-BERT模型分别提升4.70、4.36个百分点,实现了高精度的流量分类.研究表明,改进ET-BERT模型能有效提升ET-BERT模型的分类精度,为加密流量分类模型的优化提供了可靠的技术路径.
关键词：ET-BERT加密流量分类轻量化CNN-BERT融合随机失活层Warmup策略
分类号：TP393(计算技术、计算机技术)
资助基金：国家自然科学基金(42374227)国家自然科学基金(42074218)
论文发表日期：2026-03-20
在线出版日期：2026-03-26（本平台首次上网日期，不代表文献的发表时间）
页数：5( 82-86 )
英文信息