西安电子科技大学马卓教授团队最新研究成果被信息安全领域国际顶会录用

中国教育报-中国教育新闻网讯（通讯员 张蕾 记者 冯丽）近日，西安电子科技大学网信院马卓教授团队最新研究成果被第45届国际信息安全顶会IEEE Symposium on Security and Privacy（IEEE S&P 2024）全文收录。第一作者为马卓教授，通信作者为杨易龙博士生和刘洋副教授，合作作者包括北京大学杨仝长聘副教授、西安电子科技大学李腾副教授以及浙江大学秦湛研究员。

该文章聚焦于深度神经网络后门识别和移除方案的高效性提升，主要贡献如下：现代深度神经网络模型（DNNs）需要大量数据才能达到最佳性能，人们已经依赖从多种开源途径获取大量训练数据集。这种不可信方式可能会导致训练时发生后门攻击，即攻击者在训练数据集中注入一小部分有毒训练样本，将后门植入模型，导致在运行时触发有毒样本的错误分类。为了减轻这种攻击，研究者提出了许多防御方法，如检测并移除有毒样本或纠正受害DNN模型的权重。然而，在面对大规模训练数据集时，这些方法效率显著低下，导致现实世界中实用性不高。该研究提出了一种轻量级的后门识别和移除方案，名为ReBack。具体来讲，ReBack首先提取出可疑和良性的样本子集，然后使用基于“平均和差分”的方法来快速识别后门目标标签。接着，ReBack提出了一种新的反向工程方法，仅使用基本算子就能恢复出准确的触发器。实验表明，对于拥有750个标签的ImageNet数据集，ReBack可以在大约2小时内防御后门攻击，显示出比现有方法快18.5倍至214倍的效率提升。在移除后门的过程中，由于恢复的触发器与真实触发器的余弦相似度达到99%，后门攻击成功率可以降低到0.05%。

据悉，IEEE S&P又称Oakland，与ACM CCS、USENIX Security、NDSS并列称为安全领域的四大国际顶级学术会议，其近10年的平均录用率约为13%，发表难度在四大顶会里最高，被中国计算机学会（CCF）认定为A类会议。该会议收录的论文代表着相关研究领域的最高水平，在业界具有广泛而深远的影响。