信息学院梁彬教授团队研究论文被S&P 2025录用

更新时间:2024-09-12 10:00:44 浏览量:

近日,梁彬教授团队研究论文被国际顶级学术会议IEEE S&P 2025录用(录用率14.3%)。IEEE S&P(IEEE Symposium on Security and Privacy)创立于1980年,是信息安全领域最具影响力的最高旗舰会议,也是中国计算机学会(CCF)推荐的A类国际学术会议和中国人民大学A+类会议。

论文题目:Fight Fire with Fire: Combating Adversarial Patch Attacks using Pattern-randomized
Defensive Patches

论文作者:冯佳男,李佳纯,苗长青,黄建军,游伟,石文昌,梁彬

通讯作者:梁彬

论文简介:近年来,目标检测模型已广泛应用于自动驾驶、视频监控等各类现实任务中。然而,这类模型容易受到对抗性补丁攻击,包括隐藏攻击和误分类攻击。如何保护目标检测模型免受对抗性补丁攻击,已成为一个重要且紧迫的研究课题。本文在人工智能安全攻防中引入软件安全防御思想,提出了一种全新的防御方法,采用在输入中引入防御性补丁的方式检测对抗补丁攻击。我们提出了两种防御补丁,Canary和Woodpecker,分别用于探测对抗补丁的存在和抵消对抗补丁的攻击效果。并通过实施随机注入策略,保证了方法的鲁棒性。实验表明所提出方法能有效检测未知的攻击方法和defense-aware的攻击方法,时间开销小,且不用修改原始目标模型。本文方法为对抗补丁防御提供了一种全新的、有效的方案。



学生作者简介:

冯佳男,中国人民大学信息安全专业2022级博士生,导师为梁彬教授。主要研究方向为人工智能安全。