发明 一种基于通用扰动贴纸的对抗样本检测方法及装置 特价15、不用二变
安防系统干扰 人脸识别 机器学习算法 神经网络 AI人工智能 DNN 网络安全 图像分类 目标检测 【安防系统干扰 人脸识别 机器学习算法 神经网络 AI人工智能 DNN 网络安全 图像分类 目标检测】 1人
G06K9/62 G06N3/04 G06N3/08 G06V10/774 G06V10/764 G06V10/82
摘要：本发明公开了一种基于通用扰动贴纸的对抗样本检测方法及装置，属于人工智能安全领域。所述方法包括：构建图像数据集；基于数据集生成通用扰动贴纸；构建重构器模型，使用通用扰动贴纸作为退化过程，依靠数据集完成重构器的训练；构建分类器模型；将数据集图片进行叠加通用扰动贴纸的预处理操作，并使用重构器对其进行重构。将重构图片与原始图片送入分类器推理得到激活输出。计算并统计图片的重构差异，根据差异情况设定检测阈值；将待检测图片叠加通用扰动贴纸后依次输入到重构器和分类器中，计算得到重构差异结果，若重构差异大于阈值则判定为对抗样本。本发明拥有较高对抗样本检测率，且应对未知攻击性能较好。
