Winzzzzard's Blog

CVPR2021 安全AI挑战者计划第六期赛道2：ImageNet无限制对抗攻击 TOP 2 比赛思路 背景介绍 深度神经网络在图像识别、自动驾驶和医学图像分析等领域得到广泛的应用。然而，深度神经网络在实际应用中面临诸多问题，最近的研究表明，深度神经网络非常容易受到对抗样本的攻击。现在研究主要关注的是p-范数下的攻击和防御，但是p-范数的扰动需要控制其扰动量来确保人眼无法察觉。而实际场景中，深度模型遇到的更多威胁来自于非限制扰动对抗样本，即攻击者在图像上进行大范围且可见的修改，使得模型误识别的同时不影响人的正常观察。 赛题分析 1.由于比赛是无限制对抗攻击，没有对图像修改程度做出严格限定，但是图像质量和黑盒攻击的成功率之间存在平衡性问题。 2.传统的扰动方法在人眼观察下，具有较明显的差别，需要寻找新的思路解决这一问题。 3.比赛无法通过query的方式获取到黑盒模型的任何信息，对攻击的有效性提出了更高的挑战。 思路 在图像质量的评估上，人眼对高频信息的变化不敏感，而对低频信息的变化较为敏感，考虑将扰动转换到频域上，提升图像质量。傅里叶变换可以将图像从空间域转换到频域，有助于对信号不同频 ...

CVPR2021 安全AI挑战者计划第六期赛道2：ImageNet无限制对抗攻击 TOP 7 比赛思路 背景介绍 深度学习在当下许多视觉任务中都取得了卓越的性能，但是深度神经网络很容易遭受输入上微小和不可察觉的干扰导致的误分类（对抗样本）。而事实上，无限制的对抗样本（对图像进行大范围且可见的修改）往往会对深度学习模型的安全性产生更大的威胁，因为其会使得模型误识别的同时不影响人的正常观察。无限制对抗攻击是近两年来对抗领域的一个热门方向，本次比赛意图在纯黑盒模型的模式下对ImageNet上的无限制对抗攻击场景进行进一步的探索，可以进一步提炼并总结无限制攻击的一些创新而有效的方案，在学术上推动对抗攻击领域的发展。 赛题分析 比赛攻击形式为无限制攻击，因此可以采取生成、变换、Patch攻击、扰动等各种不同的攻击方法。 比赛引入了对图像质量的评价标准，在初赛和复赛中采取客观评价指标，主要是由 FID（自然真实程度）、LPIPS（和原图的感知距离） 两个指标来衡量，而决赛中采用主观评价指标，依靠专家直接对图像进行打分来评判。因此靠拟合客观分实际也是没用的。 比赛为纯黑盒攻击，无法拿到模型的结构 ...

CIKM2020 安全AI挑战者计划第四期：通用目标检测的对抗攻击 TOP 8 比赛思路-Adversarial Contour 环境配置 系统：Ubuntu18.04 硬件：GTX 1080TI * 8 软件版本： 表1：软件版本 软件 版本号 软件 版本号 python 3.7.8 cython 0.29.21 pytorch 1.6.0 matplotlib 3.3.1 scikit-image 0.17.2 mmcv-full 1.0.5 scipy 1.5.2 mmdet* 2.3.0rc0+head torchvision 0.7.0 numpy 1.19.1 tqdm 4.48.2 opencv-python 4.4.0.42 cudatoolkit 10.2.89 pillow 6.2.2 * 实验中所使用的mmdetection是我们在该版本号下结合本项目需求修改得到的版本。 解题思路 根据题目的设置，需要在贴图攻击的连通域数量、贴图面积受限的情况下完成对目标检测器的黑盒、白盒攻击。同时，在500*500像素的图像上 ...

Overview Project Link Proposal: Improve the performance of JavaScript version of OpenCV (OpenCV.js) Mentor: Ningxin Hu, Vitaly Tuzov Organization: OpenCV Introduction OpenCV.js is a JavaScript binding for selected subset of OpenCV functions for the web platform. It allows emerging web applications with multimedia processing to benefit from the wide variety of vision functions available in OpenCV. OpenCV.js leverages Emscripten to compile OpenCV functions into asm.js or WebAssembly targets, ...