吴帆0801

学习笔记17

1. 整理了一下资料，对神经网络鲁棒性的综述，主要围绕两个大方面：Attack 和 defence。
   现阶段主要调研攻击方面的研究进展。
   在attack方面，有两种情况，即黑盒和白盒。而提升对抗攻击的表现主要有两个方法：①采用何种策略修改输入数据，②采用PCA降维等方法处理数据。而攻击策略即是给数据加入弱小的扰动，从而构造对抗样本。
   目前看过的策略有：在增强学习领域的构造方法、Fast gradient sign method(FGSM)、Papernot method。

2. 看了《Adversarial Attacks on Image Recognition》，主要讲的是通过PCA降维可以提升对抗样本的效果，针对的场景是用FGSM方法，在MNIST数据集的前提下，分类模型是Logistic Regression Substitute Model。但是，用papernot方法构造的对抗样本效果不明显。