吴帆1005

学习笔记17

1. 写文章中的算法描述的时候，用LaTex公式更加方便，于是按照博客的内容系统学习了公式的写法。
2. 在论文中经常用到的各种范数，整理了一下各种范数的含义和用法。
   学习笔记
3. 看一篇张老师发给我的论文《Ground-Truth Adversarial Examples》。
   一直以来的对抗攻击研究都是一个攻击方式和防御策略相互提高的博弈过程。往往一个新的对抗样本的构建方法的提出，都会被接下来提出的defence策略证明并不是特别有效的方法，反之亦然。在这个过程中，缺乏一种评估网络对未来的攻击是否鲁棒的方法。因此文章提出了一种构建一种ground truths来解决这个问题。
   所谓的ground truths，即是能够使得对抗样本达到一定效果时，添加的扰动最小。那么在给定ground truths情况下，对抗攻击效果最好，说明攻击算法更有效。对于同一种攻击算法，如果要达到目标效果，需要在ground truths的基础上添加更大的扰动，则说明防御策略越好。
   提出这个方法的意义在于，方便比较和评估不同对抗攻击构建算法和防御策略的效果。
   文章在一个固定的MNIST神经网络分类模型的前提下，用Reluplex algorithm这个方法得到这个ground truths.这个算法借鉴与另一篇文章，算法部分正在看。