对抗样本（二）L-BFGS

最新推荐文章于 2024-03-16 12:22:10 发布
原创 最新推荐文章于 2024-03-16 12:22:10 发布 · 3.9k 阅读 · 12 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#对抗样本 #L-BFGS

本文探讨了神经网络的两大奇特属性：神经元的语义信息与神经网络的盲点，即对抗样本。揭示了神经网络如何理解图像，以及为何会因微小扰动而误判，对深度学习模型的稳定性和泛化能力提出挑战。

文章目录

一、论文相关信息

  1.论文题目

    Intriguing properties of neural networks

  2.论文时间

    2014年

  3.论文文献

    https://arxiv.org/abs/1312.6199

二、论文背景及简介

   深度学习因为其表达能力强而获得了成功，但也造成了其会学习到一些无法解释的结果，具有一些反常理的属性。一、单个高阶单位和随机线性组合的高阶单位之间没有区别，这表明，在神经网络的高层中，包含语义信息的是空间，而不是单个单元。二、深度神经网络学习的输入输出映射在很大程度上是不连续的，这造成了我们可以通过应用某种难以察觉的扰动使网络误分类图像，这种扰动是通过最大化网络的预测误差而发现的。


三、论文内容总结

  • 提出了两个神经网络的有趣的特征—神经元的语义信息与神经网络的盲点
  • 通过控制输入来最大化激活神经元，来获取神经元的语义信息
  • 神经网络在添加较小扰动时，会使其分类错误
  • 我们可以通过最大化分类错误率来获得扰动，其公式如下：

m i n    c ∣ r ∣ + l o s s f ( x + r , l ) s . t .    x + r ∈ [ 0 , 1 ] m min \ \ c|r|+loss_f(x+r,l) \\ s.t. \ \ x+r \in [0,1]^m min  c∣r∣+lossf​(x+r,l)s.t.  x+r∈[0,1]m

  • 可以通过L-BFGS来找到近似解
  • 对抗样本是一种普遍现象，并不是由于模型的过拟合与特定的数据集的引起的，其具有泛化能力
  • 对抗样本引入到训练过程中是可以提高模型的泛化能力
  • 作者认为，扰动会在神经网络正向传播的过程中，不断地累加，直到最后变得很大，大到能够使其越过了分类边界。
  • 作者认为，对抗样本时因为网络的离散性，才会出现的（后面的论文中与该观点持相反意见，其认为是网络的过度的线性才导致的对抗样本的出现）

附：如需继续学习对抗样本其他内容，请查阅对抗样本学习目录

四、论文所使用的符号及数据等信息

符号

     x \ x  x代表术语的图片，   ϕ ( x ) \ \phi(x)  ϕ(x)代表某一层的激活值。

数据集及模型

    在MINST数据集下

        一个简单的全连接层，使用Softmax分类器，把这个网络称为FC

        在自动编码器上训练的分类器，把这个网络成为AE

    在ImageNet数据集下

        使用了AlexNet

    在10MYoutube数据集下

        无监督训练网络，称为QuocNet

参数

    在MINST数据集实验中，使用了权重衰减，参数为   λ \ \lambda  λ。在一些实验中，将MINST数据集分离为   P 1 和 P 2 \ P_1和P_2  P1​和P2​。


五、论文主要内容

该论文实际是描述了神经网络的两个特征


1、第一个特征 神经元的语义信息

    论文中所提到的神经网络的第一个特征是神经网络中各个单元的语义信息。

    在之前的工作中，通过控制输入图像来最大化激活给定的单元，来分析每个单元的语义信息。而这些工作也显示出，最后一层layer是分类的基础，对语义信息是最有帮助的。他们，对激活单元   ϕ ( x ) \ \phi(x)  ϕ(x)的随机投影，发现这样并没有表现出语义信息。这也就表明，神经网络并不是通过坐标系来构建语义信息。一般来说，是整个激活空间包含了语义信息的主体，而并非单个的单元。 在空间旋转后，向量表示仍然是稳定的，也就是说是整个向量包含着语义信息，而并非向量中的某个单元。

    在下文中，作者通过实验，进行了说明。

    以神经网络的某一层i为例，我们通过改变输入来找到能够最大化激活该层的输入图像   x ′ \ x'  x′，我们已知第i层的隐向量为   e i \ e_i  ei​。可以将

最低0.47元/天 解锁文章
【对抗攻击系列_L-BFGS_2014_ICLR】Intriguing properties of neural networks
qq_44572656的博客
03-31 941
这表明，在神经网络的高层中，包含语义信息的是空间，而不是单个单元（图像的某种特征信息由多个神经元共同表示，而非单个神经元表示一种特征信息）。输出单元可能将非显著概率分配到输入空间的区域，这些区域在其附近不包含训练数据（简单地讲，同类图像在高维空间中分布相对集中，但是也有比较分散的样例，分类器往往会对这些分散的样例给予较低的概率，对抗样本就是这些分散的样例）一般来讲，对输入图像添加的扰动在一定局限之内，并不会影响模型的分类结果f(x)=f(x+r)=l，其中r可能不是唯一的。做内积，找出内积最大的图像。
Intriguing properties of neural network（Box-constrained L-BFGS）
Evabook的博客
03-11 1683
Intriguing properties of neural network（Box-constrained L-BFGS）论文简述semantic meaning of individual units先前工作作者观点验证方法思考思考 论文简述 本篇论文首先提出了对抗样本（Adversarial example）的概念，找出神经网络的盲点，为之后对抗攻击系列奠定下基础。本文提出了两个神经网络的...
攻击样本生成算法之 L -BFGS（实质上是优化算法的合理实现）
HappinessSourceL的博客
09-05 1635
转载自https://www.hankcs.com/ml/l-bfgs.html 译自《Numerical Optimization: Understanding L-BFGS》，本来只想作为学习CRF的补充材料，读完后发现收获很多，把许多以前零散的知识点都串起来了。对我而言，的确比零散地看论文要轻松得多。原文并没有太多关注实现，对实现感兴趣的话推荐原作者的golang实现。 数值优化是许多机器学习算法的核心。一旦你确定用什么模型，并且准备好了数据集，剩下的工作就是训练了。估计模型的参数（训练模型）通常
对抗攻击1：L-BFGS(Limited Memory Broyden-Fletcher-Goldfarb-Shanno)
欢迎来到道的世界
04-03 3991
 L-BFGS是最早被设计攻击深度神经网络模型的对抗攻击算法。它的最终目标是在输入的约束空间中找到一个不可察觉的最小输入扰动arg⁡min⁡r∥r∥2\arg \min\limits_r \|r\|_2argrmin​∥r∥2​，即r=x′−xr=x^{\prime}-xr=x′−x，并使模型分类出错y^(x′)≠y\hat{y}(x^{\prime})\neq yy^​(x′)​=y。Szegedy等人使用L-BFGS算法将这个困难求解的优化问题转换成一个盒约束的形式，其目标是找到对抗样本x′x^{\p
对抗样本与对抗训练2
weixin_34125592的博客
11-02 626
转载自：https://blog.youkuaiyun.com/cdpac/article/details/53170940 对以下论文进行解读：3.Intriguing properties of neural networks 5.Explaining and Harnessing Adversarial Examples 6.Ensemble adversarial training_Attack...
对抗网络学习-FGSM对抗样本生成
u013556971的博客
10-25 1951
对抗样本指的是一个经过微小调整就可以让机器学习算法输出错误结果的输入样本。在图像识别中，可以理解为原来被一个卷积神经网络（CNN）分类为一个类（比如“熊猫”）的图片，经过非常细微甚至人眼无法察觉的改动后，突然被误分成另一个类（比如“长臂猿”）。 为什么这样轻微的扰动可以对神经网络造成如此大的影响，业界目前的共识认为这不是过拟合的结果，而是因为输入特征维度过高和模型的线性性质导致的。 深度模型本实确实是一个非常非线性的模型，但是模型的组成部分都是线性的，全连接网络的矩阵乘法是线性的，卷积网络的卷积计算也是.
对抗样本和对抗生成网络demo
09-30
对抗样本和对抗生成网络demo，包括一个简单的tensorflow编写的gan网络
精选资源
《Intriguing properties of neural networks》论文中L-BFGS攻击算法代码实现
08-06
本资源是对抗样本领域中首次提出对抗样本概念并提出使用L-BFGS攻击算法的一篇文章的代码实现，使用的语言是Pytorch语言，文件为Jupyter notebook文件，在电脑环境配置无问题的情况下，可以直接运行此代码文件，内含...
对抗样本L-BFGS算法实现
02-11
### 使用L-BFGS算法实现对抗样本生成 为了利用L-BFGS算法生成对抗样本，可以遵循以下方法： #### 定义目标函数 对于给定的输入图像 \( x \)，标签 \( l \)，以及扰动 \( r \)，目标是最小化如下形式的目标函数： \...
L-BFGS对抗样本
最新发布
02-21
method='L-BFGS-B', jac=True, options={'maxiter': 10}, bounds=bounds) adv_image = np.clip(image + res.x.reshape(image.shape), 0., 1.) return adv_image ``` 此段代码定义了一个名为`lbfgs_attack...
Pytorch优化器全总结（三）牛顿法、BFGS、L-BFGS 含代码
热门推荐
xian0710830114的专栏
01-09 4万+
这篇文章是优化器系列的第三篇，主要介绍牛顿法、BFGS和L-BFGS，其中BFGS是拟牛顿法的一种，而L-BFGS是对BFGS的优化，那么事情还要从牛顿法开始说起。L-BFGS即Limited-memory BFGS。 L-BFGS的基本思想就是通过存储前m次迭代的少量数据来替代前一次的矩阵，从而大大减少数据的存储空间。
优化方法：牛顿法，BFGS和L-BFGS算法。
08-17 3762
部分内容转自：https://blog.youkuaiyun.com/weixin_39445556/article/details/84502260 之前已经介绍过利用Mosek实现带边界的多元函数优化问题，今天我们来具体看一下这些优化方法底层的实现，包括牛顿法，BFGS以及L-BFGS方法。 一. 牛顿法 牛顿发现，对一个函数求根，可以根据迭代的计算切空间映射的值来逼近，演示如下： 牛顿法求根步骤： 1. 已知函数f(x)的情况下，随机产生点x0。 2. 由已知的x0点按照进行k此迭代。 3. 如
Box-constrained L-BFGS 相关知识拓展
Evabook的博客
04-16 4564
Box-constrained L-BFGS 相关知识拓展box-constrained optimization problemhard problemL-BFGS矩阵相关autoencoder变分自动编码器(Variational Autoencoder)lipschitz常数，lipschitz条件Jacobian矩阵，Hessian矩阵Parseval’s formula box-cons...
5 12种生成对抗样本的方法
weixin_30273175的博客
07-31 1868
1 Box-constrained L-BFGS Szegedy[22] 等人首次证明了可以通过对图像添加小量的人类察觉不到的扰动误导神经网络做出误分类。他们首先尝试求解让神经网络做出误分类的最小扰动的方程。但由于问题的复杂度太高，他们转而求解简化后的问题，即寻找最小的损失函数添加项，使得神经网络做出误分类，这就将问题转化成了凸优化过程。 2 Fast Gradient Sign Method...
牛顿法及拟牛顿法（L-BFGS）
haimengao的专栏
06-09 1878
为了搞懂L-BFGS，发现资料很少。 参考链接ji
图像分类白盒对抗攻击技术总结
十二月未央未眠
04-20 7026
目录1.对抗攻击背景知识2.白盒攻击技术2.1 基于直接优化得攻击方法2.1.1 基于 Box-constrained L-BFGS 的攻击2.1.2 C&W 攻击2.2 基于梯度优化的攻击方法2.2.1 FGSM 攻击（基于一步梯度计算的对抗样本生成算法）2.2.2 I-FGSM 攻击（迭代的FGSM算法）2.2.3 PGD攻击（迭代的 FGSM 算法，与 I-FGSM 攻击类似）2.2.4 MI-FGSM 攻击（基于动量的迭代生成对抗样本的 MI-FGSM 算法）2.3 基于决策边界分析的攻击
对抗样本简介
ywm_up
07-14 1万+
一、什么是对抗样本   对抗样本是一类被恶意设计来攻击机器学习模型的样本。它们与真实样本的区别几乎无法用肉眼分辨，但是却会导致模型进行错误的判断。对抗样本的存在会使得深度学习在安全敏感性领域的应用收到威胁。   如下图所示，通过在自然图片上加入一些人工噪声来“欺骗”神经网络，使得神经网络输出错误的预测结果。   以经典的二分类问题为例，机器学习模型通过在样本上训练，学习出一个分割平面，在分割平面的一侧的点都被识别为类别一，在分割平面的另外一侧的点都被识别为类别二。生成攻击样本时，我们通过某种算法，针对指定
神经网络算法
优快云@YuanDaiMa2048的博客
03-16 984
创建一个人工神经网络时，人工神经细胞也要以同样的方式相互连接在一起。其中最广泛使用的连接方式是把神经细胞一层一层连接在一起，这种类型的神经网络叫做前馈网络。
机器学习实验---人工神经网络MLP基于sklearn的实现
qq5q13638的博客
10-23 5993
导语上次写了随机森林的基于sklearn库的大致实现步骤，这次我们来看看人工神经网络的实现步骤吧~MLP就是多层感知器的意思，我们这里也是通过引入MLPClassifier来实现的。步骤详解：首先从sklearn中导入MLPC 导入待训练的数据集 通过调用MLPC训练器对训练集进行训练 利用训练集对测试数据进行测试 返回错误率from sklearn.neural_network impor
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值