Intriguing properties of neural networks

最新推荐文章于 2023-11-28 12:08:34 发布
原创 最新推荐文章于 2023-11-28 12:08:34 发布 · 2.6k 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#神经网络 #深度学习 #计算机视觉

本文探讨了神经网络的高级层中语义信息存在于空间而非单个单元的现象，以及对抗样本的鲁棒性。研究发现，对正确分类的输入添加微小扰动可生成对抗样本，这些样本在不同网络结构中仍能引发错误分类，揭示了深度学习模型的非直观特性和内在盲点。此外，对抗样本的生成挑战了模型的局部泛化能力，表明深度神经网络的平滑假设并不总是成立。

作者： 19届 lz

论文：《Intriguing properties of neural networks》



特性:

根据单元分析的各种方法，我们发现单个高级单元和高级单元的随机线性组合之间没有区别。它表明，在神经网络的高层中，包含语义信息的是空间，而不是单个单元。

给样本添加一些轻微的扰动，会导致神经网络模型错误分类，这些样本就称为对抗样本



相关工作

我们发现对抗样本相当鲁棒的，并且由具有不同层数、激活或在训练数据的不同子集上训练的神经网络共享。也就是说，如果我们使用一个神经网络来生成一组对抗样本，我们会发现这些示例对于另一个神经网络来说仍然很难正确分类，即使他们是用不同的超参数训练的。一组例子。这些结果表明，通过反向传播学习的深度神经网络具有非直觉特性和固有盲点，其结构以非显而易见的方式与数据分布相关。

Units of: φ(x)

传统的计算机视觉系统依赖于特征提取：通常单个特征很容易解释，例如颜色的直方图，或量化的局部导数。这允许人们检查特征空间的各个坐标，并将它们链接回输入域中有意义的变化。以前的工作中使用了类似的推理，试图分析应用于计算机视觉问题的神经网络。这些作品将隐藏单元的激活解释为有意义的特征。他们寻找能够最大化这个单一特征的激活值的输入图像

可以将上述技术正式表示为图像x’的视觉检查，这些图像满足（或接近最大可达到值）：
在这里插入图片描述
其中 I 是网络未训练的数据分布中的一组保留图像，ei 是与第 i 个隐藏单元相关联的自然基向量。我们的实验表明，任何随机方向

最低0.47元/天 解锁文章
论文笔记（一）《Intriguing properties of neural networks》
qq_39667860的博客
02-21 1451
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 欢迎使用Markdown编辑器 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Mar
【论文精读】 Intriguing properties of neural networks
m0_52739647的博客
07-08 1591
经典论文、对抗样本领域的开山之作发布时间：2014论文链接: https://arxiv.org/pdf/1312.6199.pdf作者：Christian Szegedy, Wojciech Zaremba, Ilya Sutskever, Joan Bruna, Dumitru Erhan, Ian Goodfellow, Rob Fergus写在前面：该文章已经发表10年了，该领域的发展十分迅速，本文中的一些观点可能并不准确。
【论文快读】Intriguing properties of neural networks(2014)
玄云飘风的博客
06-07 1596
作者：Christian Szegedy, Wojciech Zaremba等 链接：https://arxiv.org/abs/1312.6199 摘要： 本文的工作包括两个方面： 1. 神经网络的一个high level units和随机若干个units的线性组合之间并没有本质上的区别。所以在高level中，发挥作用的是整个网络的空间结构，而不是单个神经元。 2. 通过对同一in...
关于Intriguing properties of neural networks的理解
热门推荐
kearney1995的博客
03-23 1万+
 这是有关神经网络的对抗样本的首篇文章，Szegedy等人发现了神经网络的一些（两个）有趣的性质。  第一个是关于高维神经网络的神经元的含义问题，先前的一些工作认为深度神经网络的神经元都代表着某一个特征，因此他们寻找能够最大激活某一个特定神经元的样本集合。而他们的实验发现，通过寻找最大化激活某个特定神经元的方法也许并没有真正找到本质的信息。因为即便是对于某一个隐层的所有神经元的线性加权进行最大化...
Intriguing properties of neural networks.pdf
03-16
深度学习领域中，神经网络因其卓越的性能在语音和视觉识别任务上取得了重大进展。然而，这一成功背后的代价是它们学习到的解决方案通常难以解释且可能具有违反直觉的特性。本文提出了神经网络两个令人费解的性质。...
Intriguing properties of neural networks——L-BFGS attack
tyh70537的博客
05-19 674
2014的文章Intriguing properties of neural networks引发了关于对抗样本研究的热潮。其实对抗样本的研究很早就有了，只是当时没有得到足够的重视，最早的文章应该是下面这篇，研究的是垃圾邮件过滤问题： N. Dalvi, P. Domingos, Mausam, S. Sanghai, D. Verma, Adversarial classification, in: Int’l Conf. Knowl. Disc. and Data Mining, 2004, pp.
[paper]Intriguing properties of neural networks（L-BFGS）
weixin_43150428的博客
05-10 401
本文提出了神经网络的两个有趣的特性： 各个高级单元和高级单元的随机线性组合之间没有区别，即在神经网络的高层中包含语义信息的是空间而不是单个单元。 深度神经网络学习的输入-输出映射在相当大的程度上是不连续的。通过使用一些难以察觉的扰动可以造成模型的误分类，这种扰动是通过最大化网络的预测误差而发现的。 最后提出一种基于最大化网络预测误差的攻击方法 L-BFGS 详细内容可参考https://blog.youkuaiyun.com/qq_43205738/article/details/84575387 ...
Intriguing properties of neural networks手动翻译
qq_35024702的博客
04-22 2073
Intriguing properties of neural networks 神经网络有趣的特性 深度神经网络： 1）优点： 深度神经网络是一种高度表达性的模型，在语音和视觉识别任务上取得了最好的表现 2）相关理论 1.可以通过寻找最大程度激活给定单元的输入集来分析各个单元的语义 本文：对神经网络在坐标间解离变异因子的猜想提出了质疑，自然基底检查一些层激活φ(x)的属性时并不优于一个随机基底。...
Intriguing properties of neural networks：神经网络的有趣的特性——深度学习对抗样本的开山之作.pdf
10-14
上传错了，麻烦管理员删除此资源。非常感谢管理员，辛苦了
[深度学习论文笔记][Adversarial Examples] Intriguing properties of neural networks
Hao_Zhang_Vision的博客
11-03 2562
Szegedy, Christian, et al. “Intriguing properties of neural networks.” arXiv preprint arXiv:1312.6199 (2013). (Citations: 251). 1 Representation of High Level Neurons 1.1 Motivation Previou
G1D5-Intriguing properties of neural networks
weixin_45252975的博客
11-05 581
有点难懂哦~对抗学习的开山鼻祖
ICLR2014_Intriguing properties of neural networks
weixin_30662011的博客
03-13 467
Author 一作： Christian Szegedy (GooLeNet, BN) 三作：Ilya Sutskever (AlexNet二作，S2S) 六作：Ian Goodfellow(DL book, Maxout, GAN Bengio学生) 七作：Rob Fergus(Visualizing) 大佬们总是喜欢一块玩，┓(´∀`)┏ Abstract DNN的...
[2014]Intriguing properties of neural networks
m0_48967063的博客
11-25 1020
表示输入图像；表示某一层的激活值；表示正则化中的权重衰减因子表示数据中未训练网络的保留图像集表示第个隐藏单元相关的自然基向量表示随机向量之前的工作隐藏单元的激活 解释为有意义的特征。他们寻找能最大化这个单一特征的激活值的输入图像，该图像满足（或接近最大可达到的值）：实验发现，随机向量产生同样的可接解释的语义特性，更正式地说，图片之间存在语义关联。这表明随机基底比自然基底更适合于检查的性质。这对于神经网络能否在坐标系中解开变动因素的概念提出了质疑。
论文解读-Intriguing properties of neural networks（ICLR2014）
chadlee
08-12 1349
Intriguing properties of neural networks（ICLR2014） 这篇文章被认为是对抗样本的开山之作，首次发现并提出了对抗样本，作者阵容豪华，被引了很多次。但是文章的名字是《神经网络有趣的特性》，着重理解一下作者笔下神经网络的特性，特别是作者对对抗样本的解释，之后还有其他角度解释的文章。 对抗样本 文章通过求解以下优化问题找到对抗样本：  Minimize c∣r∣+loss⁡f(x+r,l) subject to x+r
【论文解读：Intriguing properties of neural networks】
CharilePuth的博客
11-28 1721
论文解读：Intriguing properties of neural networks
解读 intriguing properties of neural networks
weixin_34198797的博客
04-26 736
题目：神经网络的隐藏属性 作者：一作： Christian Szegedy (GooLeNet, BN) 三作：Ilya Sutskever (AlexNet二作，S2S) 六作：Ian Goodfellow(DL book, Maxout, GAN Bengio学生) 七作：Rob Fergus(Visualizing) 出处：ICLR 摘要：深度神经网络在语音、视觉识别方...
论文阅读笔记-《Intriguing properties of neural networks》
weixin_45935838的博客
04-22 330
另外，再设计一个实验，选择隐蔽层所表示的空间中的一个随机方向（基向量的随机线性组合，单个神经元无法表示），用同样的方法使其激活值最大。我们希望r越小越好，同时使对抗样本x + r被错误分类到一个指定类别l下，同时还需要生成的x + r的值在[0,1]之间，保证是一张合法的图片。而由于神经网络模型是高度非线性的，导致过拟合只学习到了非对抗样本的特征，并没有学到对抗样本的特征，因此对于生成的对抗样本很容易判断失误。在凸损失的情况下，这一公式给出的是精确值，然而神经网络通常是非凸的，因此只能得到一个r的近似值。
《Intriguing properties of neural networks》代码实现——Pytorch
小衎的博客
02-17 1071
《Intriguing properties of neural networks》代码实现——Pytorch 一、代码实现 #导入库 import torch import torch.nn as nn import torch.optim as optim import torchvision import numpy as np import matplotlib.pyplot as plt # 加载mnist数据 mnist_train = torchvision.datasets.MNIST(
he Curious Case of Neural Text D
最新发布
08-11
### The Curious Case of Neural Text Generation or Processing Neural text generation and processing have become pivotal in the advancement of artificial intelligence, particularly in the domain of natural language processing (NLP). The introduction of the Transformer architecture, as detailed in the seminal paper "Attention is All You Need" by Vaswani et al., marked a significant shift in the design of neural network models for sequence-to-sequence tasks. This architecture relies entirely on self-attention mechanisms to draw global dependencies between input and output sequences, thereby eliminating the need for traditional recurrent neural networks (RNNs) and convolutional neural networks (CNNs) [^1]. One of the peculiar cases in the field involves the application of these models in enterprise settings, such as the scenario where Alex, a professional in the tech industry, was involved in fine-tuning a large language model (LLM) for a financial client. The objective was to analyze contracts and detect compliance risks, which required the integration of multi-component processing (MCP) to handle text, tables, and metadata. The challenge here was twofold: managing high computational costs and addressing data privacy concerns. To tackle these issues, Alex's team employed Low-Rank Adaptation (LoRA) for efficient fine-tuning and implemented differential privacy techniques to safeguard sensitive information. An example of how differential privacy was applied is shown in the following Python code snippet: ```python import torch def add_dp_noise(data, epsilon=1.0): noise = torch.normal(0, 1/epsilon, size=data.shape) return data + noise ``` This approach not only achieved General Data Protection Regulation (GDPR) compliance but also reduced training costs by 40% [^2]. In the realm of neural text generation, evaluating the quality of generated text is another intriguing aspect. Evaluation criteria can include coherence, character development, language quality, emotional impact, and originality. The MIT Media Lab has developed an AI narrative evaluation framework with 12 metrics, which is gradually being adopted by the industry [^3]. Moreover, there are specific techniques used in neural text generation to handle the probability distribution over the vocabulary. For instance, a modified probability distribution $ P'(x) $ can be defined as follows: $$ P'(x) = \begin{cases} \frac{P(x)}{\alpha} & \text{if } x \in \text{已生成token} \\ P(x) & \text{otherwise} \end{cases} $$ Here, $ P(x) $ represents the original probability distribution, $ \alpha $ is a scaling factor, and the condition checks if the token $ x $ has already been generated. This technique adjusts the probability of already generated tokens to influence the diversity and quality of the output text [^4]. ###
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

中南大学苹果实验室

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值