【告别调参！】google开源“权重无关”神经网络（Weight Agnostic Neural Networks,WANN）

权重无关神经网络开源
最新推荐文章于 2025-02-10 13:21:04 发布
原创 最新推荐文章于 2025-02-10 13:21:04 发布 · 1k 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

谷歌大脑的“权重无关神经网络”（WANN）已开源，该研究由DavidHa主导，提出仅用随机共享权重即可执行任务的神经网络，挑战传统权重优化思路。

前言

谷歌大脑备受关注的“权重无关神经网络”（《Weight Agnostic Neural Networks》）终于开源了！《Weight Agnostic Neural Networks》是谷歌大脑 David Ha 等人所著。

其关键思想是通过不再强调权重来搜索网络结构，仅使用随机共享的权重，也可以执行各种任务的神经网络。



github地址

1

  • github地址：

    https://github.com/google/brain-tokyo-workshop/tree/master/WANNRelease

  • 内容

    2



延伸阅读

中文版《权重无关神经网络》解析： https://cloud.tencent.com/developer/article/1448364

图神经网络可解释性Slide：GNNExplainer: Generating Explanations for Graph Neural Networks
SimonChen
01-28 1358
参考素材： https://blog.youkuaiyun.com/weixin_40505645/article/details/105781034
论文导读#1：《ImageNet Classification with Deep Convolutional Neural Networks》
qq_41841298的博客
07-08 1151
本文章是笔者读完《ImageNet Classification with Deep Convolutional Neural Networks》后，对于论文的归纳总结，可以给尚未读者作为一个论文概述。
无需学习任何权重参数就能做神经网络？谷歌学术发布WANN | 一周AI最火学术
BigDataDigest的博客
09-02 1044
大数据文摘专栏作品 作者：Christopher Dossman 编译：fuma、李琳、云舟 呜啦啦啦啦啦啦啦大家好，拖更的AI Scholar Weekly栏目又和大家见面啦！ AI Scholar Weekly是AI领域的学术专栏，致力于为你带来最新潮、最全面、最深度的AI学术概览，一网打尽每周AI学术的前沿资讯。 每周更新，做AI科研，每周从这一篇开始就够啦！ 本周关键词：神经网络、中美A...
谷歌大脑：探索权重无关神经网络
我爱计算机视觉
11-26 393
点击我爱计算机视觉标星，更快获取CVML新技术文 / Adam Gaier 学生研究员 和 David Ha 研究员Google Research无论是图像分类还是强化学习，在通过训练神...
论文翻译 —— Weight Agnostic Neural Networks 权重无关神经网络
佚失的诗篇
01-31 1457
这篇《Weight Agnostic Neural Networks》是前一段比较火的一篇论文了，号称找到了 “不用进行训练的神经网络”，称作WANNs，下面给出我对此文的翻译。能力有限肯定有不准确或词不达意的地方，大家以原文为准 可以在这里（交互式）查看此论文的交互式版本 注意，以下用黑色框框柱的部分以及这种红字部分是我做的补充解释，非原文内容。 注意，以下图片说明文字全部用斜体，放在图片上方...
告别深度学习炼丹术！谷歌大脑提出“权重无关”神经网络
THU数据派
06-17 667
来源：新智元本文约5600字，建议阅读10+分钟。无需权重训练！谷歌再向深度学习炼丹术发起“攻击”。[ 导读 ]神经网络训练中“权重”有多重要不言而喻。但现在，可以把权重...
谷歌论文Weight Agnostic Neural Networks（WANN）权重无关神经网络
祥瑞的技术博客
12-06 1803
论文地址： https://arxiv.org/abs/1906.04358 项目及代码地址： https://weightagnostic.github.io/ 目录 一、概览 1.1 贡献点 1.2 背景 二、方法 2.1 本文做法 2.2 相关工作 2.3 方法 网络结构搜寻 结构搜索 Topology search 2.4 性能与复杂度评估 三、实验及结果 ...
[论文笔记] Weight Agnostic Neural Networks
Holeung blog
08-04 1003
Experiment
图神经网络的基准（Benchmarking Graph Neural Networks）
Yichar的博客
08-10 1835
Benchmarking Graph Neural Networks论文简要介绍背景介绍摘要论文所做的工作基准数据集选取的模型实验部分实验1：图分类数据集 论文简要介绍 作者：Vijay Prakash Dwivedi ，Yoshua Bengio 等 论文链接：https://arxiv.org/abs/2003.00982 发表时间：2020 背景介绍 主要是说GNNs 这几年在各个领域取得了巨大成功，列举了很多人的工作，提出了各种各样的模型，然后提了出了本文的核心问题： 如何客观准确地评价不同的GN
【AlexNet】ImageNet Classification with Deep Convolutional Neural Networks论文翻译
qq_69954039的博客
10-08 1101
Abstract: We trained a large, deep convolutional neural network to classify the 1.2 million high-resolution images in the ImageNet LSVRC-2010 contest into the 1000 different classes. On the test data, we achieved top-1 and top-5 error rates
wann
03-05
万恩 加权对抗神经网络 有关该算法的在线演示，请访问 综合实验设置 没有重新加权 TrAdaBoostR2 万恩 WANN是一种适用于回归任务的监督域自适应方法。 该算法是基于实例的方法，该方法学习源实例损失的重新加权，以纠正源分布和目标分布之间的差异。 WANN算法包括在相同的梯度下降中并行训练三个网络。 加权网络W学习源实例权重，该权重乘以任务的源损失和差异网络ht和hd 。 最后一个网络估计了重新加权的源实例和目标实例之间的Y差异，并使用与另外两个相反的目标函数（ -G ）进行训练。 这是通过使用图中粗体显示的“逆向渐变层”（RGL）来完成的。 要求 数值实验代码需要以下程序包： tensorflow （> = 2.0） scikit-learn numpy cvxopt nltk （用于情感分析预处理） matplotlib （用于可视化） 可以使用文件en
《Weight Agnostic Neural Networks》（权重无关网络）论文简介
dreamweaverccc的博客
08-29 383
https://weightagnostic.github.io/
探索无权重神经网络：Weight Agnostic Neural Networks
gitblog_00879的博客
09-26 639
探索无权重神经网络：Weight Agnostic Neural Networks 项目介绍 Weight Agnostic Neural Networks (WANN) 是一个创新的开源项目，旨在探索一种全新的神经网络架构设计方法。与传统的神经网络不同，WANN 不依赖于特定的权重值，而是通过优化网络结构本身来实现高性能。这一概念的提出，为神经网络的研究开辟了新的方向，尤其是在资源受限的环境中，...
不更新权重只更新结构的神经网络《Weight Agnostic Neural Networks》读后总结
yzqlyzql的博客
10-15 717
不更新权重只更新结构的神经网络《Weight Agnostic Neural Networks》读后总结前言 前言 这是一些对于论文《Weight Agnostic Neural Networks》的简单的读后总结，首先先奉上该文章的下载超链接：点击这里下载论文。这篇文章有交互式版本：交互式版本，这个交互式版本里面有非常多的视频，可以直观的看到这篇文章要做什么，做了什么以及做得怎样。 ...
【重磅】谷歌WANN成果解析&AutoML新书下载 | AutoML
九三智能控
06-19 448
今天，你AI了没？关注：决策智能与机器学习，学点AI干货作者 | DeepRL来源 |WANN论文，awesone-automl-paper出处 | 深度强化学习算法（...
GoogLeNet 论文笔记
yzy的博客
10-19 725
目录 1. 目标检测算法R-CNN分为两步： 2. Motivation:简单的增加网络宽度和深度和两个弊端： 3.思路： 4.Inception module：  5.这种结构的两大好处： 6.结构参数表 7、1*1卷积作用 8、GoogLeNet结构 9. 两个辅助分类器 10. 模型和训练、测试方法等更多细节 11. ILSVRC Detection Challenge...
了解语言模型中的开放性：开源、开放权重和受限权重
最新发布
allway2的博客
02-10 1052
随着高级语言模型的出现，AI 模型的“开放性”已成为一个热门的讨论话题，但开放意味着什么？本文阐明了三个关键概念，以帮助社区了解模型的可访问性和控制。
神经网络的传播（权重更新）
Aliz_
08-03 2万+
本文重在阐述神经网络里的前向传播和反向传播。 上一篇文章构建了一个简单的网络，可以看出来它对于手写数字的识别率还是可以高达91%。但我们尚未对神经网络处理的过程做出太多解释。 数据在网络中的传播有两种方式。一种是沿着输入到输出的路径，被称为前向传播。一种是从输出返回到输入，被成为反向传播(backprop)。 train_step = tf.train.GradientDescentOpti...
给初学者们讲解人工神经网络（ANN）
热门推荐
日拱一卒
06-09 4万+
1.介绍 这份教学包
基于隐式神经网络的遥感场景分类方法
隐式神经网络（Implicit Neural Networks）是一种不同于传统显式前馈结构的新型深度学习模型。其核心思想是将网络输出建模为一个非线性方程的不动点解，而非逐层传递计算结果。这类网络不显式定义每一层的变换函数，...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

szZack

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值