李宏毅教授Capsule课程笔记总结

最新推荐文章于 2024-11-22 18:58:54 发布
原创 最新推荐文章于 2024-11-22 18:58:54 发布 · 533 阅读 · 3 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#capsule #笔记总结

胶囊网络（Capsule）作为神经元的替代，输出向量而非单一值，能检测到一类模式而非单一模式。向量的每个维度表示模式的一个特性。Squash函数用于挤压向量，保持方向不变。胶囊网络的动态路由机制类似注意力机制，同时实现Invariance和Equivariance，优于传统CNN的max pooling。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Capsule

取代neuron

neuron输出一个值，capsule输出一个向量

neuron只能检测某一特定的模式，capsule可以检测一类模式

其中向量v的每一维代表模式的一个特性

 

Squash相当于进行挤压，只会改变长度而不会改变方向

c1 和c2 不是学出来的，而是由测试阶段决定的

 

最低0.47元/天 解锁文章

200万优质内容无限畅学
AI人工智能领域神经网络的基本原理与应用
AI智能探索者的博客
04-28 813
神经网络作为人工智能领域的核心技术之一，在图像识别、自然语言处理、语音识别等众多领域取得了显著的成果。本文的目的是全面深入地介绍神经网络的基本原理和应用，让读者对神经网络有一个系统的认识。范围涵盖了神经网络的基本概念、核心算法、数学模型、实际应用场景以及相关的工具和资源等方面。本文将按照以下结构进行组织：首先介绍神经网络的背景知识，包括目的、读者和结构概述；接着阐述核心概念与联系，通过示意图和流程图展示神经网络的架构；然后讲解核心算法原理和具体操作步骤，给出Python代码示例；
泛读论文：GAN 生成对抗网络合集
汪汪汪的博客
03-19 1151
Generative Adversarial Nets NIPS2014 问题 之前的一些工作在最大释然估计和近似推理（related strategies）中会遇到很多难以解决的概率计算困难 ‘and due to difficulty of leveraging the benefits of piecewise linear units in the generative conte...
李宏毅教授《一天搞懂深度学习》
01-15
《1天搞懂深度学习》，300多页的ppt，台湾李宏毅教授写的，非常棒。 不夸张地说，是我看过最系统，也最通俗易懂的，关于深度学习的文章。
李宏毅：capsule（胶囊网络）
jiaojiaolou的博客
05-24 3829
1、capsule与neural的区别 neural的output是value，capsule的output是vector。 capsule的input可以是其它capsule的output。 neural是侦测某一个pattern，但是capsule是侦测某一类pattern，它输出的vector的每一个dimension代表pattern的特性，vector的长度代表了这某一类的patt...
李宏毅教授Batch Normalization课程笔记总结
weixin_42825220的博客
07-25 573
Batch Normalization Feature Scaling/Feature Normalization/Feature Standardization 如果斜率差别大，那么不同方向上需要不同的learning rate，经过feature normalization后，error surface接近正圆形，使得训练更容易 计算过程： 在神经网...
李宏毅教授Policy Gradient课程笔记总结
weixin_42825220的博客
07-26 656
Policy gradient： 求解梯度trick： ∇fx=f(x)∇logf(x) Tip1：将回报值的期望作为基线，使得每次计算的回报有正负区别 Tip2：不将整场游戏得到的reward作为权重，为每个动作分配应有的权重，权重即为从当前时间t开始所有reward的累加 改进：增加折扣 On-policy：所学习的agent和用于环境交互的agent是同一个...
李宏毅svm_李宏毅-深度学习
weixin_33673142的博客
01-03 1167
作者简介:李宏毅是台湾大学教授，主要研究领域为机器学习(特别是深度学习)、口语语义理解和语音识别。2017年，其录制的深度学习课程深受大家的追捧。李宏毅的课程，内容丰富，理论公式推导详细。尤其配套的ppt，生动形象，毫不夸张的说，它是我见过的深度学习最系统的课程了。课程内容:前期主讲：深度学习的基本框架、模型，包括DNN、RNN/LSTM等，期间还穿插theano的模型实现(当然现在比较流行的是T...
Self-attention（李宏毅2022
linyuxi_loretta的博客
10-17 1154
此前，我们network的input都是一个向量，输出可能是一个数值或者一个类别。但是假设我们需要输入的是一排向量，并且向量的个数可能会发生改变，这个时候要怎么处理。将单词表示为向量的方法：One-hot Encoding。我们可以用很长的一个向量，来表示世界上所有的东西，但是这里有一个问题，它假设所有的词汇都是没有关系的，比如猫和狗，都是动物，但是这样没有办法把它分类在一起，没有语义的资讯。另一个方法是Word Embedding：我们给每个词汇一个向量，这个向量里有语义的信息。
NLP合集:教程/实体抽取/关系(三元组)抽取/文本分类/知识图谱/Bert系列/相似度判定/机器人问答/文本工具/竞赛方案精选/面试指南/NLP各类任务数据集等集合
qq_42189083的博客
12-24 5514
Cool-NLPCV （持续更新中…） Some Cool NLP and CV Repositories and Solutions Cool-NLP | Cool-CV 旨在收集NLP中常见任务的开源解决方案、数据集、工具、学习资料等，方便学习或快速查找。在此分享出来，供大家参考。欢迎积极分享并Star，谢谢! 会持续不定时更新，也欢迎加入共同分享。 1、机器学习&深度学习入门精选 Python-100天从新手到大师 斯坦福大学2014（吴恩达）机器学习教程中文笔记 《统计学习方法》第二版的代
台湾李宏毅教授关于深度学习PPT
11-16
该文档是台湾李宏毅教授讲解的深度学习PPT，特别适用于初学者。
李宏毅——深度学习ppt
06-23
共计300多页ppt，是最深入浅出的深度学习入门资料。你值得拥有！
李宏毅ppt.zip
05-23
台大老师李宏毅的机器学习上课ppt, 非常好的资料，还有练习
CapsuleNetWork：从TensorFlow复现代码理解胶囊网络（DynamicRoutingBetweenCapsules）
10-17
从TensorFlow复现代码理解胶囊网络（Dynamic Routing Between Capsules） 论文链接：https://arxiv.org/abs/1710.09829 Tensorflow代码复现链接：https://github.com/naturomics/CapsNet-Tensorflow
重磅！李宏毅教授机器学习训练营
小詹学python的博客
07-05 551
一、课程介绍本课程以台湾大学李宏毅教授的《机器学习》课程为基础，内容涉及到回归、分类、BP反向传播、梯度下降、神经网络、迁移学习、强化学习等。每周有配套的视频、课件和作业...
台湾大学 李宏毅教授的个人主页
热门推荐
森的博客
10-05 4万+
Mark一下李宏毅教授的个人主页，里面有相关知识点的视频、PPT。 个人主页 相关知识点PPT和视频 机器学习博大精深，还是要继续努力。
李宏毅学习笔记——2024春《GENERATIVE AI》篇（已完结）
最新发布
a131529的博客
11-22 7839
李宏毅学习笔记——2024春《GENERATIVE AI》篇
台大李宏毅教授最新课程，深度强化学习国语版
xuantaiyang888的博客
06-29 1853
李宏毅的youtube主页：https://www.youtube.com/channel/UC2ggjtuuWvxrHHHiaDH1dlQ/videos此外，李老师在youtube还有《机器学习》和《深度学习》两门课程的视频讲解，这两门课程也获得了不错的口碑，课程链接如下：机器学习youtube链接：https://www.youtube.com/watch?v=CXgbekl66jc&...
李宏毅 深度学课程学习笔记（零）Deep Learning 简介
Reoz的博客
06-15 365
Deep learning 学习入门笔记
台湾李宏毅教授深度学习--随机梯度下降
u012841667的专栏
11-13 2172
1、随机梯度下降 2、 3、 4、局部最优
李宏毅教授深度学习GAN课程资源分享
李宏毅教授是台湾大学的知名学者，专注于深度学习领域的研究，在人工智能特别是生成式对抗网络（GAN）的研究上有着显著的贡献。生成式对抗网络（GAN）是由Ian Goodfellow在2014年提出的一种深度学习模型，由两部分...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值