胶囊网络（Capsule）作为神经元的替代，输出向量而非单一值，能检测到一类模式而非单一模式。向量的每个维度表示模式的一个特性。Squash函数用于挤压向量，保持方向不变。胶囊网络的动态路由机制类似注意力机制，同时实现Invariance和Equivariance，优于传统CNN的max pooling。
Capsule
取代neuron
neuron输出一个值，capsule输出一个向量
neuron只能检测某一特定的模式，capsule可以检测一类模式
其中向量v的每一维代表模式的一个特性
Squash相当于进行挤压，只会改变长度而不会改变方向
c1
和c2
不是学出来的，而是由测试阶段决定的
李宏毅教授Capsule课程笔记总结
最低0.47元/天 解锁文章
扫一扫
评论 1
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
查看更多评论
添加红包
