leonorandzzzz的博客

回顾：现今深度学习的主力：卷积神经网络第一：胶囊网络不是空穴来风的新算法，而是基于CNN的缺陷和新需求的改进。第二，胶囊网络比CNN(卷积神经网络)好在哪里？？

capsnet 再升级 无监督学习图像特征CapsNet 作者 Sara Sabour 联合 Geoffrey Hinton 及牛津大学研究者在最新的论文《Stacked Capsule Autoencoders》中提出胶囊网络的改进版本，该胶囊网络可以无监督地学习图像中的特征，并取得了最先进的结果。一个物体可以看作是一组相互关联的几何组成部分，因此，一个明确利用这些几何关系来识别物体的系...

本文介绍了胶囊网络的综述，包含了主要的胶囊网络相关论文目录：Introduction （介绍） Routing （路由） Modality （模态） Problem domain （问题领域） Applications（应用）1、introduce（介绍）Early work [1,2]（早期工作） ：Foundational work [3,4]（基础工作）Vide...

利用胶囊网络实现对CIFAR10分类数据集：CIFAR-10数据集由10个类中的60000个32x32彩色图像组成，每个类有6000个图像。有50000个训练图像和10000个测试图像。实验：搭建胶囊网络from __future__ import print_functionfrom keras import backend as Kfrom keras.layers i...

利用胶囊网络实现mnist数字分类——分辨多张数字重叠分类引言：通过对比普通的CNN对重叠数字的分类与CNN+Capsule对重叠数字进行分类，引证胶囊网络对位置、缩放、姿态变化较为有效。1 首先构建胶囊网络层from keras import activationsfrom keras import backend as Kfrom keras.engine.topology...

一、One-Hot EncodingOne-Hot编码，又称为一位有效编码，主要是采用位状态寄存器来对个状态进行编码，每个状态都由他独立的寄存器位，并且在任意时候只有一位有效。在实际的机器学习的应用任务中，特征有时候并不总是连续值，有可能是一些分类值，如性别可分为“male”和“female”。在机器学习任务中，对于这样的特征，通常我们需要对其进行特征数字化，如下面的例子：...

1 本人所使用的开发环境为 ubantu 18.04 64位系统，主要使用的软件如下：Python 3.6 anaconda3 1.9.7 spyder 3.34 tensorflow 1.13.12 实验过程一个输入值,作为神经元的激励。 单个权重,用来与输入相乘,产生神经元的输出;权重值会在训练阶段产生变化。 输出是输入和权重的乘积。神经元是通过输出和期望值的比较...

介绍本文将介绍CapsNet的体系结构，我同时尝试计算CapsNet的可训练参数数目。结果是大约820万可训练参数，与论文中的数字（113万6千）不同。论文本身不是很详细，没有涉及一些网络实现的具体设定，因此有一些问题我至今没有搞清楚（论文作者没有提供代码）。不管怎么说，我仍然认为计算网络的参数本身是一个很好的学习过程，因为它帮助人们理解特定架构的所有构建模块。CapsNet由两部分组成：...

编者按：深度学习开创者之一、反向传播等神经网络经典算法的发明人Geoffrey Hinton思考了胶囊网络数十年之久，然而直到上一个月才发表论文正式提出胶囊网络。主要原因就是一直没找到训练胶囊网络的合适算法。深度学习开发者，Medium知名博主Max Pechyonkin刚发表了胶囊网络入门系列的第三篇，简明扼要地介绍了Hinton新提出的囊间动态路由算法。介绍本文是胶囊网络（CapsNe...

介绍 在胶囊网络系列文章的第一篇，我谈到了这一全新架构背后的基本直觉和动机。在本文中，我将讨论胶囊是什么，胶囊是如何工作的，以及相关的一些直觉。我会在下一篇讨论囊间动态路由算法。胶囊是什么 为了回答胶囊是什么的问题，我觉得应该参考引入胶囊的第一篇论文——Hinton等人的《Transforming Autoencoders》。下面摘抄的一段，对理解胶囊这个概念非常重...

1.比较Boosting和Bagging的异同1、二者都是集成学习算法，都是将多个弱学习器组合成强学习器的方法。2、Bagging（套袋法）：从原始数据集中每一轮有放回地抽取训练集，训练得到k个弱学习器.。对于分类：将这k个弱学习器以投票的方式得到最终的分类结果。对回归问题；计算上述模型的均值作为最后的结果。（所有模型的重要性相同）3、Boosting：每一轮根据上一轮的分类结...