zzulp的专栏

卷积神经网络简介卷积神经网络和全连接神经网络一样，都是由多个神经网络层连接而成。不同的是CNN一般是由多个卷积层，池化层交替连接起来，用于提取输入数据的高层特征，并缩小数据的维度。最后对提取出的特征进行神经网络分类形成最终的输出。

Pytorch上手使用近期学习了另一个深度学习框架库Pytorch，对学习进行一些总结，方便自己回顾。Pytorch是torch的python版本，是由Facebook开源的神经网络框架。与Tensorflow的静态计算图不同，pytorch的计算图是动态的，可以根据计算需要实时改变计算图。1 安装如果已经安装了cuda8，则使用pip来安装pytorch会十分简单。若使用其他...

深度学习之一：神经网络与深度学习1 简介本系列内容为Andrew NG的深度学习课程的笔记。深度学习课程在coursera及网易云课堂上都可以免费学习到。课程共计5部分，分别介绍了深度学习，深度学习的优化，深度学习项目的演进策略，卷积神经网络和循环神经网络。本系列笔记也分为5部分，分别与之相对应。本篇内容主要介绍如何使用numpy，通过梯度下降实现后向传播算法，完成从简单的单个...

计算机视觉在深度学习的帮助下取得了令人惊叹的进展，其中发挥重要作用的是卷积神经网络。本节总结了卷积神经的原理与实现方法。1 卷积神经网络1.1 计算机视觉与深度学习计算机视觉要解决的问题是如何让机器理解现实世界的现象。目前主要处理的问题如图像分类，目标检测，风格变换等。对于小型图片，如MNIST的图片处理，图像大小为64*64，使用全连接神经网络还可以处理。如果图像较大，如...

本文为Andrew ng深度学习课程的第三部分，主要总结了机器学习的策略方法。1 机器学习策略之一当我们的模型搭建出来之后，策略可以指引我们为了达到目标，如何采取下一步行动。1.1 正交化当设计和训练一个监督学习的系统时，我们依赖下面四条正交的假定：使模型在训练集上拟合，否则使用更大的神经网络或使用更好的优化算法。使模型在开发集上拟合，否则使用正则化或使用更大的训练集...

本文内容为Andrew ng深度学习课程的第二部分的笔记，本篇总结了如何神经网络的训练和学习过程的实践经验与优化方法。1 深度学习的实践技巧应用机器学习是一个需要不断迭代的过程，众多经验参数如层数，隐层单元数，学习率，激活函数，权重参数的初始化方法等等众多的参数需要不断尝试改进以最终的得到较高的准确率。在这个过程中，有着众多的实践技巧。1.1 训练/开发/测试集如果针对某一监督...

1 循环序列模型1.1 序列模型的适用范围序列模型是一种用于处理序列数据的模型，它可以用于语音识别，音乐生成，情感分类，机器翻译，命名实体识别等。模型的输出也可能是一个序列。1.2 相关的符号约定x<k>x<k>x^{} 表示输入序列中的第k个元素 y<k>y<k>y^{} 表示输出序列中的第k个元素 x(i)<k&...

分类是为给定输入选择正确的类标签的任务。比如判断一封Email是否是垃圾邮件，确定一篇新闻的主题。 如果分类需要人工标准的标签进行训练，则称为有监督分类。特征是一个非常重要的概念。使用分类器首先要决定选择什么 样的特征，以及对特征进行编码。如果没有特征直接输入原始数据，则数据会十分离散而难以训练出有用的模型。

1 信息抽取从数据库中抽取信息是容易的，但对于从自然文本中抽取信息则不那么直观。通常信息抽取的流程如下：它开始于分句，分词，接下来进行词性标注，识别其中的命名实体，最后使用关系识别搜索相近实体间的可能的关系。

keras提供了两种模型，一种是Sequential,译做序列模型。另一种是Functional，译做函数型模型。二者可以从使用形式来区分，序列模型可以看做是面向对象的方法，一系列对象协作完成任务。函数模型则是一系列的过程调用来完成任务。

1 简介在进行自然语言处理之前，需要对文本进行处理。 本文介绍keras提供的预处理包keras.preproceing下的text与序列处理模块sequence模块2 text模块提供的方法text_to_word_sequence(text,fileter) 可以简单理解此函数功能类str.splitone_hot(text,vocab_size) 基于hash函数(桶大小为voca

对Keras提供的一些训练辅助工具类进行介绍

对Keras提供的对各种层的抽象进行相对全面的概括,以对Keras有更全面的认识。

RNN即循环神经网络，其主要用途是处理和预测序列数据。在CNN中，神经网络层间采用全连接的方式连接，但层内节点之间却无连接。RNN为了处理序列数据，层内节点的输出还会重新输入本层，以实现学习历史，预测未来。 RNN的两个主要改进是LSTM(长短时记忆网络)和GRU(门控循环单元)，二者为基本神经单元增加了额外的功能门，从而更好的实现长时记忆的处理。

Sklearn cookbook总结1 数据预处理1.1 获取数据sklearn自带一些数据集，可以通过datasets模块的load_*方法加载，还有一些数据集比较大，可以通过fetch_*的方式下载。下面的代码示例了加载boston的房价数据和下载california的房价数据的方法。from sklearn import datasetsboston = datasets.loa...