Linias的博客

 多维特征目前为止，我们探讨了单变量（特征）的回归模型，现在我们对房价模型增加更多的特征，如房间数楼层等，构成一个含有多个变量的模型，模型中的特征为（x ,x ,...,x ）。 多变量梯度下降与单变量线性回归类似，在多变量线性回归中，我们也构建一个代价函数，则这个代价函数是所有建模误差的平方和，即：其中：我们的目标和单变量线性回归问题中一样，是要找...

keras 流程以及重要的函数简介步骤：先指定模型 Sequential( )  ---->堆叠模块 .add( ) ---->编译模型 .compile( ) ---->在训练数据上迭代 .fit( ) ---->评估 .evaluate( ) ---->对新数据的预测 .predict( )   Dense 全连接层案例Bp 神...

应用机器学习的建议     若在过程中，遇到了很大的预测误差该怎么办 **改进算法的几种办法： 获得更多的训练实例——通常是有效的，但代价较大，下面的方法也可能有效，可考虑先采用下面的几种方 ---解决高方差 尝试减少特征的数量（可以仔细挑选一些来防止过拟合）            --解决高方差                               ...

卷积神经网络 — 卷积神经网络基础1. 计算机视觉计算机视觉（Computer Vision）包含很多不同类别的问题，如图片分类、目标检测、图片风格迁移等等。对于小尺寸的图片问题，也许我们用深度神经网络的结构可以较为简单的解决一定的问题。但是当应用在大尺寸的图片上，输入规模将变得十分庞大，使用神经网络将会有非常多的参数需要去学习，这个时候神经网络就不再适用。卷积神经网络在计算机...

机器学习系统设计 以一个垃圾邮件分类器算法为例进行讨论。为了解决这样一个问题，我们首先要做的决定是如何选择并表达特征向量xx。我们可以选择一个由100个最常出现在垃圾邮件中的词所构成的列表，根据这些词是否有在邮件中出现，来获得我们的特征向量（出现为1，不出现为0），尺寸为100×1。  误差分析**构建一个学习算法的推荐方法为：1. 从一个简单的能快速实现的算法...

序列模型 — 循环神经网络1. 序列模型的应用序列模型能解决哪些激动人心的问题呢？语音识别：将输入的语音信号直接输出相应的语音文本信息。无论是语音信号还是文本信息均是序列数据。音乐生成：生成音乐乐谱。只有输出的音乐乐谱是序列数据，输入可以是空或者一个整数。情感分类：将输入的评论句子转换为相应的等级或评分。输入是一个序列，输出则是一个单独的类别。DNA序列分析：找到输入的DN...

    LSTM，全称为长短期记忆网络(Long Short Term Memory networks)，是一种特殊的RNN，能够学习到长期依赖关系。LSTM由Hochreiter & Schmidhuber (1997)提出，许多研究者进行了一系列的工作对其改进并使之发扬光大。    了解LSTM请前往——LSTM的“前生今世”    LSTM在解决许多问题上效果非常好，现在被广...

Win10上安装Keras 和 TensorFlow(GPU版本)一. 安装环境Windows 10 64bit  家庭版 GPU: GeForce GTX1070 Python: 3.5 CUDA: CUDA Toolkit 8.0 GA1 (Sept 2016) cuDNN: cuDNN v6.0 Library for Windows 10【注意】（1）这里值得一提的是...

tensor :  张量，其实就是矩阵 Variable：变量的意思。一般用来表示图中的各计算参数，包括矩阵，向量等。placeholder ：同样是一个抽象的概念。用于表示输入输出数据的格式。告诉系统：这里有一个值/向量/矩阵，现在我没法给你具体数值，不过我正式运行的时候会补上的！session：会话。我的理解是，session是抽象模型的实现者。为什么之前的代码多处要用到sessi...

配置Spyder（tensorflow）开发环境Spyder 是Anaconda自带的集成开发环境（IDE），可以在Spyder中进行tensorflow的开发。1 重新安装Spyder在Anaconda 中已经安装的tensorflow环境中（在Anaconda 中安装的tensorflow环境的方法见：TensorFlow-GPU安装-by-Anaconda-in-Windows方...

Keras TensorFlow教程：如何从零开发一个复杂深度学习模型  Keras 是提供一些高可用的 Python API ，能帮助你快速的构建和训练自己的深度学习模型，它的后端是 TensorFlow 或者 Theano 。本文假设你已经熟悉了 TensorFlow 和卷积神经网络，如果，你还没有熟悉，那么可以先看看这个10分钟入门 TensorFlow 教程和卷积神经网络教...

神经网络    假设神经网络的训练样本有m个，每个包含一组输入x和一组输出信号y，L表示神经网络层数，SI表示每层的neuron个数(Sl表示输出层神经元个数)，SL代表最后一层中处理单元的个数。将神经网络的分类定义为两种情况：二类分类和多类分类，二类分类：SL=0,y=0or1表示哪一类；K类分类：SL=k,yi=1  表示分到第i类；(k>2) 我们回顾逻辑回...

基础操作% 代表注释% 改变 Octave 提示符PS1('>> ');% 改变工作目录cd 'c:/path/to/desired/directory name'% 其中对于 / 不需要额外的转义字符%% 基础操作和变量赋值5+63-25*81/22^6 % 2的6次方1 == 2 % 逻辑判断1 ~= 2 % 不等于不是 "!="...

支持向量机(Support Vector Machines)优化目标支持向量机(Support Vector Machine)。与逻辑回归和神经网络相比，支持向量机，或者简称SVM，在学习复杂的非线性方程时提供了一种更为清晰，更加强大的方式。因此，在接下来的视频中，我会探讨这一算法。在稍后的课程中，我也会对监督学习算法进行简要的总结。当然，仅仅是作简要描述。但对于支持向量机，鉴于该算法的强...

卷积神经网络 — 目标检测1. 目标定位和特征点检测图片检测问题：分类问题：判断图中是否为汽车；目标定位：判断是否为汽车，并确定具体位置；目标检测：检测不同物体并定位。目标分类和定位：对于目标定位问题，我们卷积神经网络模型结构可能如下：神经网络输出的是4个分类和4个数字但如果还想定位图片中汽车的位置该怎么做？让神经网络多输出几个单元作为边界框。输...

逻辑回归（logistic regression）分类（Classification)分类问题举例：邮件：垃圾邮件/非垃圾邮件？在线交易：是否欺诈（是/否）？肿瘤：恶性/良性？以上问题可以称之为二分类问题，我们将因变量(dependant variable)可能属于的两个类分别称为负向类（negative class）和正向类（positive class），则因变量yϵ{0...

聚类(Clustering) 无监督学习：    什么是非监督学习呢？在课程的一开始，我曾简单的介绍过非监督学习，然而，我们还是有必要将其与监督学习做一下比较。在一个典型的监督学习中，我们有一个有标签的训练集，我们的目标是找到能够区分正样本和负样本的决策边界，在这里的监督学习中，我们有一系列标签，我们需要据此拟合一个假设函数。与此不同的是，在非监督学习中，我们的数据没有附带任何标签，我...

机器学习：正则化 过拟合问题拟合问题举例-线性回归之房价问题：下图左中右分别是：欠拟合、合适的拟合、过拟合 什么是过拟合(Overfitting):如果我们有非常多的特征，那么所学的Hypothesis有可能对训练集拟合的非常好，但是对于新数据预测的很差。过拟合导致它无法泛化（应用到新样本的能力）到新的样本中，无法预测新的样本 拟合问题举例-逻辑回归：...

异常检测 模型p(x) 为我们其属于一组数据的可能性通过p(x)<ε检测非正常用户。                                                                                       异常检测主要用来识别欺骗。例如在线采集而来的有关用户的数据，一个特征向量中可能会包含如：用户多久登录一次，访...

降维(Dimensionality Reduction)数据压缩    我想开始谈论第二种类型的无监督学习问题，称为降维。有几个不同的的原因使你可能想要做降维。一是数据压缩，后面我们会看了一些视频后，数据压缩不仅允许我们压缩数据，因而使用较少的计算机内存或磁盘空间，但它也让我们加快我们的学习算法。但首先，让我们谈论降维是什么。作为一种生动的例子，我们收集的数据集，有许多，许多特征，我绘...

 经典的卷积网络介绍几种经典的卷积神经网络结构，分别是LeNet、AlexNet、VGGNet。LeNet-5（年代较久远）：主要是针对灰度设计的，所以其输入较小，为32×32×1，其结构如下：在LetNet中，存在的经典模式：随着网络的深度增加，图像的大小在缩小，与此同时，通道的数量却在增加；每个卷积层后面接一个池化层。1.AlexNet：AlexNet直接对彩色...