Civitasv

由于一些概念在之前的单变量线性回归模型文章已有详细介绍，本篇并不准备再重复一次，如果有不明白的地方可以先看单变量模型，也可以让你更理解本篇。 多变量线性回归模型是监督学习回归问题中较为复杂的模型，因为实际情况时，预测模型不可能仅有一个变量，例如：预测房价时，我们不可能仅考虑房屋面积，还需要考虑所处地、层数、新旧程度等因素。引入此模型之前，先作以下规定。 : 表示训练样本个数 ：特征变量的个数...

监督学习是机器学习中很重要的一种类型，还不理解什么是机器学习？机器学习概述 单变量线性回归是监督学习回归问题算法中最简单的一种类型之一，理解了这个模型，我们就能大致理解监督学习是在做什么了。首先，我们做以下规定： : 表示训练样本个数 ：输入变量 ：输出变量 ：一个训练样本 ：第个训练样本 ：目标函数，映射 以预测房价例子入手，模型简化，仅把面积作为房价的依据，我们需要实现下图所示...

分别使用matlab和python编程实现了对单变量回归模型和多变量回归模型的拟合，使用向量化编程，实现了梯度下降算法和正规方程方法，经检测，预测结果正确，代码放在了github上。 ...

人工智能是当今最流行的技术之一，这个概念第一次在五十年代的达特茅斯会议上被计算机科学家所提出，那时他们就梦想着能够设计出像人一样的能够思考的机器。然而，由于计算机技术的落后，人工智能在很长的一段时间里都处于混沌的状态，我们并不知道具体该如何实现它，太多的困难使人工智能陷入了低谷。然而，近代随着计算机技术的高速发展，人工智能这一技术再度活跃了起来...

过拟合问题（Overfitting） 当我们对一个问题建立线性回归模型或逻辑回归模型时，不恰当的选择特征会导致过拟合问题。过拟合问题是指当我们选择了很多的特征值时，模型对数据集的每一个example都符合的很好，但是对新的example却预测不能，偏差较大。 解决方法 方法一：减少特征量的数量 方法二：正则化 本片博客暂不讨论方法一，着重于正则化的分析。 正则化（Regular...

    在一幅图像中，人们常常只对其中的一部分感兴趣，更重要的是，通常只有部分区域含有我们需要的某些重要的信息，这些部分通常占据一定的区域，并且具有某些特性（如灰度，轮廓，颜色和纹理等）。在实际的应用中，如摄像中车牌数字的识别，或是单独研究图像某一具有明显特征的部分时，就需要对图像进行一定的处理，而传统方式的处理图像却往往不那么令人满意。本次使用matlab实现对图片的处理，得到其中重要的一部分，...

手写数字的识别是机器学习的一个十分经典的问题，也是逻辑回归进行多类分类的一个典型案例。 开发环境 分别使用python和matlab编程实现，下面以python为例。 数据准备 数据来自吴恩达机器学习课程，共5000张图片，大小均为20*20，在此下载。 数据导入 # 导入数据 print("loading data...") data = scio.loadmat("ex3data...

模型目的 此模型用于解决监督学习中的分类问题。现实生活中分类问题有很多，例如垃圾邮件的分类、学生成绩层次的划分、恶性肿瘤和良性肿瘤的划分等等。为了解决这类问题，我们建立了逻辑回归模型(logistic regression model)。 二元分类 我们从最简单的二元分类开始，首先作以下规定： : 表示训练样本个数 ：输入变量 ：输出变量， 0:Nagative 1:Positive...

相比于逻辑回归，神经网络模型可以完成更为复杂的分类，在非线性预测方面有着很重要的意义。按照我的理解，神经网络每相邻的两层即建立了一个逻辑回归模型，就像人体内的神经元那样，两个神经元能够传递的信息是有限的，但是随着神经元的增加，我们便看到了东西，听到了声音，学会了思考...因此，合适的选择神经网络模型，可以取得逻辑回归模型远远达不到的效果。 使用神经网络进行数字识别，建立的神经网络包含一个输入层，...