God_68的博客

近年来，机器学习与人工智能已广泛应用于学术与工程，比如数据挖掘、计算机视觉、自然语言处理、生物特征识别、搜索引擎、医学诊断、检测信用卡欺诈、证券市场分析、DNA序列测序、语音和手写识别、战略游戏和机器人运用。对于一个初学者来讲，周志华教授的西瓜书是一个很好的选择，以及相关机器学习视频课程是必不可少的，在这里我先分享基础学习视频 机器学习课程（20集），网上有很多公开课程，大家可以自行查找。接下...

在我的之前的博客中已经讲解了感知机，接下来谈到的神经网络与感知机有许多共同之处，下面主要是讲讲神经网络与感知机的不同之处。首先来看看一个神经网络的示例： 上图示，最左侧是输入层，中间的一列被称为中间层，也被称之为隐藏层，最右一列被称为输出层。 则，神经网络在信号传递的过程中与感知机有什么联系呢？在之前的感知机中提到，其网络结构如下图所示： 公式表示为：其中，b为偏置，用...

感知机作为神经网络的起源算法，在1957年是由美国学者Frank Rosenblatt 提出来的。其实，感知机也被称为“人工神经元”或“朴素感知机”，因为在一般情况下的处理都是共通的，所以就被统称为“感知机”了。那么，感知机到底是什么呢？下图是有两个输入信号的感知机的例子：和 是输入信号， 是输出信号，其中和分别是和 的权重。图中符号“”表示的是“神经元”或“节点”。当输入信号和 被输入至...

1. 环境：windws7-64bitPython 3.6：直接通过安装anaconda完成；下载地址=> https://www.anaconda.com/download/#windows在这里，我提供链接：https://pan.baidu.com/s/1bWwaa0m_wM-cAVwYl0GxKw 密码：uk9v 2. 安装TensorFlow：安装好anaconda...

       梯度下降算法可以将代价函数（Cost Function）最小化且其常被应用于线性回归问题中，此外，还会应用于众多其他机器学习领域。梯度下降是一个用来求函数最小值的算法，我们将使用梯度下降算法来求出代价函数的最小值。下面是问题综述：        梯度下降背后的思想是：开始时我们随机选择一个参数的组合，计算代价函数，然后我们寻找下一个能让代价函数值下降最多的参数组合。我们持...

对于经典机器学习算法，是所有从事相关工作者必须了解的，同时也是面试官经常提及的问题。下面我将与大家分享GBDT（Gradient Boosting Decision Tree）、RF（Random Forest）、SVM（Support Vector Machine）、XGBoost四种机器学习算法的面试考核点。若有错误，欢迎大家批评指正！！！一、GBDT算法1、算法简介GBDT，梯度...

工程上的很多问题，比如最经典的最小二乘法、聚类问题、分类问题、视觉中的立体匹配以及图像检索等等，都要涉及到比较两个向量或者集合或者概率分布的相似程度，而比较相似程度又可以转化为比较它们之间两两的距离，距离越近，相似程度越高。针对不同的问题，研究人员提出了不同的相似度衡量标准。首先不得不说的，就是由范数而来的几种距离度量。平时接触最多的就是L0，L1，L2和L_infinity范数：L0范数即向量中...

1、LU分解可以说是最简单的矩阵分解方法，将矩阵A分解成L（下三角）矩阵和U（上三角）矩阵的乘积。其实就是高斯消元法的体现，U矩阵就是利用高斯消元法得到的，而消元过程用到的初等变换矩阵乘积就是L矩阵。需要注意的是，L矩阵可以是置换过的矩阵，即一个下三角矩阵和一个置换矩阵的乘积（可以参考MATLAB中LU分解的函数lu）。参考资料：矩阵分解资料1矩阵分解资料2适用范围：A可以是一...

1 算法说明1.1 基本原理1967 年MacQueen 首次提出了K 均值聚类算法（K-means算法）。到目前为止用于科学和工业应用的诸多聚类算法中一种极有影响的技术。K-means是最常用的聚类算法之一，能有效地处理规模较大和高维的数据集合，能对大型数据集进行高效分类，把数据分成几组，按照定义的测量标准，同组内数据与其他组数据相比具有较强的相似性，这就叫聚簇。它是聚类方法中一个基本的...

       前面的博客介绍过神经网络结构以及相关的损失函数，在这里我们通过一个简单的神经网络实现一个机器学习问题：识别手写数字图像。       和求解机器学习问题的步骤（分成学习和推理两个阶段进行）一样，使用神经网络解决问题时，也需要首先使用训练数据（学习数据）进行权重参数的学习；进行推理时，使用刚才学习到的参数，对输入数据进行分类。1、MNIST数据集   在这里使用常用的且著名...