weixin_37559696的博客

转 决策树与随机森林 2018年11月19日 11:07:09 AI点滴积累 阅读数：20 <span class="tags-box artic-tag-box">

本文转自：https://blog.youkuaiyun.com/u011021773/article/details/78301557 蒙特卡洛算法，实际上就是用频率估计概率。首先我们知道一个边长为2的正方形面积是22=4，他的内接圆的面积是π1，那么我们在这样一个正方形内随机生成10000个点，落在圆里的点的个数/10000就应该是π/4，所以我们可以估计出π是落在圆里的点的个数*4/10000....

本文转自：http://www.52caml.com/head_first_ml/ml-chapter2-entropy-based-family/基本概念熵与信息熵如何理解熵的含义？自然界的事物，如果任其自身发展，最终都会达到尽可能的平衡或互补状态。举例：一盒火柴，（人为或外力）有序地将其摆放在一个小盒子里，如果不小心火柴盒打翻了，火柴会“散乱”地洒在地板上。此时火柴虽然很乱，...

本文转自：http://www.52caml.com/head_first_ml/ml-chapter6-boosting-family/写在前面提升（boosting）方法是一类应用广泛且非常有效的统计学习方法。在2006年，Caruana和Niculescu-Mizil等人完成了一项实验，比较当今世界上现成的分类器（off-the-shelf classifiers）中哪个最好？实...

本文转自：http://www.52caml.com/head_first_ml/ml-chapter3-tree-based-family/写在前面本章我想以一个例子作为直观引入，来介绍决策树的结构、学习过程以及具体方法在学习过程中的差异。（注：构造下面的成绩示例数据，来说明决策树的构造过程）定义划分等级的标准：“等级1”把数据划分为4个区间：“等级2”的划分 假设这次考试，...

本文转自：http://www.52caml.com/head_first_ml/ml-chapter4-kernel-based-family/写在前面机器学习中有这样一个结论：低维空间线性不可分的数据通过非线性映射到高维特征空间则可能线性可分。极端地，假设数据集中有m个样本，一定可以在m−1维空间中线性可分。每一个样本在特征空间中对应一个点，试想一下，2个点可以用一维空间分开；3个...

本文转自：http://www.52caml.com/head_first_ml/ml-chapter9-factorization-family/因子分解机因子分解机（Factorization Machine，简称FM），又称分解机器。是由Konstanz大学（德国康斯坦茨大学）Steffen Rendle（现任职于Google）于2010年最早提出的，旨在解决大规模稀疏数据下的特征...

本文转自：http://www.52caml.com/head_first_ml/ml-chapter10-clustering-family/# 写在前面那么如何把相近的样本点聚合在一起，同样不相近的样本尽可能不在同一个簇中？一个思路就是假设每个样本有标签，只是“隐藏”起来了，把它当作隐变量（latent variable）。然后用监督学习的思路去求解，把相同标签的样本聚合在一起即可...

本文转自：https://my.oschina.net/sizhe/blog/15947911 定义问题客户流失率问题是电信运营商面临得一项重要课题，也是一个较为流行的案例。根据测算，招揽新的客户比保留住既有客户的花费大得多（通常5-20倍的差距）。因此，如何保留住现在的客户对运营商而言是一项非常有意义的事情。 本文希望通过一个公开数据的客户流失率问题分析，能够带着大家理解如何应用机器学...

本文转自：https://blog.youkuaiyun.com/qq_31192383/article/details/77198870反向传播算法工作原理在上一篇文章，我们看到了神经网络如何通过梯度下降算法学习，从而改变权重和偏差。但是，前面我们并没有讨论如何计算代价函数的梯度，这是一个很大的遗憾。这一篇文章，我们将介绍一种称为反向传播的快速计算梯度的算法。使用反向传播算法学习的神经网络比其他...

本文转自：https://blog.youkuaiyun.com/wanghuan203/article/details/79329427 常见的七种回归技术      根据受欢迎程度，线性回归和逻辑回归经常是我们做预测模型时，且第一个学习的算法。但是如果认为回归就两个算法，就大错特错了。事实上我们有许多类型的回归方法可以去建模。每一个算法都有其重要...

本文转自：https://blog.youkuaiyun.com/lyxleft/article/details/85954587 1 背景介绍      深度学习是近几年的热门研究话题。深度学习受到神经学的启示，模拟人脑的认知与表达过程，通过低层信号到高层特征的函数映射，来建...

本文转自：http://www.52caml.com/reinforcement-learning/chapter4-dynamic-programming/ 前言这一节介绍基于模型的强化学习问题求解的一种算法－动态规划算法。动态规划算法是解决复杂问题的一类方法，算法通过把复杂问题分解成若干个子问题，通过求解子问题进一步得到全局问题的解。所谓基于模型的强化学习即马尔科夫决策过程已知（...

本文转自：http://www.52caml.com/reinforcement-learning/chapter3-markov-decision-process/1. 智能体与环境强化学习问题不同于传统机器学习问题，它是一种在交互的过程中学习并实现目标的问题。这里把具有学习能力和决策能力的程序或系统称之为Agent（代理，智能体）；与之交互的对象统称为环境（Environment）。交...

本文转自：https://blog.youkuaiyun.com/u014380165/article/details/80202337 版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.youkuaiyun.com/u014380165/article/details/80202337 ...

转 Logistic回归算法 2018年11月19日 12:54:49 AI点滴积累 阅读数：8 <span class="tags-box artic-tag-box"&

本文转载自https://blog.youkuaiyun.com/a819825294/article/details/53393837神经网络从原理到实现1.简单介绍在机器学习和认知科学领域，人工神经网络（artificial neural network，缩写ANN），简称神经网络（neural network，缩写NN）或类神经网络，是一种模仿生物神经网络(动物的中枢神经系统，特别是大脑)的...

本文转载自https://www.cnblogs.com/wangkundentisy/p/7505487.html一. 简介首先来看百度百科对最小二乘法的介绍：最小二乘法（又称最小平方法）是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据，并使得这些求得的数据与实际数据之间误差的平方和为最小。最小二乘法还可用于曲线拟合。其他一些优...

本文转载自http://holynull.leanote.com/post/Logistic-2朴素贝叶斯分类方法前言朴素贝叶斯分类算法是机器学习领域最基本的几种算法之一。但是对于作者这样没有什么数据基础的老码农来说，理解起来确实有一些困难。所以撰写此文帮助自己理解算法，同时也希望对同样在机器学习起跑线上的同仁有所帮助。开篇我们就不对所涉及的技术要求做说明了，假设您具备高中数学的基础...

本文转自：https://mp.weixin.qq.com/s?__biz=MzU2NDI1MjkwNA==&mid=2247484020&idx=1&sn=73aa1452ddba05ae233e3e4a3aaa2ad6&chksm=fc4c9bf3cb3b12e5877f0bfc64c819bf7ffc302d1ad473ed3bea618cc923e978c...

本文转载自：https://www.cnblogs.com/zhouxiaohui888/p/6008368.html1.背景关于xgboost的原理网络上的资源很少，大多数还停留在应用层面，本文通过学习陈天奇博士的PPT地址和xgboost导读和实战 地址，希望对xgboost原理进行深入理解。2.xgboost vs gbdt说到xgboost，不得不说gbdt。了解gbdt可以...

本文转自：https://blog.youkuaiyun.com/lipengcn/article/details/81253033# 1 概述## 1.1 强化学习 v.s. 监督学习强化学习，与监督学习、无监督学习并列，作为机器学习的三大类。强化学习，研究的是 agent 从与 environment 交互过程进行学习，学习如何作用于 environment，从而可以从 environment...

本文转载自：https://www.cnblogs.com/ybjourney/p/4714870.html 一 K-均值聚类（K-means）概述聚类“类”指的是具有相似性的集合。聚类是指将数据集划分为若干类，使得类内之间的数据最为相似，各类之间的数据相似度差别尽可能大。聚类分析就是以相似性为基础，对数据集进行聚类划分，属于无监督学习。无监督学习和监督学习上一篇对KNN...

本文转载自：https://www.cnblogs.com/ybjourney/p/4702562.html 一 . K-近邻算法（KNN）概述最简单最初级的分类器是将全部的训练数据所对应的类别都记录下来，当测试对象的属性和某个训练对象的属性完全匹配时，便可以对其进行分类。但是怎么可能所有测试对象都会找到与之完全匹配的训练对象呢，其次就是存在一个测试对象同时与多个训练对象匹配，导致一个...

本文转自：http://www.52caml.com/head_first_ml/ml-chapter1-regression-family/#%E9%80%BB%E8%BE%91%E6%96%AF%E8%92%82%E5%9B%9E%E5%BD%92%EF%BC%88Logistic_Regression%EF%BC%89符号定义这里定义《深入浅出ML》系列中涉及到的公式符号，如无特殊...

本文转自：https://blog.youkuaiyun.com/qq_20800249/article/details/80046476 名称 假设 /关键 优缺点 模型 策略 算法 感知机 拉格朗日对偶 1.初值不同结果不同 2.无法处理非线性 3.对偶形式将内积存储（Gram矩阵），...

本文转自：https://www.jianshu.com/p/8b6446181a52 概述机器学习发展到今天，得益于数据量的增长、算力的丰富、和深度神经网络技术的不断创新和广泛应用，像计算机视觉、自动控制、图像识别、语音识别、自然语言处理和音频识别等领域，在最近几年中，不断迎来突破。这直接导致了AI技术的蓬勃发展，像Alapha Go、自动...