ice_martin-优快云博客

原创机器学习笔记week5(Andrew NG)

机器学习笔记week5(Andrew NG)martin机器学习笔记week5Andrew NGcost functionBPBackPropagation算法cost function下图分别是逻辑回归和神经网络的cost function，可以看到，神经网络的代价函数比逻辑回归多了一层求和，原因是神经网络的输出层包含K个输出节点，如果要进行多分类的话需要确定哪一节点是1，从而将输出结果表达

2017-09-01 08:28:18 1128

原创机器学习笔记week4(Andrew NG)

机器学习笔记week4(Andrew NG)martin机器学习笔记week4Andrew NG概念介绍神经网络单元神经网络结构前向算法原理与应用神经网络解决的问题神经网络多分类概念介绍神经网络单元如图所示，每一个神经元(输入层除外)都是一个逻辑回归模型，也即为感知机。神经网络结构神经网络一般有三个模块或者层次。分别是输入层、隐含层、输出层。这里需指出的是隐含层往往不只有一层。除输出层

2017-08-28 16:11:49 1030

原创 Scikit-Learn各算法详细参数速查手册(中文)

Scikit-Learn各算法详细参数速查手册(中文)martinScikit-Learn各算法详细参数速查手册中文线性模型1 线性回归2 线性回归的正则化21 Lasso回归L1正则22 岭回归L2正则23 ElasticNet弹性网络正则3 逻辑回归4 线性判别分析决策树1 回归决策树2分类决策树贝叶斯分类器1 高斯贝叶斯分类器2 多项贝叶斯分类器3 伯努利贝叶斯分

2017-07-21 18:35:32 10403

原创机器学习笔记week3(Andrew NG)

机器学习笔记week3(Andrew NG)martin机器学习笔记week3Andrew NG逻辑回归逻辑回归模型多分类多分类解决过拟合问题过拟合带正则化项的cost function带有正则化项的线性回归带有正则项的逻辑回归逻辑回归逻辑回归模型逻辑回归表达式：hθ(x)=g(θTx)h_\theta(x) = g(\theta^Tx) z=θTxz = \theta^Tx

2017-03-14 01:19:11 1618

原创机器学习笔记week2(Andrew NG)

机器学习笔记week2(Andrew NG)martin机器学习笔记week2Andrew NGLinear Regression with Multiple Variable多元线性回归Gradient Descent in Multivariate Linear Regression多元线性回归中的梯度下降Features and Polynomial Regression特征与多项式回归

2017-03-09 21:50:51 746

原创机器学习笔记week1(Andrew NG)

机器学习笔记week1(Andrew NG)martin机器学习笔记week1Andrew NGLinear Regression with one Variable单变量线性回归Model and Cost Function模型和损失函数Gradient Desent梯度下降小节测试Linear Regression with one Variable(单变量线性回归)Model and

2017-03-09 21:44:53 1618

转载各种激活函数(Activation Function)

原文地址http://blog.youkuaiyun.com/cyh_24/article/details/50593400

2017-08-16 14:37:16 515

原创初识AdaBoost

AdaBoostmartinAdaBoost算法过程基分类器权值a与训练数据集权值w的分析AdaBoost推导AdaBoost是典型的Boosting方法，并且效果很显著。下图是AdaBoost的框架图：算法过程下面介绍AdaBoost算法的过程： 1. 初始化训练数据的权值分布： D1=(w11,w12,w13,...,w1N),w1i=1N,i=1,2,...,ND_1 = (w_{

2017-03-24 18:03:27 546

转载深入理解拉格朗日乘子法（Lagrange Multiplier) 和KKT条件

在求取有约束条件的优化问题时，拉格朗日乘子法（Lagrange Multiplier) 和KKT条件是非常重要的两个求取方法，对于等式约束的优化问题，可以应用拉格朗日乘子法去求取最优值；如果含有不等式约束，可以应用KKT条件去求取。当然，这两个方法求得的结果只是必要条件，只有当是凸函数的情况下，才能保证是充分必要条件。KKT条件是拉格朗日乘子法的泛化。之前学习的时候，只知道直接应用两个方法，但是却

2017-03-23 16:31:32 1228

转载快速排序理解

快速排序martin快速排序由于排序效率在同为O(N*logN)的几种排序方法中效率较高，因此经常被采用，再加上快速排序思想—-分治法也确实实用，因此很多软件公司的笔试面试，包括像腾讯，微软等知名IT公司都喜欢考这个，还有大大小的程序方面的考试如软考，考研中也常常出现快速排序的身影。总的说来，要直接默写出快速排序还是有一定难度的，因为本人就自己的理解对快速排序作了下白话解释，希望对大家理解有帮助

2017-03-21 16:27:42 467 1

原创决策树梳理

决策树martin决策树基本概念ID3C45CART基本概念一般的，一颗决策树包含一个根节点、若干个内部节点和若干个叶节点，所以决策树相当于多叉树。叶节点对应于决策结果，其他每个结点则对应与一个属性测试，每个节点包含的样本集合根据属性测试的结果被分到子节点中。决策树学习的目的是为了产生一棵泛化能力强，即处理未见示例能力的决策树，基本思想遵循“分而治之”的策略。决策树的生成是一个递归过程。在

2017-03-19 12:36:34 9713 5

转载你有没有玩命爱过一个姑娘

你有没有玩命爱过一个姑娘查看原文章点这里和朋友们聚会，大家决定玩一个游戏。找一个主题，然后讲一段自己的真实经历，看看谁的经历最有起承转合，最催泪，最奇葩，或者最让人无语凝噎，想抄家伙。最后我们选定了一个主题——你有没有玩命爱一个姑娘。这个问题抛出来的时候，大家都沉默了，纷纷在记忆中寻找那一段为了姑娘、为了爱情玩命的激情岁月。在座的男士们，有的已经结婚，有的有了女朋友，有的还是一如既往的单身狗。在大家

2017-03-15 14:17:16 1624

原创深入理解SVM

SVM核心思想一最大间隔SVM核心思想二决策公式SVM核心思想三目标函数SVM核心思想四优化理论SVM核心思想五损失函数SVM核心思想六核方法SVM核心思想七SMO

2017-03-15 12:45:22 5097 2

原创极大似然估计

极大似然估计martin极大似然估计极大似然估计基本原理最大化似然函数极大似然估计基本原理：最大化似然函数定义：假设样本{X1,X2,...Xn}\{X_1,X_2,...X_n\}服从概率密度函数fθ(x)f_\theta(x)。其中，θ=(θ1,θ2,...θk)\theta = (\theta_1,\theta_2,...\theta_k)是未知参数。当固定xx的时候fθ(x)f_\the

2017-03-14 09:16:48 979

原创牛顿法与梯度下降法

牛顿法与梯度下降法martin牛顿法与梯度下降法牛顿法与梯度下降算法的适用范围牛顿法一元函数二阶逼近多元函数二阶逼近梯度下降法牛顿法与梯度下降算法的适用范围这两种算法都只能找到局部最小值，也就是说容易陷入局部最优。两种算法都必须给出一个初始点。牛顿法使用二阶逼近，梯度下降法使用一阶逼近。牛顿法对局部凸的函数能找到极小值，对局部凹的函数能找到极大值，对局部不凸不凹的可能找到鞍点。梯

2017-03-14 08:34:32 4549

原创 Matplotlib进阶：Seaborn教程

Matplotlib进阶：Seaborn教程martinMatplotlib进阶Seaborn教程样式管理使用axes_style和set_style控制外观选择颜色可选绘图函数可视化数据的分布绘制单变量分布绘制二元分布可视化线性回归关系模型可选使用分类数据绘图利用不同类型模型来拟合数据分类散点图观测值分布统计估计绘制多面板分类图样式管理为了能进行后续工作，要进行如下操

2017-03-12 14:09:35 14317 1

原创 Matplotlib绘图和可视化

Matplotlib绘图和可视化Matplotlib绘图和可视化matplotlib API 入门Figure和Subplot颜色标记和线型刻度标签和图例注解以及在Subplot上绘图将图表保存到文件martinmatplotlib API 入门绘图是数据分析工作中最重要的任务之一，是探索过程中的一部分。例如帮助我们找出异常值、必要的数据转化、得出有关模型的idea等。Python有许

2017-03-12 14:05:20 6310

原创 Pandas入门(下)

Pandas入门(下)Pandas入门下汇总和计算描述统计处理缺失数据层次化索引使用DataFrame的列其他有关pandas内容Martin汇总和计算描述统计pandas对象拥有一组常用的数学和统计方法。它们大部分都属于约简和汇总统计，用于从Series中提取单个值(如sum或mean)或从DataFrame的行或列中提取一个Series。跟对应的Numpy数组方法相比，它们都是基于没

2017-03-12 14:00:02 1916

原创 Pandas入门(中)

Pandas系列之：数据聚合与分组运算Pandas系列之数据聚合与分组运算GroupBy技术对分组进行迭代选取一个或一组列通过字典或Series进行分组通过函数进行分组根据索引级别分组数据聚合面向列的多函数应用以无索引形式返回聚合数据分组级运算和转换apply一般性的拆分-应用-合并禁止分组键透视表MartinGroupBy技术“split-apply-combine”(

2017-03-12 13:58:37 1315

原创 Pandas入门(上)

Pandas入门上pandas数据结构介绍基本功能算数运算和数据对齐Pandas入门(上)Martinpandas数据结构介绍要使用pandas首先得熟悉它的两个数据结构：Series和DataFrame。SeriesSeries是一种类似于一维数组的对象，它由一组数据（各种Numpy数据类型）以及一组与之相关的数据标签(即标签)组成。仅由一组数据即可产生最简单的Series：>>> o

2017-03-12 13:52:53 2753

ice_martin的博客