
cs229
玥晓珖
一起学习深度学习
展开
-
机器学习(五):CS229ML课程笔记(1)——线性回归
当我们看完了谷歌上线自带中文的机器学习免费课程,相信大家对机器学习都有了概念性的理解。下面我选择的课程是网易云吴恩达的公开课,相比前面的课程,此课程多了很多公式推导,详尽地介绍深度学习的基本原理。请不要觉得难就刻意避开公式推导,如果真的想理解机器学习,一定要能够独立推导出每个公式。附上网页学习链接,可缓存下载:网易云吴恩达的公开课本部分讲述了线性回归原理,线性回归的求解方法(梯度下降和正规...原创 2018-03-22 16:26:22 · 835 阅读 · 0 评论 -
机器学习(十三):CS229ML课程笔记(9)——因子分析、主成分分析(PCA)、独立成分分析(ICA)
1.因子分析:高维样本点实际上是由低维样本点经过高斯分布、线性变换、误差扰动生成的,因子分析是一种数据简化技术,是一种数据的降维方法,可以从原始高维数据中,挖掘出仍然能表现众多原始变量主要信息的低维数据。是基于一种概率模型,使用EM算法来估计参数。因子分析,是分析属性们的公共部分的表示。Exploratory Factor Analysis (EFA) is often referred...原创 2018-04-12 14:16:51 · 1422 阅读 · 0 评论 -
CS229吴恩达斯坦福机器学习课程总结
学习的过程总是。最开始学习课程的时候激情满满,写的很认真,到了后面越来越懒,视频也没看,纯粹的看别人的博客把写的比较清楚明白的截图了。但是,以后理解的更深入之后还会对前面的文章进行修正。下面主要对整个CS229课程的一些总结:(一)监督学习:分为判别学习算法求P(y|x)①-③ 和生成学习算法求哪个P(x|y=。。。)大。① 线性回归——预测,想象y=kx+b,用一条直线来拟合样本,主要是找代价函...原创 2018-04-12 11:51:54 · 2277 阅读 · 0 评论 -
机器学习(十二):CS229ML课程笔记(8)——K-means,EM算法
2.0 先来点基础概念的认识:这篇文章用例子说明了什么是极大似然估计,很直观。2.1 前提知识:2.2 EM算法:2.3 具体流程:2.3.1 E-step——由期望(Expectation)与Jensen不等式建立下界(最大似然函数引入z变量,分子分母同时乘以Q,log函数图像如下)2.3.2 M-step——最大化(Maxmize)下界2.4 EM收敛性2.5 坐标上升法理解EM2.6 编程练...原创 2018-04-10 15:10:32 · 611 阅读 · 0 评论 -
机器学习(十一):CS229ML课程笔记(7)——模型选择,特征选择
总结:1. 模型选择:——交叉验证(Model selection)① 保留交叉验证(Hold-out cross validation)② k重交叉验证(k-fold cross validation)③ 留一验证法(Leave-one-out cross validation)2. 特征选择(Feature selection)① 正向搜索/反向搜索(forward/backwardsearc...原创 2018-04-10 09:43:16 · 919 阅读 · 0 评论 -
机器学习(十):CS229ML课程笔记(6)——学习理论:偏差/方差、经验风险最小化(ERM)、联合界、一致收敛
后面几篇文章主要是学习如何对偏差和方差进行权衡、如何选择模型、如何选择特征的内容,通过这些可以在实际中对问题进行更好地选择与修改模型。Part 6 学习理论:吴恩达老师很强调对学习理论的理解,他说理解学习理论是对机器学习只懂皮毛的人和真正理解机器学习的人的区别。学习理论的重要性在于通过它能够针对实际问题更好的选择模型,修改模型。学习理论主要包括偏差/方差(Bias/variance)、经验风险最小...原创 2018-04-10 09:39:25 · 2140 阅读 · 0 评论 -
【cs229-Lecture7】支持向量机(SVM)
转载链接:【cs229-Lecture7】支持向量机(SVM)这篇文章比较注重总结和直观上的展示,更方便我们的理解————————————————————————————————————————————————————SVM不错的学习资料:百度网盘链接: http://pan.baidu.com/s/1hqw0Rnm 密码: asecblog:http://www.blogjava.net/zhe...转载 2018-04-08 15:11:09 · 185 阅读 · 0 评论 -
机器学习(九):CS229ML课程笔记(5)——支持向量机(SVM),最优间隔分类,拉格朗日对偶性,坐标上升法,SMO
Part 5:Support Vector Machines SVM这一节将描述的是支持向量机学习算法,是一种非线性分类方法(non-linear classifiers)。要学习SVM,首先我们要认识一下“margins”和 the idea of separating data with a large“gap.”之后还需要了解 “optimal margin classifier”最优间隔分...原创 2018-04-06 22:26:27 · 1963 阅读 · 0 评论 -
机器学习(八):CS229ML课程笔记(4)——生成学习,高斯判别分析,朴素贝叶斯
到目前为止,我们主要学习了学习算法模型:,在给定以θ为参数的x时y的分布。比如说逻辑回归模型:,g是sigmoid function。今天我们学的是一种不同的学习算法——生成学习算法。Part4 生成模型、高斯判别分析、朴素贝叶斯1.判别学习算法和生成学习算法① 判别学习算法(discriminative learning algorithm):训练出一个总模型,把新来的样本放到这个总模型中,直接...原创 2018-04-01 20:02:05 · 1169 阅读 · 0 评论 -
机器学习(七):CS229ML课程笔记(3)——广义线性模型
Part 3 Generalized Linear Models(广义线性模型)在Part1和Part2我们见到了回归模型和分类模型。在回归的例子中,我们假设了高斯分布,也就是:。在分类的例子中我们选择了伯努利分布,也就是:这两个例子都是由广义线性模型推导出来的。接下来还会描述GLM家族中其他模型在前面两个问题中是如何应用的。1. The exponential family(指数分布族)在介绍广...原创 2018-03-25 21:55:48 · 857 阅读 · 0 评论 -
机器学习(六):CS229ML课程笔记(2)——逻辑回归
上一篇文章记录了线性回归,下面要说一说逻辑回归。一、监督学习:当我们预测连续值的时候被称为回归regression问题,预测离散值被称为分类classification问题。Part 2:1.为什么要逻辑回归:(参考链接)我们套用Andrew Ng老师的课件中的例子,下图中X为数据点肿瘤的大小,Y为观测结果是否是恶性肿瘤。通过构建线性回归模型,如hθ(x)所示,构建线性回归模型后,我们设定一个阈值...原创 2018-03-23 21:43:27 · 914 阅读 · 0 评论 -
机器学习(四):理论课程入门
前面学习了机器学习平台的搭建和简单的代码学习,目前需要的就是对理论知识的巩固。今年三月初谷歌上线自带中文的机器学习免费课程,各种语言的字幕,中文发音,详细的解释,对数学基础要求不高,只是概念上的理解,应该算是入门最好的课程。看完这些再去学习深一点的课程会感觉容易很多。课程链接:机器学习速成课程新手慢慢学习的过程,希望同道之人多多交流。...原创 2018-03-18 13:26:03 · 205 阅读 · 0 评论 -
机器学习(三):代码入门demo
之前学习了如何搭建平台,如何验证平台已经搭好,尝试了跑代码的流程,下一步就要进行代码的编写了,在完成此步之前,最好学习深度学习的理论知识。推荐一篇很好的入门文章,包括编程的基础知识,根据基础知识的TensorFlow应用实例,后面还讲了高级模型的实例,代码详细,注释清楚,受益匪浅。参考链接: TensorFlow入门:第一个机器学习DemoPS:如果对线性回归的理论知识不了解,请先参看:机器学习...原创 2018-03-17 22:22:21 · 915 阅读 · 0 评论 -
深度学习(二):TensorFlow 跑实例
步骤:① 新建py文件,将代码考入其中② 打开终端,用cd命令打开py文件所在文件夹,输入Python xxx.py运行。参考链接:1.实例链接遇到问题:1.Python“Non-ASCII character 'xe5' in file”报错问题解决办法很简单,只要在文件开头加入下面代码就行了# -*- coding: UTF-8 -*-参考链接:Python“Non-ASCII charact...原创 2018-03-17 16:44:23 · 1042 阅读 · 0 评论 -
deeplearning.ai 吴恩达网上课程学习(十六)——卷积神经网络之目标检测
第 9 课:如何实现目标检测吴恩达首先解释了如何进行图像关键点检测。基本上,这些关键点距离训练输出的范例很远。通过一些巧妙的卷积操作,你会得到一些输出量,其中显示目标在特定区域的概率以及目标的位置。他还解释了如何使用交并比(Intersection-over-Union,IoU)公式评估目标检测算法的有效性。最后,吴恩达将所有这些内容整合在一起,介绍了著名的 YOLO 算法。参考链接:http:/...原创 2018-05-14 16:26:32 · 260 阅读 · 0 评论