机器学习 吴恩达 课程笔记（自用，持续更新）

机器学习 吴恩达

简介

课程地址：吴恩达机器学习 -- 网易云课堂

本笔记为自用笔记，因此只记录了自己觉得重要的部分，所以不建议想要系统学习的人阅读此笔记。

绪论

监督学习

我们给算法一个数据集，其中包含了正确的答案，目的为给出更多的正确答案

“回归问题”：regression

“分类问题”：classification

无监督学习

只告诉算法这里有一堆数据，让算法自己找出数据中的结构

聚类算法：社交网络分析，市场细分，天文数据分析……

奇异值分解（SVD）：鸡尾酒会问题

其他

Octave：建立算法模型，之后迁移到C++或Java等中

单变量线性回归

模型描述

训练集 training set

(x,y) 一个训练集的样例

向学习算法提供训练集，学习算法得到一个h(x)——假设函数

决定如何表示这个假设函数

h(x)=w0+w1*x : 一元线性回归，单变量线性回归

代价函数

h(x)=wo+w1*x

如何选择w0以及w1

希望 （h(x)-y）^2 尽可能地小

J（w0,w1）=1/2m *(求和){h(xi)-yi}^2

也被称为平方误差代价函数

假设函数-参数-代价函数-目标（代价最小）

自动寻找使J最小的w0,w1

梯度下降

思路

1. 以一个初始值（w0,w1）开始

2. 保持改变w0,w1的值使J变小直到我们找到了（局部）最小值

需要同