ML学习笔记b站吴恩达（1-3/19）

课程名称：[中英字幕]吴恩达机器学习系列课程
课程内容：Machine Learning
课程网址：https://www.bilibili.com/video/BV164411b7dx/?p=18&spm_id_from=pageDriver&vd_source=ce1ba3c38b9d663ebfa5fce9f867c7e3
课程进度：1-3

1-1 welcome
database mining
NLP
CV

1-2 what is machine learning
学习算法：supervised learning监督学习 unsupervised learning无监督学习
Reinforcement learning强化学习
Recommender systems推荐系统

1-3
Supervised learning
Regression problem回归问题
Classification problem分类问题

1-4
Unsupervised learning
Clustering algorithm聚类算法
Cocktail party algorithm鸡尾酒会算法
SVD函数 singular value decomposition奇异值分解
Octave

2-1 模型描述
Hypotheses 假设
Hypothesis functions 假设函数 h函数
Linear regression 线性回归
Univariate linear regression单变量线性回归

2-2代价函数
Parameters of the model 模型参数
Cost function 代价函数 J函数 squared error cost function 平方误差代价函数

2-3 代价函数（一）

2-4 代价函数（二）
Contour plots 等高线图
Contour figures 等高图像

2-5 梯度下降
Gradient descent algorithm 梯度下降算法
a:=b 赋值运算符 a:=a+1
a=b 真假判定
alpha学习率 alpha大梯度下降迅速 alpha小梯度下降缓慢
derivative term 导数项
update simultaneously 同时更新，同步更新

2-6 梯度下降知识点总结
Alpha 学习率（正数）

2-7线性回归的梯度下降

Partial derivative term 偏导数项

Convex function凸函数 是bowl-shaped
“Batch” Gradient Descent Batch梯度下降法 每一步都使用了所有训练样本

Normal equations methods 正规方程组法
相比于正规方程组法，梯度下降适用于更大的数据集

3-1矩阵和向量
Matrix 矩阵 matrices
Dimension of martix矩阵维数 number of rows x number of columns 4x2 4行2列 4by2

Vector 向量 an nx1 matrix
By convention 按照惯例

3-2 加法和标量乘法
Addition of matrices
Scalar 标量
Multiply … by … divide … by … … times …
Plus symbol 加号 minus 减
Vector addition
3 dimentional vector 三维向量

3-3 矩阵向量乘法
Process 过程
Procedure 程序，步骤
Octave
Prediction=datamatrix x parameters 或者 for i=1:100 prediction=……
Implement 实施，执行，贯彻，使生效
Simplify the code 简化代码

Regression 回归，倒退，退化

3-4 矩阵乘法
Row行 column列
Processor 处理器
计算机的SIMD并行 SIMD parallelism
Libraries 库

3-5 矩阵乘法特征
Property 特性
Commutative 可交换的 multiplication is commutative
The associative property of real number multiplication 数乘结合律
Compute 计算
Identity matrix单位矩阵 denoted I 记作I

3-6 逆和转置
The matrix inverse 矩阵的逆运算
The matrix transpose operation 矩阵的转置运算
A square matrix
Essential 基本的，必要的
Diagonal 对角线
没有逆矩阵的矩阵：Singular matrix 奇异矩阵 degenerate matrix 退化矩阵