第一章 概率与统计介绍--机器学习数学基础

第一章 概率与统计介绍–机器学习数学基础
1.1 简介
概率与统计
Lary Wasserman 在《All of Statistics》

概率：The basic problem that we study in probability is: Given a data generating process, what are the properties of the outcomes?
例如：抛硬币实验，假设硬币时均匀的，会产生两个结果，正面朝上或背面朝上，概率论研究的就是由这个抛硬币过程，正面朝上的概率。Given model, predict data.
统计: The basic problem of statistical inference is the inverse of probability: Given the outcomes, what can we say about the process that generated the data?
Given data, predict model.
概率论是通过本质看现象，统计学是透过现象看本质。
机器学习:
“Field of study that gives computers the ability to learn without being explicitly programmed” –Arthur Samuel,1959
在不直接针对问题进行编程的情况下，赋予计算机学习能力的一个研究领域
“A computer program is said to learn from experience E with respect to some class of tasks T and performance measure P if its performance at tasks in T, as measured by P, improves with experience E.” – Tom M.Mitchell
对于某类任务T和性能度量P，如果一个计算机程序在T上以P衡量的性能随着经验E而自我完善，那么我们称这个计算机程序在从经验E学习。

统计VS 机器学习：
概率与统计是机器学习的理论基础之一。
统计 机器学习
Models
Parameters
Fitting, estimate
Regression/Classification
Clustering, Density estimation Network, Graph
Weights
Learning
Supervised learning
Unsupervised learning

机器学习应用实例
点击率预估（T）
A: 样本获取（E）
B：特征抽取和预处理
C：模型训练
D：模型评估（P）
E：线上预测

主要内容：
概率基础
常见分布
数理统计
参数估计
回归分析
贝叶斯推论
总结

课程总结