ISLR第一、二章学习笔记

ISLR第一、二章学习笔记

ISLR第二章

2.1 What Is Statistical Learning

2.1.1 Why Estimate f?

There are two main reasons that we may wish to estimate f:
- Prediction
- Inference

2.1.2 How Do We Estimate f?

• Parametric Methods

  1. 大大降低了复杂度
  2. 可能和实际的函数关系并不匹配
  3. 一开始选择的模型对之后学习影响很大
  4. 适合观测值较少的情形
  

• Non-parametric Methods

  1. 不需要猜测函数模型
  2. 需要大量观测数据,成本高
  3. 对观测值的错误率几乎为0（准确率高）
  4. 难以理解
  

2.1.3 The Trade-Off Between Prediction Accuracy and Model
Interpretability

• Subset Selction Lasso（最难理解）
• Least Squares
• Generallized Additive Models Trees
• Bagging,Boosting
• SVM(最灵活)

越灵活越难以理解

more accurate,less fexible</