【笔记】机器学习基石（一） the learning problem

机器学习 ----use data to approximate target 

1、学习与机器学习的关系：

observations-->Learning-->skill    学习：从观察出发

data-->Machine Learning-->skill   机器学习：处理数据

skill：增进某一种表现

2、三个问题：when 什么时候使用机器学习？ why 为什么使用机器学习？ how 怎样使用机器学习？

3、example： tree recognition 辨别树的例子

ML： an alternative route to build complicated systems：机器学习是建立复杂系统的一个途径

/1/ exists some 'underlying pattern' to be learned 有一个目标

/2/ no programmable (easy) definition 描述"规则"有一定的困难

/3/ there is data about the pattern 有资料

4、一些应用场景

/1/不能由人设计的程序

/2/不能明确定义规则的

/3/人不能做的，需要迅速做决定的领域

/4/面向大量用户群体的，用户个性化的应用

5、机器学习在衣食住行中的应用

6、由机器学习实现的推荐系统

每个人和每部电影都有它相应的特征，首先确定电影的特征，然后用户根据自己的特征选择相匹配的电影。

7、机器学习的常用符号

输入x，输出y

目标函数f的形式未知，可以被学习

数据资料data：训练样本

g代表得到的一个函数（因为我们不一定能够学习到目标函数f）

hypothesis：能得到好结果的skill

所以可以用下式表示

从资料{x,y}出发，得到g，资料来自我们想学但是学不到的f。

左上角

理想公式产生资料（来自我们不知道的目标函数f）

中间

D：data资料

A：机器学习算法（有两个输入D和H）

性能的增进（skill）最终得到的g应该与f越接近越好

下层

H：hypothesis的集合（有好有坏）

8、机器学习与其他学科的关系

/1/machine learning机器学习 and data mining资料探勘-->KDD cup 

    ML可与资料探勘互通 not totally the same

/2/machine learning and artificial intelligence 人工智能  

    ML是实现人工智能的一种方法

/3/machine learning and statistics 统计学

    统计学是实现ML的一种方法 a useful tools