[机器学习-0]导论、PLA

前言（preface）

机器学习是人工智能研究发展一定程度的必然产物，从二十世纪五十年代开始一直到现在，拥有很深的背景和众多分支。在过去二十年里，人类收集处理数据的能力得到了极大的提升，亟需在数据分析上拥有高效能力的算法，而机器学习顺应了这一时代需求，应运而生。这里推荐一些机器学习的书刊和相关领域的重要会议Machine Learning(周志华，清华大学出版社),learning from data,Optinmization Methods for Large-Scale Machine Learning,ICML,ECML,ACML

学习的元素（components of learning）

对于机器学习，格式化地讲，可以分为输入、输出、目标函数、数据集以及预测函数

Figure 1
从流程上看机器学习，我们可以将我们所要抽象出函数的对象看为黑箱，将一组数据输入，得到对应的输出，得到训练数据。然后选定预测函数空间，根据学习算法，最终从函数空间中选出预测函数。
注意，在机器学习中，我们可能根本不知道目标函数的具体信息和内在机制，而我们的目标是逼近目标函数，但是最后训练出来的预测函数可能跟目标函数仍然是两个完全不同毫无关联的东西

Figure 2
其中组成最终算法的两个部分：预测函数集H,学习算法A成为学习模型（learning model）

感知器（perceptron）

顾名思义，感知器就是对输