《机器学习算法的数学解析与python实现》学习笔记（第一章）

前言：

        本人是研一新生，刚开始接触机器学习，这本书是今天刚去图书馆借的，今天一口气读了四章，作者的描写非常细致，写的非常不错，不会一开始接触，觉得晦涩难懂，对算法的数学解析也描写的很不错，详细介绍了多个非常经典的机器学习算法，强推零基础的学生和爱好者去翻看。第一次写学习笔记，内容有表述不清楚的，欢迎留言指正。

一、机器学习概述

1. 1  什么是机器学习

        首先，我们要先了解，机器学习与人工智能和深度学习的关系，如下图：

 图 1-1  人工智能、机器学习和深度学习三者的包含关系

        人工智能：涵盖范围非常广泛，关注的问题和方法杂且多，包括机器人，逻辑规划等。

        机器学习：该领域的主要研究对象是人工智能，特别是如何在经验学习中改善具体算法的性能。当前发展非常迅猛，子算法流派枝繁叶茂。

        深度学习：原本是在机器学习的神经网络子算法分支中发展出来的一系列成果，随着近年来的火热，人们渐渐将这一概念独立出来，单独起了个名字“单飞”了，由此有了深度学习和传统机器学习的区分。

 注：因为深度学习近年的火爆，在科研或企业上备受青睐，很多同学忍不住想尽快上手深度学习，但个人建议是先学好机器学习，再慢慢过渡，打好基础。

 1. 2  机器学习的几个需求层级

        ”一口吃不成个胖子“。机器学习确实是一门算法科学，数学是它背后的源泉和依靠。但如果一头扎入：概率论，微积分，线性代数还有编程技术里，会毫无目的性。机器学习的诞生是为了去解决实际问题。所以，明确自己的目的，要解决什么问题，才能决定自己需要学什么知识，学到什么程度。

       设计需求层次：只需要考虑两件事：一、我们要做什么，二、程序能做什么。至于程序怎么去实现，那是后面的事。

       调用需求层次：身为调用者，将机器学习算法和算法库进行调用，使其能解决实际问题。

       数学需求层次：作为有一些经验的开发者，学习目标是拓展某个领域如算法，问题和工具等。

1. 3   机器学习的基本原理

        机器学习，作者用