u014120554的专栏

本文将要讲述的内容是多个机器学习方法推导的一些共通支出，虽涉及到算法的推导，但还是希望能尽量轻松愉快的讲解，并且能够帮助大家，将这几个算法的推导，更加系统化的理解。本文主要将要讲到的几个机器学习的方法包括线性回归、logstic回归、XGBoost、Word2Vector以及深度学习等一系列方法的推导以及他们在推导中的共通之处。可能这里提到的内容，很多大神都有提到过，没有关系，可以再次温习一下。

1、快速排序基本思想快速排序的基本思想是：一种划分交换排序。它采用了一种分治的策略，也可称其为分治法，是一种基于二叉树结构的交换排序方法。通过一趟排序将待排序记录分割成独立的两部分，其中一部分记录的关键字均比另一部分关键字小，则分别对这两部分继续进行排序，直到整个序列有序。首先来看一下快速排序算法的图解过程（图片来自网络）：快速排序是一种不稳定的排序方法，它是目前给

1、归并排序算法思想归并排序主要是二路归并排序。二路归并排序的基本思想是：设数组a中存放了n个数据元素，初始时把它们看成是n个长度为1的有序子数组，然后从第一个子数组开始，把相临的子数组两两合并，得到n/2个长度为2的新的有序子数组（当n为奇数时最后一个新的子数组长度为1）；对这些新的子数组再两两合并；如此重复，直到得到一个长度为n的有序数组为止。二路归并排序过程如下图所示（图

1、堆排序算法基本思想堆排序（Heap Sort）的基本思想是循环执行如下过程直到数组为 空：1）把堆顶a[0]元素（最大元素）和当前最大堆的最后一个元素交换；2）最大堆元素个数减1；3）调整根节点使之满足最大堆定义。什么是最大堆？堆是一个具有这样性质的顺序二叉树，每个非叶子节点的关键字大于等于它的孩子结点的关键字。显然在一个堆中，根节点具有最大值，而且堆中任何一个结点

前面三篇博文分别实现了快速排序：排序算法之快速排序java实现、堆排序：排序算法之堆排序java实现和归并排序：排序算法之归并排序java实现。本篇博文主要分析常用的几种排序算法。首先来看一下各个排序算法的复杂度，如下图所示（图片来自百度图片）1、插入排序插入排序（Insert Sort），每步将一个待排序的对象，按其排序码大小，茶如道前面已经排好序的一组对