排序算法和时间复杂度的介绍

一、排序算法的介绍

排序也称排序算法(SortAlgorithm)，排序是将一组数据，按照指定的顺序进行排序的过程。

2.排序的分类

• 内部排序法：指将需要处理的所有数据都加载到内部存储器(内存)中进行排序。
• 外部排序法：数据量过大，无法全部加载到内存中，需要借助外部储存(外部文件磁盘)进行排序。
  

3.常见的排序算法分类

• 插入排序

直接插入排序
希尔排序

• 选择排序

简单选择排序
堆排序

• 交换排序

冒泡排序
快速排序

• 归并排序
• 基数排序
• 外部排序：使用内存和外存结合

4.算法的时间复杂度

度量一个算法程序执行时间的两种方法

• 事后统计的方法

这种方法可行，但是有两个问题
一是想要对设计的算法的运行性能进行评测，需要实际运行该程序
二是所得时间的统计量依赖于计算机硬件、软件等环境因素
这种方式，要在同一台计算机的相同状态下运行，才能比较哪个算法速度更快。

• 事前估算的方法

通过分析某个算法的时间复杂度来判断哪个算法更优。

二、算法的时间复杂度

1.时间频度的基本介绍

• 一个算法花费的时间与算法中语句执行的次数成正比，哪个算法中语句执行的次数多，它花费的时间就多。
• 一个算法中的语句执行的次数称为语句频度或时间频度，即T(n)

2.举例说明

比如计算1–100所有数字之和，有两种算法

• 第一种

int total=0;
int end=100;
for(int i=1;i<=end;i++){
total+=1;
}

上面的时间频度为T(n)=n+1

• 第二种

total=(1+end)*end/2;

上面的时间频度为T(n)=1

3.时间频度的特点

随着T(n)中n的变大

• 忽略常数项
  
  
• 忽略系数
  
  
• 忽略低次项
  
  

4.时间复杂度的介绍

一般情况下，算法中基本操作语句重复执行次数是问题规模n的某个函数，用T(n)表示，若有某个辅助函数f(n),使得当n趋近于无穷大时，T(n)/f(n)的极限值为不等于零的常数，则称为f(n)是T(n)的同数量级函数，计作T(n)=O(f(n))，称为O(f(n))为算法的渐进时间复杂度，简称时间复杂度。

举例

T(n)=n²+7n+6与T(n)=3n²+2n+2

• 它们的T(n)不同，但时间复杂度相同，都为O(n²)
• T(n)不同，但时间复杂度可能相同

5.计算时间复杂度的方法

• 用常数1代替运行时间中所有的加法常数T(n)=n²+7n+6 => T(n)=n²+7n+1
• 修改后的运行次数函数中，只保留最高阶项T(n)=n²+7n+1 => T(n)=n²
• 去除最高阶项的系数T(n)=n² => T(n)=n² => O(n²)

5.常见的时间复杂度（8种）

• 常数阶 O(1)

• 对数阶 O(㏒₂n)

• 线性阶O(n)

• 线性对数阶O(n㏒₂n)

• 平方阶O(n²)

• 立方阶O(n³）

• K次方阶O(nᵏ)

• 指数阶O(2ⁿ)

• 算法时间复杂度由小到大依次是

O(1)<O(㏒₂n)<O(n)<O(n㏒₂n)<O(n²)<O(n³<O(nᵏ)<O(2ⁿ)

举例

• 常数阶 O(1)
  无论代码有多少行，只要是没有循环等复杂结构，那么这个代码的时间复杂度都是 O(1)

int a=1;
int b=2;
++a;
b++;
int m=a+b;

• 对数阶 O(㏒₂n)

int i=1;
while(i<n) {
  i=i*2;
}

在while循环里面，每次都将 i 乘以 2，乘完之后，i 距离 n 就越来越近了。
假设循环x次之后，i 就大于 2 了，此时这个循环就退出了，
也就是说 2 的 x 次方等于 n，那么 x = log2n也就是说当循环 log2n 次以后，这个代码就结束了。
因此这个代码的时间复杂度为：O(log2n)  。 
O(log2n) 的这个2 时间上是根据代码变化的，i = i * 3 ，则是 O(log3n) .

• 线性阶O(n)

for(i=1;i<=n;++i){
  j=i;
  j++;
}

这段代码，for循环里面的代码会执行n遍
因此它消耗的时间是随着n的变化而变化的
因此这类代码都可以用O(n)来表示它的时间复杂度

• 线性对数阶O(n㏒₂n)

for (m=1;m<n;m++){
  i=1;
  while(i<n){
    i=i*2;
  }
}

线性对数阶O(nlogN) 其实非常容易理解
将时间复杂度为O(logn)的代码循环N遍的话
那么它的时间复杂度就是 n * O(logN)，也就是了O(nlogN)

• 平方阶O(n²)

for(x=1;i<=n;x++){
   for(i=1;i<=n;i++){
     j=i;
     j++;
  }
}
说明：
平方阶O(n²) 就更容易理解了，如果把 O (n) 的代码再嵌套循环一遍，它的时间复杂度就是 O (n²)
这段代码其实就是嵌套了2层n循环，它的时间复杂度就是 O (n * n)，即  O(n²) 
如果将其中一层循环的n改成m，那它的时间复杂度就变成了 O (m * n)

• 立方阶O(n³）

• K次方阶O(nᵏ)

• 指数阶O(2ⁿ)

6.平均时间复杂度和最坏时间复杂度

• 平均时间复杂度是指所有可能的输入实例均以等概率出现的情况喜爱，该算法的运行时间。
• 最坏的情况下的时间复杂度称为最坏时间复杂度，一般讨论的时间复杂度均是最坏情况下的时间复杂度，这样做的原因是：最坏情况下的时间复杂度是算法在任何输入实例上运行时间的界限，这就保证了算法的运行时间不会比最坏情况更长。
• 平均时间复杂度和最坏时间复杂度是否一致，和算法有关。
  

7.空间复杂度的介绍

• 类似于时间复杂度，一个算法的空间复杂度定义为该算法所耗费的储存空间，它也是问题规模n的函数
• 空间复杂度是对一个算法在运行过程中临时占用储存空间大小的量度。
• 在做算法分析时，一般只讨论时间复杂度，从用户体验上，更在于程序执行的速度，一些缓存产品redis/memcache和算法（基数排序）本质就是空间换时间。