排序算法绪论（时间频度、时间复杂度、空间复杂度）

排序也称排序算法，排序是将一组数据，按照指定的顺序进行排列的过程；

排序的分类

内部排序

指将需要处理的所有数据都加载到内部存储器（内存）中进行排序；

例如：插入排序（直接插入排序、希尔排序）、选择排序（简单选择排序、堆排序）、交换排序（冒泡排序、快速排序）、归并排序、基数排序等；

外部排序

数据量过大，无法全部加载到内存中，需要借助外部存储进行排序；

算法的时间复频度和时间复杂度

度量一个程序（算法）执行时间的两种方法

事后统计法

这种方法可行，但是有两个问题：

1.如果想要对设计的算法的运行性能进行评测，就需要实际运行该程序；

2.所得的时间的统计量依赖于计算机的硬件、软件等环境因素，这种方式要在同一台计算机的相同状态下运行，才能比较哪个算法速度更快；

事前估算法

通过分析某个算法的时间复杂度来判断哪个算法更优；

时间频度

一个算法花费的时间与算法中语句的执行次数成正比例，哪个算法中语句执行次数多，它花费时间就多，一个算法中的语句的执行次数称为语句频度或者时间频度，记为T（n）；

例如我们计算1-100的所有数字之和：

int total=0;
int end = 100;
for(int i=1;i<=end;i++){
    total=total+i
}

上面这种算法要执行n+1次，因此它的时间频度T（n）=n+1；

而如果我们直接计算：

total=(1+end)*end/2

这种算法只需要一次就能求出结果，因此时间频度T（n）=1；

忽略常数项

假设现在有四个时间频度:

T(n1)=2n+20；T(n2)=2n；T(n3)=3n；T(n4)=3n+30;

我们可以发现当n越来越大的时候,n1与n2的执行曲线无限接近，因此20可以忽略；

n3与n4的执行曲线也无限接近，因此30可以忽略；

忽略低次项

 

假设现在有四个时间频度：

T(n1)=2n^2+3n+1； T(n2)=2n^2； T(n3)=n^2+5n+20； T(n4) =n^2;

还是一样的，当n越来越大的时候，n1与n2的执行曲线无限接近，3n+1可以忽略；

n3与n4的执行曲线无限接近，5n+20可以忽略；

忽略系数

假设现在有四个时间频度：

T(n1)=3n^2+2n； T(n2)=5n^2+7n； T(n3)=n^3+5n； T(n4) =6n^3+4n;

当n越来越大的时候,n1与n2的执行曲线重合，说明平方项前的系数5和3可以忽略；

但是n3与n4的执行曲线分离；这个时候立方项前面的系数1和6就不能忽略了，并且我们可以发现，当n无限大之后，n3与n4的比值无限趋近于1比6；因此说明多少次方才是关键

 

 时间复杂度

一般情况下，算法中的基本操作语句的重复执行次数是问题规模n的某个函数，用T(n)表示，若这时有某个辅助函数f(n)当n趋近于无穷大的时候，T(n)/f(n)的极限值为不等于0的常数；则称f(n)是T(n)的同数量级函数，记作T(n)=O（f(n)）,则O(f(n))为算法的渐进时间复杂度，简称时间复杂度；

T(n)不同，但时间复杂度可能相同，例如T(n1)=n^2+7n+6； T(n2)=3n^2+2n+2,他们的T(n)不同，但是时间复杂度是相同的，都为O(n^2)

计算时间复杂度的方法

1.用常数1代替运行时间中的所有加法常数；

2.修改后的运行次数函数中，只保留最高阶项；

3.去除最高阶项的系数；

常见的时间复杂度

1.常数阶O(1); =>算法执行的次数并不随着某个变量的增长而增长；

2.对数阶O(log2n);

int i = 1;
while(i<n){
    i=i*2;
}

假设循环x次之后i就大于n了，也就是2的x次方等于n，那么x就等于log2n，也就是当循环log2n之后这个代码就结束了，因此时间复杂度为O(log2n);

3.线性阶O(n);

4.线性对数阶O(nLog2n);

for(m=1;m<n;m++){
    int i =1;
    while(i<n){
        i=i*2;
    }
}

也就是将时间复杂度为O（log2n）的代码循环n次；

5.平方阶O(n^2);

for(x=1;i<=n;x++){
    for(i=1;i<n;i++)P
    {
        j=i;
        j++;
    }
}

也就是将时间复杂度为O(n)的代码再嵌套循环一遍，最后的时间复杂度就为O(n^2)，如果将其中一个循环的n改成m，那么它的时间复杂度就变成了O(n*m);

6.立方阶O(n^3);

7.K次方阶O(n^k)；

8.指数阶O(2^n);

 

这些常见的算法时间复杂度由小到大依次为：O(1)<O(log2n)<O(n)<O(nlog2n)<O(n^2)<O(n^3)<O(n^k)<O(2^n)

随着问题规模n的不断增大，上述时间复杂度也不断增大，算法的执行效率就越来越低；

平均时间复杂度和最坏时间复杂度

1.平均时间复杂度是指所有可能的输入实例均以等概率出现的情况下，该算法的运行时间；

2.最坏情况下的时间复杂度称最坏时间复杂度，一般讨论的时间复杂度均是最坏情况下的时间复杂度，这样做的原因是：最坏情况下的时间复杂度是算法在任何输入实例上运行时间的界限，这就保证了算法的运行时间不会比最坏情况更长；

 

空间复杂度

1.类似于时间复杂度的讨论，一个算法的空间复杂度定义为该算法所耗费的存储空间，它也是问题规模n的函数；

2.空间复杂度是对一个算法在运行过程中临时占用存储空间大小的量度，有的算法需要占用的临时工作单元数与问题的规模n有关，它随着n的增大而增大，当n较大时，将占用较多的存储单元，例如快速排序和归并排序算法就属于这种情况；

3.在做算法分析时，主要讨论的是时间复杂度；从用户使用体验上来看，更看重程序执行的速度，一些缓存产品例如Redis，memcache和算法（基数排序）本质就是用空间换时间；