PYTHON数据结构与算法学习笔记（一）

算法

算法的概念

算法是独立存在的一种解决问题的方法和思想，是计算机处理信息的本质。
计算机程序本质上是一个算法来告诉计算机确切的步骤来执行一个指定的任务。一般当算法在处理信息时，会从输入设备或数据的存储地址读取数据，把结果写入输出设备或某个存储地址供以后再调用。对于算法而言，实现的语言并不重要,重要的是思想。

算法的特性

1、输入：算法具有0个或多个输入；
2、输出：算法至少有1个或多个输出；
3、有穷性：算法在有限的步骤之后会自动结束而不会无限循环，并且每一个步骤可以在可接受的时间内完成；
4、确定性：算法中的每一步都有确定的含义，不会出现二义性；
5、可行性：算法的每一步都是可行的，也就是说每一步都能够执行有限的次数完成。

算法效率衡量

实现算法程序的执行时间可以在一定程度上反应出算法的效率。然而程序的运行离不开计算机环境(包括硬件和操作系统) ，这些客观原因会影响程序运行的速度并反应在程序的执行时间上，因此单纯依靠运行的时间来比较算法的优劣并不一定客观准确。
假定计算机执行算法每一个基本操作的时间是固定的，那么有多少个基本操作就代表会花费多少时间单位。算然对于不同的机器环境而言，确切的单位时间是不同的，但是对于算法进行多少个基本操作(即花费多少时间单位)在规模数量级上却是相同的，由此可以忽略机器环境的影响而客观的反应算法的时间效率。对于算法的时间效率，可以用“大O记法"来表示。

大O记法
对于单调的整数函数f，如果存在一个整数函数g和实常数c>0，使得对于充分大的n总有f(n)<=c*g(n)，则函数g是f的一个渐近函数(忽略常数) ，记为f(n)=O(g(n))，意味着在趋向无穷的极限意义下，函数的增长速度受到函数g的约束，即函数f与函数g的特征相似。

时间复杂度
假设存在函数g，使得算法A处理规模为n的问题时所用时间为T(n)=O(g(n))，则称O(g(n))为算法A的渐近时间复杂度，简称时间复杂度，记为T(n)。

最坏时间复杂度
分析算法时,存在几种可能的考虑：
1、算法完成工作最少需要多少基本操作，即最优时间复杂度；
2、算法完成工作最多需要多少基本操作，即最坏时间复杂度；
3、算法完成工作平均需要多少基本操作，即平均时间复杂度。
最优时间复杂度反映的只是最乐观最理想的情况，没有参考价值；最坏时间复杂度表明算法在此种程度的基本操作中一定能完成工作，提供了一种保证；平均时间复杂度完整全面的反映了这个算法的性质，但这种衡量并没有保证，不是每个计算都能在这个基本操作内完成。而且对于平均情况的计算也会因为应用算法的实例分布可能并不均匀而难以计算。因此我们主要关注算法的最坏情况，即最坏时间复杂度。

时间复杂度计算规则：
1、基本操作，即只有常数项，认为其时间复杂度为O(1)；
2、顺序结构，时间复杂度按加法进行计算；
3、循环结构，时间复杂度按乘法进行计算；
4、分支结构，时间复杂度取最大值；
5、判断一个算法的效率时，往往只需要关注操作数量的最高次项，其它次要项和常数项可以忽略；
6、在没有特殊说明时，所分析的算法时间复杂度都是指最坏时间复杂度。

常见时间复杂度

常见时间复杂度之间的关系

所消耗的时间从小到大

Python内置类型性能分析

timeit模块
Python内置函数及方法不像基本运算那样可以分析时间复杂度，利用timeit模块可以用来测试一小段Python代码的执行速度。
timeit.Timer(stmt=‘pass’, setup=‘pass’, timer=< timer function >)
Timer：测量小段代码执行速度的类；
stmt参数：要测试的代码语句（statment）；
setup参数：运行代码时需要的设置；
timer参数：一个定时器函数，与平台有关。

list的操作测试

import timeit

def test1():
   l = []
   for i in range(1000):
      l = l + [i]
def test2():
   l = []
   for i in range(1000):
      l.append(i)
def test3():
   l = [i for i in range(1000)]
def test4():
   l = list(range(1000))

t1 = timeit.Timer("test1()", "from __main__ import test1")
print("concat ",t1.timeit(number=1000), "seconds")
t2 = timeit.Timer("test2()", "from __main__ import test2")
print("append ",t2.timeit(number=1000), "seconds")
t3 = timeit.Timer("test3()", "from __main__ import test3")
print("comprehension ",t3.timeit(number=1000), "seconds")
t4 = timeit.Timer("test4()", "from __main__ import test4")
print("list range ",t4.timeit(number=1000), "seconds")

#运行结果
concat  1.0445258 seconds
append  0.05077660000000006 seconds
comprehension  0.02659849999999997 seconds
list range  0.010609700000000055 seconds

pop操作测试

import timeit

x = list(range(2000000))
pop_zero = timeit.Timer("x.pop(0)","from __main__ import x")
print("pop_zero ",pop_zero.timeit(number=1000), "seconds")
x = list(range(2000000))
pop_end = timeit.Timer("x.pop()","from __main__ import x")
print("pop_end ",pop_end.timeit(number=1000), "seconds")

#运行结果
pop_zero  0.8587423000000001 seconds
pop_end  6.379999999994723e-05 seconds

pop最后一个元素的效率远远高于pop第一个元素。

list内置操作的时间复杂度

dict内置操作的时间复杂度

数据结构

我们为了解决问题，需要将数据保存下来，然后根据数据的存储方式来设计算法实现进行处理，那么数据的存储方式不同就会导致需要不同的算法进行处理。我们希望算法解决问题的效率越快越好，于是我们就需要考虑数据究竟如何保存的问题，这就是数据结构。

概念

数据是一个抽象的概念，将其进行分类后得到程序设计语言中的基本类型。如：int，float，char等。数据元素之间不是独立的，存在特定的关系，这些关系便是结构。数据结构指数据对象中数据元素之间的关系。
Python给我们提供了很多现成的数据结构类型，这些系统自己定义好的，不需要我们自己去定义的数据结构叫做Python的内置数据结构，比如列表、元组、字典。而有些数据组织方式，Python系统里面没有直接定义，需要我们自己去定义实现这些数据的组织方式，这些数据组织方式称之为Python的扩展数据结构，比如栈，队列等。

算法与数据结构的关系

数据结构只是静态的描述了数据元素之间的关系。
高效的程序需要在数据结构的基础上设计和选择算法。
程序 = 数据结构 + 算法
**总结：**算法是为了解决实际问题而设计的，数据结构是算法需要处理的问题载体。

抽象数据类型(Abstract Data Type)

抽象数据类型(ADT)的含义是指一个数学模型以及定义在此数学模型上的一组操作。即把数据类型和数据类型上的运算捆在一起，进行封装。引入抽象数据类型的目的是把数据类型的表示和数据类型上运算的实现与这些数据类型和运算在程序中的引用隔开，使它们相互独立。
最常用的数据运算有五种：
插入、删除、修改、查找、排序