题记
算法之于真正的程序员来说,其重要性无需多言。我们听过无数的声音“算法工作中几乎用不到,都是应付面试”,“面试造航母,工作拧螺丝”诸如此类,云云。
但是,我认为对于真正的程序员来说,算法如兵法,是必须攻克的“高地”。
一、算法
1.算法的5大特征
- 1.输入: 算法具有0个或多个输入
- 2.输出: 算法至少有1个或多个输出
- 3.有穷性: 算法在有限的步骤之后会自动结束而不会无限循环,并且每一个步骤可以在可接受的时间内完成
- 4.确定性:算法中的每一步都有确定的含义,不会出现二义性
- 5.可行性:算法的每一步都是可行的,也就是说每一步都能够执行有限的次数完成
2.算法的目的
- 更快(运行)
- 更省(空间)
3.衡量算法优劣的方式 – 时间、空间复杂度分析
- 1.事后统计法(真实的运行代码,统计、监控得到时间和内存占用):受硬件条件影响较大,受数据规模影响很大,单纯比较时间并无意义;
- 2.大 O 复杂度表示法 (不用具体的测试数据来测试,就可以粗略地估计算法的执行效率的方法)
我们假定计算机执行算法每一个基本操作的时间是固定的一个时间单位,那么有多少个基本操作就代表会花费多少时间单位。显然对于不同的机器环境而言,确切的单位时间是不同的,但是对于算法进行多少个基本操作(即花费多少时间单位)在规模数量级上却是相同的,由此可以忽略机器环境的影响而客观的反应算法的时间效率。
对于算法的时间效率,我们可以更多的采用“大O记法”来表示。
“大O记法”:对于单调的整数函数f,如果存在一个整数函数g和实常数c>0,使得对于充分大的n总有f(n)<=c*g(n),就说函数g是f的一个渐近函数(忽略常数),记为f(n)=O(g(n))。也就是说,在趋向无穷的极限意义下,函数f的增长速度受到函数g的约束,亦即函数f与函数g的特征相似。
时间复杂度:假设存在函数g,使得算法A处理规模为n的问题示例所用时间为T(n)=O(g(n)),则称O(g(n))为算法A的渐近时间复杂度,简称时间复杂度,记为T(n)
通俗的解释:
所有代码执行时间T(n) 与每行代码执行次数 n 成正比。表示代码执行时间随数据规模增长的变化趋势
最坏时间复杂度(选取此做算法效率衡量的原因)
**算法完成工作最少需要多少基本操作,即最优时间复杂度
算法完成工作最多需要多少基本操作,即最坏时间复杂度
算法完成工作平均需要多少基本操作,即平均时间复杂度
**
补充: 还有 均摊时间复杂度
对于最优时间复杂度,其价值不大,因为它没有提供什么有用信息,其反映的只是最乐观最理想的情况,没有参考价值。
对于最坏时间复杂度,提供了一种保证,表明算法在此种程度的基本操作中一定能完成工作。
对于平均时间复杂度,是对算法的一个全面评价,因此它完整全面的反映了这个算法的性质。但另一方面,这种衡量并没有保证,不是每个计算都能在这个基本操作内完成。而且,对于平均情况的计算,也会因为应用算法的实例分布可能并不均匀而难以计算。
因此,我们主要关注算法的最坏情况,亦即最坏时间复杂度。
4.时间复杂度的几条基本计算规则
- 1.基本操作,即只有常数项,认为其时间复杂度为O(1)
- 2.顺序结构,时间复杂度按加法进行计算
- 3.循环结构,时间复杂度按乘法进行计算
- 4.分支结构,时间复杂度取最大值
- 5.判断一个算法的效率时,往往只需要关注操作数量的最高次项,其它次要项和常数项可以忽略
- 6.在没有特殊说明时,我们所分析的算法的时间复杂度都是指最坏时间复杂度
5.空间复杂度
类似于时间复杂度的讨论,一个算法的**空间复杂度S(n)**定义为该算法所耗费的存储空间,它也是问题规模n的函数。
渐近空间复杂度也常常简称为空间复杂度。
空间复杂度(SpaceComplexity)是对一个算法在运行过程中临时占用存储空间大小的量度。
算法的时间复杂度和空间复杂度合称为算法的复杂度。
6.常见时间复杂度
执行次数函数举例 | 阶 | 非正式术语 |
---|---|---|
100 | O(1) | 常数阶 |
2n+3 | O(n) | 线性阶 |
3n^2+2n+1 | O(n^2) | 平方阶 |
5log2n+20 | O(logn) | 对数阶 |
2n+3nlog2n+19 | O(nlogn) | nlogn阶 |
6n3+2n2+3n+4 | O(n3) | 立方阶 |
2n | O(2n) | 指数阶 |
耗时:O(1) < O(logn) < O(n) < O(nlogn) < O(n^2) < O(n^3) < O(2n) < O(n!) < O(nn)
二、数据结构
1.数据结构的概念
数据是一个抽象的概念,将其进行分类后得到程序设计语言中的基本类型。如:int,float,char等。数据元素之间不是独立的,存在特定的关系,这些关系便是结构。数据结构指数据对象中数据元素之间的关系。
Python给我们提供了很多现成的数据结构类型,这些系统自己定义好的,不需要我们自己去定义的数据结构叫做Python的内置数据结构,比如列表、元组、字典。而有些数据组织方式,Python系统里面没有直接定义,需要我们自己去定义实现这些数据的组织方式,这些数据组织方式称之为Python的扩展数据结构,比如栈,队列等。
2.算法与数据结构的区别
数据结构只是静态的描述了数据元素之间的关系。高效的程序需要在数据结构的基础上设计和选择算法。
程序 = 数据结构 + 算法
总结:算法是为了解决实际问题而设计的,数据结构是算法需要处理的问题载体
3.抽象数据类型(Abstract Data Type)
抽象数据类型(ADT)的含义是指一个数学模型以及定义在此数学模型上的一组操作。即把数据类型和数据类型上的运算捆在一起,进行封装。引入抽象数据类型的目的是把数据类型的表示和数据类型上运算的实现与这些数据类型和运算在程序中的引用隔开,使它们相互独立。
最常用的数据运算有五种:
- 插入
- 删除
- 修改
- 查找
- 排序
相关子章节:
python实现单链表 判空 长度 遍历 头插 尾插 插入 删除 范围查询 反转
python实现双链表 判空 长度 遍历 头插 尾插 插入 删除 范围查询 反转
搜索算法之二分查找(递归 | 非递归) python实现
摘要算法 Simhash 布隆过滤器
数据去重-布隆过滤器-redis版
(持续更新中…)