什么是算法分析
对比程序,还是算法?
❖如何对比两个程序?
看起来不同,但解决同一个问题的程序,哪个“ 更好”?
❖程序和算法的区别
算法是对问题解决的分步描述 程序则是采用某种编程语言实现的算法,同一个 算法通过不同的程序员采用不同的编程语言,能 产生很多程序
大O表示法
算法时间度量指标
❖ 一个算法所实施的操作数量或步骤数可作为 独立于具体程序/机器的度量指标 哪种操作跟算法的具体实现无关? 需要一种通用的基本操作来作为运行步骤的计量单位
❖ 赋值语句是一个合适的选择
一条赋值语句同时包含了(表达式)计算和(变量) 存储两个基本资源
仔细观察程序设计语言特性,除了与计算资源无关的 定义语句外,主要就是三种控制流语句和赋值语句, 而控制流仅仅起了组织语句的作用,并不实施处理。
❖分析SumOfN的赋值语句执行次数
对于“问题规模”n
赋值语句数量T(n)=1+n 那么,什么是问题规模?
❖问题规模:影响算法执行时间的主要因素
❖在前n个整数累计求和的算法中,需要累 计的整数个数合适作为问题规模的指标 前100,000个整数求和对比前1,000个整数求和 ,算是同一问题的更大规模
❖算法分析的目标是要找出问题规模会怎么影响一个算法的执行时间
数量级函数 Order of Magnitude
❖基本操作数量函数T(n)的精确值并不是特 别重要,重要的是T(n)中起决定性因素的 主导部分
用动态的眼光看,就是当问题规模增大的时候, T(n)中的一些部分会盖过其它部分的贡献
❖数量级函数描述了T(n)中随着n增加而增 加速度最快的主导部分
称作“大O”表示法,记作O(f(n)),其中f(n) 表示T(n)中的主导部分
确定运行时间数量级大O的方法
❖例1:T(n)=1+n
当n增大时,常数1在最终结果中显得越来越无足 轻重 所以可以去掉1,保留n作为主要部分,运行时间 数量级就是O(n)
影响算法运行时间的其它因素
❖有时决定运行时间的不仅是问题规模
❖某些具体数据也会影响算法运行时间
分为最好、最差和平均情况,平均状况体现了算 法的主流性能 对算法的分析要看主流,而不被某几种特定的运行状况所迷惑
常见的大O数量级函数
❖通常当n较小时,难以确定其数量级
❖当n增长到较大时,容易看出其主要变化 量级
从代码分析确定执行时间数量级函数
可以看到38--40这一段代码有3个赋值符号所以记作3
41-45行代码有双重循环并且有3个n 记作3n2
46-48行代码有单个循环2个赋值记作2n
49行最后一行代码又一个赋值符号记作1
最后得出结果:
❖仅保留最高阶项n2 ,去掉所有系数
❖数量级为O(n2)
其它算法复杂度表示法
❖大O表示法 表示了所有上限中最小的那个上限。
❖大𝛀表示法 表示了所有下限中最大的那个下限
❖大𝚹表示法 如果上下限相同,那么就可以用大𝚹𝚹表示
“变位词”判断问题
“变位词”判断问题
所谓“变位词”是指两个词之间存在组成字母的 重新排列关系 如:heart和earth,python和typhon 为了简单起见,假设参与判断的两个词仅由小写 字母构成,而且长度相等
❖解题目标:写一个bool函数,以两个词作 为参数,返回这两个词是否变位词
❖可以很好展示同一问题的不同数量级算法
解法1:逐字检查
❖解法思路 将词1中的字符逐个到词2中检查是否存在 存在就“打勾”标记(防止重复检查) 如果每个字符都能找到,则两个词是变位词 只要有1个字符找不到,就不是变位词
❖程序技巧 实现“打勾”标记:将词2对应字符设为None 由于字符串是不可变类型,需要先复制到列表中
❖逐字检查法代码
#逐字检查法
def anagramSolution1(s1,s2):
alist=list(s2) #将s2内容转换成列表复制到alist中
pos1=0;
stillOK=True
while pos1<len(s1) and stillOK: #循环s1中的每一个字符
pos2=0
found=False
while pos2<len(alist) and not found:#循环alist中每一个字符
if s1[pos1]==alist[pos2]: #s1与s2的值进行对比 如果为真则判断整确跳出这个循环
found=True
else:
pos2=pos2+1 #否则继续比较
if found:
alist[pos2]=None #找到打勾
else:
stillOK=False #未找到、失败
pos1=pos1+1
return stillOK
print(anagramSolution1('python','ypthon'));
View Code
❖算法分析
问题规模:词中包含的字符个数n
主要部分在于两重循环 外层循环遍历s1每个字符,将内层循环执行n次 而内层循环在s2中查找字符,每个字符的对比次 数,分别是1、2…n中的一个,而且各不相同
所以总执行次数是1+2+3+……+n 可知其数量级为O(n2)
解法2:排序比较
❖解题思路 将两个字符串都按照字母顺序排好序 再逐个字符对比是否相同,如果相同则是变位词 有任何不同就不是变位词
❖排序比较代码
def anagramSolution2(s1,s2):
#分别转换为列表赋值给alist1、alist2
alist1=list(s1)
alist2=list(s2)
#分别排序
alist1.sort()
alist2.sort()
pos=0
matches=True
while pos<len(s1) and matches:
if alist1[pos]==alist2[pos]: #诸葛对比
pos=pos+1
else:
matches=False
return matches
print(anagramSolution2('notyph','ypthon'));
View Code
❖算法分析
粗看上去,本算法只有一个循环,最多执 行n次,数量级是O(n)
但循环前面的两个sort并不是无代价的 如果查询下后面的章节,会发现排序算法采用不 同的解决方案,其运行时间数量级差不多是 O(n2)或者O(n log n),大过循环的O(n)
所以本算法时间主导的步骤是排序步骤
本算法的运行时间数量级就等于排序过程 的数量级O(n log n)
解法3:暴力法
暴力法解题思路为:穷尽所有可能组合
将s1中出现的字符进行全排列,再查看s2 是否出现在全排列列表中
这里最大困难是产生s1所有字符的全排列 根据组合数学的结论,如果n个字符进行全排列 ,其所有可能的字符串个数为n
我们已知 n! 的增长速度甚至超过2n 例如,对于20个字符长的词来说,将产生 20!=2,432,902,008,176,640,000个候选词 如果每微秒处理1个候选词的话,需要近8万年时 间来做完所有的匹配。
❖结论:暴力法恐怕不能算是个好算法
解法4:计数比较
解题思路:对比两个词中每个字母出现的 次数,如果26个字母出现的次数都相同的 话,这两个字符串就一定是变位词
❖具体做法:为每个词设置一个26位的计数 器,先检查每个词,在计数器中设定好每 个字母出现的次数
❖计数完成后,进入比较阶段,看两个字符 串的计数器是否相同,如果相同则输出是 变位词的结论
❖计数比较代码
def anagramSolution4(s1,s2):
#分别转换为列表赋值给alist1、alist2
c1=[0]*26;
c2=[0]*26;
#1.利用ascii特性a=65 b=66... z=90 所以开辟26个字母开辟26个空间
#2.首先循环判断s1的每一个字母 用当前字母的ascii码减去a的ascii码
#3.将得到的差当成数组下标给c1并赋值1让它里面不为None
#4.s2循环跟s1一样步骤 参考2 3
#5.循环判断 c1和c2数组所有的内容 如果有一处不相等则不相等
for i in range(len(s1)): #分别计数
pos=ord(s1[i])-ord('a')
c1[pos]=1
for i in range(len(s2)):
pos=ord(s2[i])-ord('a')
c2[pos]=1
j=0
stillOK=True
while j<26 and stillOK: #计数器比较
if c1[j]==c2[j]:
j=j+1
else:
stillOK=False
return stillOK
print(anagramSolution4('cdge','egdc'));
View Code
❖算法分析
❖计数比较算法中有3个循环迭代,但不象 解法1那样存在嵌套循坏 前两个循环用于对字符串进行计数,操作次数等 于字符串长度n 第3个循环用于计数器比较,操作次数总是26次
❖所以总操作次数T(n)=4n+26,其数量级 为O(n) 这是一个线性数量级的算法,是4个变位词判断 算法中性能最优的
❖值得注意的是,本算法依赖于两个长度为 26的计数器列表,来保存字符计数,这相 比前3个算法需要更多的存储空间 如果考虑由大字符集构成的词(如中文具有上万 不同字符),还会需要更多存储空间。
❖牺牲存储空间来换取运行时间,或者相反 ,这种在时间空间之间的取舍和权衡,在 选择问题解法的过程中经常会出现。
Python数据类型的性能
1.Python两种内置数据类型
各种操作的大O数量级
列表list和字典dict 这是两种重要的Python数据类型,后面的课程 会用来实现各种数据结构 通过运行试验来估计其各种操作运行时间数量级
对比list和dict的操作
2.List列表数据类型
常用操作性能
❖最常用的是:按索引取值和赋值(v = a[i], a[i]= v) 由于列表的随机访问特性,这两个操作执行时间 与列表大小无关,均为O(1)
❖另一个是列表增长,可以选择append() 和__add__()“+” lst.append(v),执行时间是O(1) lst= lst+ [v],执行时间是O(n+k),其中k是 被加的列表长度 选择哪个方法来操作列表,决定了程序的性能
❖list类型各种操作(interface)的实现方 法有很多,如何选择具体哪种实现方法?
❖总的方案就是,让最常用的操作性能最好 ,牺牲不太常用的操作
80/20准则:80%的功能其使用率只有20%
4种生成前n个整数列表的方法
❖ 首先是循环连接列 表(+)方式生成
def test1():
l=[]
for i in range(1000):
l=l+[i]
return l
print(test1())
❖ 然后是用append 方法添加元素生成
def test2():
l=[]
for i in range(1000):
l.append(i)
return l
print(test2())
❖ 接着用列表推导式 来做
def test3():
l=[i for i in range(1000)]
return l
print(test3())
❖ 最后是range函数 调用转成列表
def test4():
l=list(range(1000))
return l
print(test4())
使用time对函数进行计时
整体代码
from timeit import Timer
def test1():
l=[]
for i in range(1000):
l=l+[i]
def test2():
l=[]
for i in range(1000):
l.append(i)
def test3():
l=[i for i in range(1000)]
def test4():
l=list(range(1000))
t1=Timer("test1()","from __main__ import test1")
print ("concat %f seconds\n" %t1.timeit(number=1000))
t2=Timer("test2()","from __main__ import test2")
print("append %f seconds\n" % t2.timeit(number=1000))
t3=Timer("test3()","from __main__ import test3")
print("comprehension %f seconds\n" % t3.timeit(number=1000))
t4=Timer("test4()","from __main__ import test4")
print("list range %f seconds\n" % t4.timeit(number=1000))
View Code
❖我们看到,4种方法运行时间差别很大
列表连接(concat)最慢,List range最快, 速度相差近200倍。
append也要比concat快得多 另外,我们注意到列表推导式速度是append两 倍的样子
List基本操作的大O数量级
list.pop的计时试验
❖我们注意到pop这个操作
pop()从列表末尾移除元素,O(1)
pop(i)从列表中部移除元素,O(n)
❖原因在于Python所选择的实现方法
从中部移除元素的话,要把移除元素后面的元素 全部向前挪位复制一遍,这个看起来有点笨拙 但这种实现方法能够保证列表按索引取值和赋值 的操作很快,达到O(1) 这也算是一种对常用和不常用操作的折衷方案
3.dict数据类型
❖字典与列表不同,根据关键码(key)找 到数据项,而列表是根据位置(index)
最常用的取值get和赋值set,其性能为O(1) 另一个重要操作contains(in)是判断字典中是 否存在某个关键码(key),这个性能也是O(1)
Python官方的算法复杂度网站: https://wiki.python.org/moin/TimeCompl exity
“变位词”判断问题
1
“变位词”判断问题