算法效率衡量 执⾏时间反应算法效率 对于同⼀问题,我们给出了两种解决算法,在两种算法的实现中,我们对程 序执⾏的时间进⾏了测算,发现两段程序执⾏的时间相差悬殊(214.583347 秒相⽐于0.182897秒),由此我们可以得出结论:实现算法程序的执⾏时间 可以反应出算法的效率,即算法的优劣。 单靠时间值绝对可信吗? 假设我们将第⼆次尝试的算法程序运⾏在⼀台配置古⽼性能低下的计算机 中,情况会如何?很可能运⾏的时间并不会⽐在我们的电脑中运⾏算法⼀的 214.583347秒快多少。 单纯依靠运⾏的时间来⽐较算法的优劣并不⼀定是客观准确的! 程序的运⾏离不开计算机环境(包括硬件和操作系统),这些客观原因会影 响程序运⾏的速度并反应在程序的执⾏时间上。那么如何才能客观的评判⼀ 个算法的优劣呢? 时间复杂度与“⼤O记法” 我们假定计算机执⾏算法每⼀个基本操作的时间是固定的⼀个时间单位,那 么有多少个基本操作就代表会花费多少时间单位。显然对于不同的机器环境 ⽽⾔,确切的单位时间是不同的,但是对于算法进⾏多少个基本操作(即花 费多少时间单位)在规模数量级上却是相同的,由此可以忽略机器环境的影 响⽽客观的反应算法的时间效率。 对于算法的时间效率,我们可以⽤“⼤O记法”来表示。
“⼤O记法”:对于单调的整数函数f,如果存在⼀个整数函数g和实常数c>0, 使得对于充分⼤的n总有f(n)<=c*g(n),就说函数g是f的⼀个渐近函数(忽略 常数),记为f(n)=O(g(n))。也就是说,在趋向⽆穷的极限意义下,函数f的 增⻓速度受到函数g的约束,亦即函数f与函数g的特征相似。 时间复杂度:假设存在函数g,使得算法A处理规模为n的问题示例所⽤时间 为T(n)=O(g(n)),则称O(g(n))为算法A的渐近时间复杂度,简称时间复杂 度,记为T(n) 如何理解“⼤O记法” 对于算法进⾏特别具体的细致分析虽然很好,但在实践中的实际价值有限。 对于算法的时间性质和空间性质,最重要的是其数量级和趋势,这些是分析 算法效率的主要部分。⽽计量算法基本操作数量的规模函数中那些常量因⼦ 可以忽略不计。例如,可以认为3n 和100n 属于同⼀个量级,如果两个算法 处理同样规模实例的代价分别为这两个函数,就认为它们的效率“差不多”, 都为n 级。 最坏时间复杂度 分析算法时,存在⼏种可能的考虑: 算法完成⼯作最少需要多少基本操作,即最优时间复杂度 算法完成⼯作最多需要多少基本操作,即最坏时间复杂度 算法完成⼯作平均需要多少基本操作,即平均时间复杂度 对于最优时间复杂度,其价值不⼤,因为它没有提供什么有⽤信息,其反映 的只是最乐观最理想的情况,没有参考价值。 对于最坏时间复杂度,提供了⼀种保证,表明算法在此种程度的基本操作中 ⼀定能完成⼯作。 对于平均时间复杂度,是对算法的⼀个全⾯评价,因此它完整全⾯的反映了 这个算法的性质。但另⼀⽅⾯,这种衡量并没有保证,不是每个计算都能在 这个基本操作内完成。⽽且,对于平均情况的计算,也会因为应⽤算法的实
例分布可能并不均匀⽽难以计算。 因此,我们主要关注算法的最坏情况,亦即最坏时间复杂度。 时间复杂度的⼏条基本计算规则
-
基本操作,即只有常数项,认为其时间复杂度为O(1) 2. 顺序结构,时间复杂度按加法进⾏计算 3. 循环结构,时间复杂度按乘法进⾏计算 4. 分⽀结构,时间复杂度取最⼤值 5. 判断⼀个算法的效率时,往往只需要关注操作数量的最⾼次项,其它次 要项和常数项可以忽略 6. 在没有特殊说明时,我们所分析的算法的时间复杂度都是指最坏时间复 杂度
空间复杂度 类似于时间复杂度的讨论,⼀个算法的空间复杂度S(n)定义为该算法所耗费 的存储空间,它也是问题规模n的函数。 渐近空间复杂度也常常简称为空间复杂度。 空间复杂度(SpaceComplexity)是对⼀个算法在运⾏过程中临时占⽤存储空间 ⼤⼩的量度。 算法的时间复杂度和空间复杂度合称为算法的复杂度。
算法分析
-
第⼀次尝试的算法核⼼部分
for a in range(0, 1001): for b in range(0, 1001): for c in range(0, 1001): if a**2 + b**2 == c**2 and a+b+c == 1000: print("a, b, c: %d, %d, %d" % (a, b, c))
时间复杂度: T(n) = O(nnn) = O(n )
-
第⼆次尝试的算法核⼼部分
for a in range(0, 1001): for b in range(0, 1001-a): c = 1000 - a - b if a**2 + b**2 == c**2: print("a, b, c: %d, %d, %d" % (a, b, c))
时间复杂度: T(n) = O(nn(1+1)) = O(n*n) = O(n ) 由此可⻅,我们尝试的第⼆种算法要⽐第⼀种算法的时间复杂度好多的。
常⻅时间复杂度
注意,经常将log n(以2为底的对数)简写成logn
常⻅时间复杂度之间的关系
所消耗的时间从⼩到⼤
O(1) < O(logn) < O(n) < O(nlogn) < O(n ) < O(n ) < O(2 ) < O(n!) < O(n )
练习: ``` 时间复杂度练习( 参考算法的效率规则判断 ) O(5) O(2n + 1) O(n²+ n + 1) O(3n³+1)