算法效率分析基础

版权声明:本文为博主原创文章,转载请注明博客地址: https://blog.csdn.net/zy010101/article/details/81660712

一般而言分析算法效率的方式有两种,即:时间效率和空间效率。时间效率也称为时间复杂度;空间效率也称为空间复杂度。在计算机技术发展的几十年中,空间资源变得不是非常重要了,因此在一般的算法分析中,讨论的主要是时间复杂度,当然空间复杂度的分析也是如此。

在算法分析中,我们不使用时间的标准单位(例如:秒,毫秒等)来衡量算法的快慢,而是使用基本操作的次数来衡量时间复杂度。并且,我们在分析时间复杂度的时候仅关注执行次数的增长次数及其常数倍。

对于大规模的输入,增长次数是非常重要的,下面表中第一列给出输入数据的规模,后面的每列是不同时间复杂度对应的执行次数。可以看出logn是最快的,n!是最慢的。

由换底公式可知:

log₂N和logN他们之间是常数倍的关系。因此在分析时常会忽略掉底数写成logN。一般在实践中,我们算法的时间复杂度都是在nlogn之下的,例如快速排序算法,它的时间复杂度就是nlogn。而一个需要指数级别操作的算法仅仅只能用于小规模的计算。

有些时候时间复杂度不仅仅取决于输入数据的规模,还取决于输入数据的一些特定的细节(例如:快速排序算法的最快情况仅需要nlogn,而最坏情况下需要n²。这种差异就取决于原来的序列是随机的还是较为有序的)因此,我们还需要最坏,平均,最优这三种时间复杂度来刻画一个算法的实际情况。所以当一个算法的最优时间复杂度都不能满足要求的时候,那么该算法就可以立即被抛弃。最坏时间复杂度刻画的最坏的情况并不是经常出现的,因此在分析的时候,往往采用的是平均时间复杂度来刻画一个实际问题。

在求解时间复杂度的时候往往需要一些数学公式来帮助我们。

这些公式在分析算法的时间复杂度时非常有用。最好能够记住他们。

有三种符号表示的作为分析时间复杂度的方式,分别是O,Ω,θ。简单来说,它们的含义是这样的

O(n)表示增长次数小于等于n的算法;

Ω(n)表示增长次数大于等于n的算法;

θ(n)表示增长次数等于n的算法;

如果一个算法是由两部分组成的,那么他的时间复杂度应该由下面的定理给出:

该定理说明了一个算法整体效率是由具有较大增长次数那部分决定的(效率差的那部分)。

有时候分析算法的时间复杂度需要比较两个函数的极限情况,根据高等数学的知识,我们知道有高阶无穷小,同阶无穷小,以及低阶无穷小。它们对应如下的增长次数:

在上述这样的极限的时候,有时候需要使用两个重要极限以及洛必达法则。当然还有上面的史特林公式。

洛必达法则

当然,在实际情况下如果输入规模较小的话,那么不同算法之间的时间复杂度几乎对执行没有什么影响,当n的规模大的时候必须认真考虑算法的时间复杂度。下表给出了基本的效率类型。

这里有道很有意思的题目,暂时留在这里,题目来自《算法设计与分析基础》。

非递归算法的通用效率分析方案:

  1. 决定使用哪些量作为输入的数据规模;
  2. 找出算法的基本操作(一般都是在最内层的循环中,并且这个操作每次都要被执行);
  3. 检查基本操作的次数是否只依赖于输入数据的规模,而与其他东西无关。(若与其他事物有关,那么则应分析出最坏,最优,平均这三种复杂度);
  4. 建立基本操作执行次数的求和表达式;
  5. 利用求和运算的公式和法则来建立一个操作次数的闭合公式,或者至少确定它的增长次数。

在分析的过程中可能会用到一些求和公式:

递归算法的数学分析,由于递归是直观的,我们必须找出递归过程中的初始条件和递推关系。根据初始条件和递推关系求出通项公式。对通项公式分析可以得出算法执行的次数,当然和循环不同的是递归过程中会产生额外的空间开销和时间开销。这就是简单带来的坏处吧!递归算法的分析步骤如下:

  1. 决定使用哪些量作为输入的数据规模;
  2. 找出算法的基本操作;
  3. 检查基本操作的次数是否只依赖于输入数据的规模,而与其他东西无关。(若与其他事物有关,那么则应分析出最坏,最优,平均这三种复杂度);
  4. 建立一个递推关系式,并且求出初始条件,这样就明确了基本操作执行的次数;
  5. 由递推关系求出基本操作的关系式,或者至少确定它的增长次数;

大多是递归算法的递推公式是由类型与f(n)= f(x) + C;或者是f(n)= f(x)*C;这种类型的递推公式它在等号右边只会出现一个f(x),这种类型的大都可以用迭代的方式求出其通项公式。但是像斐波那契数列这种递推公式,F(N) = F(N-1)+F(N-2)(这种递推公式被归类为常系数齐次二阶线性递推式)。这种形式的递推公式可以看做是一个二阶常系数线性差分方程来对待。通过求其特解和通解,然后求出全解。(全解 = 特解+通解)关于解差分方程,我是在《信号与系统》中学习的,具体的解法和高等数学中的微分方程的解法是差不多的。

用斐波那契数列来说明求解的大致过程,解完之后发现这个问题确实在高中时没法解决,无法求出通项公式。

这样我们就得到了斐波那契数列的通项公式。使用递归求解斐波那契数列总是做了很多重复计算:F(N) = F(N-1)+F(N-2)因为算F(N-1)需要算F(N-2)。所以对于数值运算,通常最好不要使用递归。

算法的经验分析

即使我们掌握了上面的这些分析技术,但是在实际中,某些算法还是无法分析的。数学方式并不总是有效的。经验分析是对一些样本输入进行时间或者是操作次数的统计,做出他们的平均值,可以看做是平均效率。也可以使用语言本身提供的系统函数来计算程序执行的时间。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

扫码关注云+社区

领取腾讯云代金券