0%

算法复杂度分析(下)

上一篇 文章简单的分析了大 O 表示法,还有几个分析的技巧。当然在实际情况下,仅依靠之前的知识无法解决。

今天我会继续讲四个复杂度分析方面的知识点,最好情况时间复杂度(best case time complexity)、最坏情况时间复杂度(worst case time complexity)、平均情况时间复杂度(average case time complexity)、均摊时间复杂度(amortized time complexity)。如果这几个概念你都能掌握,那对你来说,复杂度分析这部分内容就没什么大问题了。

最好、最坏情况时间复杂

先上代码

1
2
3
4
5
6
7
8
9
// n表示数组array的长度
int find(int[] array, int n, int x) {
int i = 0;
int pos = -1;
for (; i < n; ++i) {
if (array[i] == x) pos = i;
}
return pos;
}

这段代码在一个无序的数组(array)中,查找 变量 x 出现的位置。如果没有找到就返回 -1。

使用上一篇文章的方法进行分析,这段代码的复杂度是 O(n)O(n),其中 n 代表数组的长度。

我们在数组中查找一个数据,并不需要每次都把整个数组都遍历一遍,因为有可能中途找到就可以提前结束循环了。但是,这段代码写得不够高效。我们可以这样优化一下这段查找代码。

1
2
3
4
5
6
7
8
9
10
11
12
// n表示数组array的长度
int find(int[] array, int n, int x) {
int i = 0;
int pos = -1;
for (; i < n; ++i) {
if (array[i] == x) {
pos = i;
break;
}
}
return pos;
}

这个时候,问题就来了。我们优化完之后,这段代码的时间复杂度还是 O(n)O(n) 吗?很显然,咱们上一节讲的分析方法,解决不了这个问题。

如果要查找的元素就在第 1 个位置,那么时间复杂度就是 O(1)O(1)

但是如果元素不在数组内,那么它会把整个数组都循环一遍,时间复杂度就是 O(n)O(n)

为了表示代码在不同情况下的不同时间复杂度,我们需要引入三个概念:最好情况时间复杂度、最坏情况时间复杂度和平均情况时间复杂度。

顾名思义,最好情况时间复杂度就是,在最理想的情况下,执行这段代码的时间复杂度。就像我们刚刚讲到的,在最理想的情况下,要查找的变量正好是数组的第一个元素,这个时候对应的时间复杂度就是最好情况时间复杂度。

同理,最坏情况时间复杂度就是,在最糟糕的情况下,执行这段代码的时间复杂度。就像刚举的那个例子,如果数组中没有要查找的变量,我们需要把整个数组都遍历一遍才行,所以这种最糟糕情况下对应的时间复杂度就是最坏情况时间复杂度。

平均情况时间复杂度

我们都知道,最好情况时间复杂度和最坏情况时间复杂度对应的都是极端情况下的代码复杂度,发生的概率其实并不大。

为了更好地表示平均情况下的复杂度,我们需要引入另一个概念:平均情况时间复杂度,后面我简称为平均时间复杂度。

平均时间复杂度又该怎么分析呢?我还是借助刚才查找变量 x 的例子来给你解释。要查找的变量 x 在数组中的位置,有 n+1 种情况:在数组的 0~n-1 位置中不在数组中。我们把每种情况下,查找需要遍历的元素个数累加起来,然后再除以 n+1n+1,就可以得到需要遍历的元素个数的平均值,即:

1+2+3++n+nn+1=n(n+3)2(n+1)\frac{1+2+3+\dots+n+n}{n+1}=\frac{n(n+3)}{2(n+1)}

我们知道,时间复杂度的大 O 标记法中,可以省略掉系数、低阶、常量,所以,咱们把刚刚这个公式简化之后,得到的平均时间复杂度就是:

O(n)O(n)

这个结论虽然是正确的,但是计算过程稍微有点儿问题。究竟是什么问题呢?我们刚讲的这 n+1 种情况,出现的概率并不是一样的。(这里要稍微用到一点儿概率论的知识)

我们知道,要查找的变量 x,要么在数组里,要么就不在数组里。

这两种情况对应的概率统计起来很麻烦,为了方便你理解,我们假设在数组中与不在数组中的概率都为 12\frac{1}{2}

另外,要查找的数据出现在 0~n-1 这 n 个位置的概率也是一样的,为 1n\frac{1}{n}。所以,根据概率乘法法则,要查找的数据出现在 0~n-1 中任意位置的概率就是:

121n=12n\frac{1}{2}\cdot\frac{1}{n}=\frac{1}{2n}

算出了数据出现在任意位置的概率,又因为执行次数的也是会在 1~n 之内变化的,所以把每一种情况出现的概率也要考虑进去,那么平均时间复杂度的计算过程变成了这个样子:

1×12n+2×12n+3×12n++n×12n+n×12=3n+141\times\frac{1}{2n}+ 2\times\frac{1}{2n}+ 3\times\frac{1}{2n}+ \dots+n\times\frac{1}{2n}+n\times\frac{1}{2}=\frac{3n+1}{4}

最后面一个 nn 是不在数组中的概率,它独占 12\frac{1}{2},所以最后一个是 n×12n\times\frac{1}{2}

这个值就是概率论中的加权平均值,也叫作期望值,所以平均时间复杂度的全称应该叫加权平均时间复杂度或者期望时间复杂度

引入概率之后,前面那段代码的加权平均值为 (3n+1)/4(3n+1)/4。用大 O 表示法来表示,去掉系数和常量,这段代码的加权平均时间复杂度仍然是 O(n)O(n)

你可能会说,平均时间复杂度分析好复杂啊,还要涉及概率论的知识。实际上,在大多数情况下,我们并不需要区分最好、最坏、平均情况时间复杂度三种情况。

像上一节的那些例子一样,很多时候,我们使用一个复杂度就可以满足需求了。只有同一块代码在不同的情况下,时间复杂度有量级的差距,我们才会使用这三种复杂度表示法来区分。

均摊时间复杂度

到此为止,你应该已经掌握了算法复杂度分析的大部分内容了。下面我要给你讲一个更加高级的概念,均摊时间复杂度,以及它对应的分析方法,摊还分析(或者叫平摊分析)。

均摊时间复杂度,听起来跟平均时间复杂度有点儿像。这两个概念确实非常容易弄混。我前面说了,大部分情况下,我们并不需要区分最好、最坏、平均三种复杂度。平均复杂度只在某些特殊情况下才会用到,而均摊时间复杂度应用的场景比它更加特殊、更加有限。

老规矩,我还是借助一个具体的例子来帮助你理解。(当然,这个例子只是我为了方便讲解想出来的,实际上没人会这么写。)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
// array表示一个长度为n的数组
// 代码中的array.length就等于n
int[] array = new int[n];
int count = 0;

void insert(int val) {
if (count == array.length) {
int sum = 0;
for (int i = 0; i < array.length; ++i) {
sum = sum + array[i];
}
array[0] = sum;
count = 1;
}

array[count] = val;
++count;
}

我先来解释一下这段代码。这段代码实现了一个往数组中插入数据的功能。当数组满了之后,也就是代码中的 count == array.length 时,我们用 for 循环遍历数组求和,并清空数组,将求和之后的 sum 值放到数组的第一个位置,然后再将新的数据插入。但如果数组一开始就有空闲空间,则直接将数据插入数组。

最理想的情况下,数组中有空闲空间,我们只需要将数据插入到数组下标为 count 的位置就可以了,所以最好情况时间复杂度为 O(1)O(1)

最坏的情况下,数组中没有空闲空间了,我们需要先做一次数组的遍历求和,然后再将数据插入,所以最坏情况时间复杂度为 O(n)O(n)

平均时间复杂度也可以用上面的方法计算出来,假设数组的长度是 n,根据数据插入的位置的不同,我们可以分为 n 种情况,每种情况的时间复杂度是 O(1)O(1)。除此之外,还有一种“额外”的情况,就是在数组没有空闲空间时插入一个数据,这个时候的时间复杂度是 O(n)O(n)。而且,这 n+1 种情况发生的概率一样,都是 1/(n+1)1/(n+1)。所以,根据加权平均的计算方法,我们求得的平均时间复杂度就是:

T(n)=1×1n+1+1×1n+1++1×1n+1+n×1n+1=(n+1)×1n+1+n×1n+1=1+n×1n+1=nn=O(1)\begin{aligned} T(n) &= 1\times\frac{1}{n+1}+ 1\times\frac{1}{n+1}+ \dots+ 1\times\frac{1}{n+1}+ n\times\frac{1}{n+1}\\ &= \frac{(n+1)\times1}{n+1}+n\times\frac{1}{n+1}\\ &= 1+n\times\frac{1}{n+1}\\ &= \frac{n}{n}\\ &= O(1) \end{aligned}

至此为止,前面的最好、最坏、平均时间复杂度的计算,理解起来应该都没有问题。但是这个例子里的平均复杂度分析其实并不需要这么复杂,不需要引入概率论的知识。这是为什么呢?我们先来对比一下这个 insert() 的例子和前面那个 find() 的例子,你就会发现这两者有很大差别。

首先,find() 函数在极端情况下,复杂度才为 O(1)O(1)。但 insert() 在大部分情况下,时间复杂度都为 O(1)O(1)。只有个别情况下,复杂度才比较高,为 O(n)O(n)。这是 insert() 第一个区别于 find() 的地方。

我们再来看第二个不同的地方。对于 insert() 函数来说,O(1)O(1) 时间复杂度的插入和 O(n)O(n) 时间复杂度的插入,出现的频率是非常有规律的,而且有一定的前后时序关系,一般都是一个 O(n)O(n) 插入之后,紧跟着 n-1 个 O(1)O(1) 的插入操作,循环往复。

所以,针对这样一种特殊场景的复杂度分析,我们并不需要像之前讲平均复杂度分析方法那样,找出所有的输入情况及相应的发生概率,然后再计算加权平均值。

针对这种特殊的场景,我们引入了一种更加简单的分析方法:摊还分析法,通过摊还分析得到的时间复杂度我们起了一个名字,叫均摊时间复杂度

那究竟如何使用摊还分析法来分析算法的均摊时间复杂度呢?

我们还是继续看在数组中插入数据的这个例子。每一次 O(n)O(n) 的插入操作,都会跟着 n-1 次 O(1)O(1) 的插入操作,所以把耗时多的那次操作均摊到接下来的 n-1 次耗时少的操作上,均摊下来,这一组连续的操作的均摊时间复杂度就是 O(1)O(1)。这就是均摊分析的大致思路。

均摊时间复杂度和摊还分析应用场景比较特殊,所以我们并不会经常用到。为了方便你理解、记忆,我这里简单总结一下它们的应用场景。如果有遇到了,知道是怎么回事儿就行了。

对一个数据结构进行一组连续操作中,大部分情况下时间复杂度都很低,只有个别情况下时间复杂度比较高,而且这些操作之间存在前后连贯的时序关系,这个时候,我们就可以将这一组操作放在一块儿分析,看是否能将较高时间复杂度那次操作的耗时,平摊到其他那些时间复杂度比较低的操作上。

而且,在能够应用均摊时间复杂度分析的场合,一般均摊时间复杂度就等于最好情况时间复杂度。

内容小结

今天我们学习了几个复杂度分析相关的概念,分别有:最好情况时间复杂度、最坏情况时间复杂度、平均情况时间复杂度、均摊时间复杂度。

之所以引入这几个复杂度概念,是因为,同一段代码,在不同输入的情况下,复杂度量级有可能是不一样的。

参考

极客时间@王争 - 数据结构与算法之美

katex Docs

Wikipedia - 加權平均數

[email protected] - LaTex 点乘,叉乘,点除,分数等常用算法

知乎@alven - 如何证明概率论的乘法公式?

  • 本文作者: 蠢黑通行
  • 本文链接: https://blackyau.cc/25.html
  • 版权声明: 本博客所有文章除特别声明外,均采用 BY-SA 许可协议。转载请注明出处!