入门篇——系统高效学习数据结构和算法

韩雪冰原创2023年3月3日...大约 7 分钟

入门篇——系统高效学习数据结构和算法

系统高效学习数据结构和算法——基础常用

20个最常用的、最基础数据结构与算法： 10 个数据结构：数组、链表、栈、队列、散列表、二叉树、堆、跳表、图、Trie 树； 10 个算法：递归、排序、二分查找、搜索、哈希算法、贪心算法、分治算法、回溯算法、动态规划、字符串匹配算法。

为什么需要复杂度分析

事后统计法

不同运行环境测试结果非常依赖测试环境
不同数据测试结果受数据规模的影响很大

很多不可控导致统计结果不同

我们需要一个不用具体的测试数据来测试，就可以粗略地估计算法的执行效率的方法。

大O复杂度表示法

function cal(n) { 
    let sum = 0; 
    let i = 1; 
    for (; i <= n; ++i) { 
        sum = sum + i; 
    } 
	return sum; 
}

假设每步执行的单位时间相同，设为unit_time 上面运行总时间为(2n+2)*unit_time，所有代码的执行时间T(n) 与每行代码的执行次数成正比。

T (n) = (2 n + 2) \times unit_time

function cal(n) {
    let sum = 0;
   	let i = 1;
   	let j = 1;
   	for (; i <= n; ++i) {
        j = 1;
     	for (; j <= n; ++j) {
       		sum = sum +  i * j;
        }
   	}
}

T (n) = (2 n^{2} + 2 n + 3) \times unit_time

所有代码的执行时间 T(n) 与每行代码的执行次数 f(n) 成正比。

T (n) = O (f (n))

所以，第一个例子中的 T(n) = O(2n+2)，第二个例子中的 T(n) = O(2n2+2n+3)。这就是大 O 时间复杂度表示法。大 O 时间复杂度实际上并不具体表示代码真正的执行时间，而是表示代码执行时间随数据规模增长的变化趋势，所以，也叫作渐进时间复杂度（asymptotic time complexity），简称时间复杂度。

n 很大时，你可以把它想象成 10000、100000。而公式中的低阶、常量、系数三部分并不左右增长趋势，所以都可以忽略。我们只需要记录一个最大量级就可以了，如果用大 O 表示法表示刚讲的那两段代码的时间复杂度，就可以记为： $T (n) = O (n)$ ； $T (n) = O (n^{2})$ 。

时间复杂度分析

只关注循环执行次数最多的一段代码
总复杂度等于量级最大的那段代码的复杂度
嵌套代码的复杂度等于嵌套内外代码复杂度的乘积

几种常见时间复杂度实例分析

常量阶 $O (1)$
对数阶 $O (\log n)$
线性阶 $O (n)$
线性对数阶 $O (n \log n)$
平方阶 $O (n^{2})$ 、立方阶 $O (n^{3})$ ... k次方阶 $O (n^{k})$
指数阶 $O (2^{n})$
阶乘阶 $O (n!)$

空间复杂度分析

时间复杂度的全称是渐进时间复杂度，表示算法的执行时间与数据规模之间的增长关系。类比一下，空间复杂度全称就是渐进空间复杂度（asymptotic space complexity），表示算法的存储空间与数据规模之间的增长关系。

function print(n) { 
	let i = 0; 
	let a = new Array(); 
    for (i; i <n; ++i) {
        a[i] = i * i;
    } 
	for (i; i = 0; --i) { 
        console.log(a[i]); 
    }
}

跟时间复杂度分析一样，我们可以看到，第 2 行代码中，我们申请了一个空间存储变量 i，但是它是常量阶的，跟数据规模 n 没有关系，所以我们可以忽略。第 3 行申请了一个大小为 n 的 int 类型数组，除此之外，剩下的代码都没有占用更多的空间，所以整段代码的空间复杂度就是 O(n)。

我们常见的空间复杂度就是 $O (1)$ 、 $O (n)$ 、 $O (n^{2})$ ，像 $O (\log n)$ 、 $O (n \log n)$ 这样的对数阶复杂度平时都用不到。

最好、最坏、平均、均摊时间复杂度

**最好情况时间复杂度就是，在最理想的情况下，执行这段代码的时间复杂度。**就像我们刚刚讲到的，在最理想的情况下，要查找的变量 x 正好是数组的第一个元素，这个时候对应的时间复杂度就是最好情况时间复杂度。

**最坏情况时间复杂度就是，在最糟糕的情况下，执行这段代码的时间复杂度。**就像刚举的那个例子，如果数组中没有要查找的变量 x，我们需要把整个数组都遍历一遍才行，所以这种最糟糕情况下对应的时间复杂度就是最坏情况时间复杂度。

平均情况时间复杂度

统计有多少种不同情况
每种情况遍历次数

要查找的变量 x，要么在数组里，要么就不在数组里。这两种情况对应的概率统计起来很麻烦，为了方便你理解，我们假设在数组中与不在数组中的概率都为 1/2。另外，要查找的数据出现在 0～n-1 这 n 个位置的概率也是一样的，为 1/n。所以，根据概率乘法法则，要查找的数据出现在 0～n-1 中任意位置的概率就是 1/(2n)。

因此，前面的推导过程中存在的最大问题就是，没有将各种情况发生的概率考虑进去。如果我们把每种情况发生的概率也考虑进去，那平均时间复杂度的计算过程就变成了这样：

这个值就是概率论中的加权平均值，也叫作期望值，所以平均时间复杂度的全称应该叫加权平均时间复杂度或者期望时间复杂度。

在大多数情况下，我们并不需要区分最好、最坏、平均情况时间复杂度三种情况。绝大多数情况下，我们使用一个复杂度就可以满足需求了。只有同一块代码在不同的情况下，时间复杂度有量级的差距，我们才会使用这三种复杂度表示法来区分。

均摊时间复杂度

有一个更加高级的概念，均摊时间复杂度，以及它对应的分析方法，摊还分析或者叫平摊分析。

平均复杂度只在某些特殊情况下才会用到，而均摊时间复杂度应用的场景比它更加特殊、更加有限。

// array表示一个长度为n的数组
// 代码中的array.length就等于n 
const array = new Array(); 
let count = 0; 
function insert(val) { 
    if (count === array.length) { 
        let sum = 0; 
        for (let i = 0; i < array.length; ++i) { 			
            sum = sum + array[i];
        }
        array[0] = sum;
        count = 1;
    }
    array[count] = val;
    ++count;
}

最好情况时间复杂度为 O(1)

最坏情况时间复杂度为O(n)

平均时间复杂度为O(1)

1 \times \frac{1}{(n + 1)} + 1 \times \frac{1}{(n + 1)} + . . . + 1 \times \frac{1}{(n + 1)} + n \times \frac{1}{(n + 1)} = O (1)

针对这种特殊的场景，我们引入了一种更加简单的分析方法：摊还分析法，通过摊还分析得到的时间复杂度我们起了一个名字，叫均摊时间复杂度。

每一次 O(n) 的插入操作，都会跟着 n-1 次 O(1) 的插入操作，所以把耗时多的那次操作均摊到接下来的 n-1 次耗时少的操作上，均摊下来，这一组连续的操作的均摊时间复杂度就是 O(1)。这就是均摊分析的大致思路。

$\frac{(n + n - 1)}{n} = 2 = O (1)$

均摊时间复杂度和摊还分析应用场景比较特殊，所以我们并不会经常用到。主要的应用场景如下：

对一个数据结构进行一组连续操作中，大部分情况下时间复杂度都很低，只有个别情况下时间复杂度比较高，而且这些操作之间存在前后连贯的时序关系，这个时候，我们就可以将这一组操作放在一块儿分析，看是否能将较高时间复杂度那次操作的耗时，平摊到其他那些时间复杂度比较低的操作上。而且，在能够应用均摊时间复杂度分析的场合，一般均摊时间复杂度就等于最好情况时间复杂度。

昵称

邮箱

网址

按正序
按倒序
按热度

入门篇——系统高效学习数据结构和算法

预览: