06.堆算法C++(笔记)

1 堆

「堆 heap」是一种满足特定条件的完全二叉树,主要可分为两种类型,如图所示。

  • 「大顶堆 max heap」:任意节点的值≥其子节点的值。

  • 「小顶堆 min heap」:任意节点的值≤其子节点的值。

在这里插入图片描述

堆作为完全二叉树的一个特例,具有以下特性。

  • 最底层节点靠左填充,其他层的节点都被填满。
  • 我们将二叉树的根节点称为“堆顶”,将底层最靠右的节点称为“堆底”。
  • 对于大顶堆(小顶堆),堆顶元素(根节点)的值分别是最大(最小)的。

1.1 堆常用操作

需要指出的是,许多编程语言提供的是「优先队列 priority queue」,这是一种抽象数据结构,定义为具有优先级排序的队列。

实际上,堆通常用于实现优先队列,大顶堆相当于元素按从大到小的顺序出队的优先队列。从使用角度来看,我们可以将“优先队列”和“堆”看作等价的数据结构。因此,本书对两者不做特别区分,统一称作“堆”。

堆的常用操作见表,方法名需要根据编程语言来确定。

方法名描述时间复杂度
push()元素入堆O(log n)
pop()堆顶元素出堆O(log n)
peek()访问堆顶元素(大 / 小顶堆分别为最大 / 小值)O(1)
size()获取堆的元素数量O(1)
isEmpty()判断堆是否为空O(1)

在实际应用中,我们可以直接使用编程语言提供的堆类(或优先队列类)。

类似于排序算法中的“从小到大排列”和“从大到小排列”,我们可以通过设置一个 flag 或修改 Comparator 实现“小顶堆”与“大顶堆”之间的转换。代码如下所示:

/* 初始化堆 */
// 初始化小顶堆
priority_queue<int, vector<int>, greater<int>> minHeap;
// 初始化大顶堆
priority_queue<int, vector<int>, less<int>> maxHeap;

/* 元素入堆 */
maxHeap.push(1);
maxHeap.push(3);
maxHeap.push(2);
maxHeap.push(5);
maxHeap.push(4);

/* 获取堆顶元素 */
int peek = maxHeap.top(); // 5

/* 堆顶元素出堆 */
// 出堆元素会形成一个从大到小的序列
maxHeap.pop(); // 5
maxHeap.pop(); // 4
maxHeap.pop(); // 3
maxHeap.pop(); // 2
maxHeap.pop(); // 1

/* 获取堆大小 */
int size = maxHeap.size();

/* 判断堆是否为空 */
bool isEmpty = maxHeap.empty();

/* 输入列表并建堆 */
vector<int> input{1, 3, 2, 5, 4};
priority_queue<int, vector<int>, greater<int>> minHeap(input.begin(), input.end());

1.2 堆的实现

下文实现的是大顶堆。若要将其转换为小顶堆,只需将所有大小逻辑判断取逆(例如,将 替换为 )。感兴趣的读者可以自行实现。

“二叉树”章节讲过,完全二叉树非常适合用数组来表示。由于堆正是一种完全二叉树,因此我们将采用数组来存储堆

当使用数组表示二叉树时,元素代表节点值,索引代表节点在二叉树中的位置。节点指针通过索引映射公式来实现

如图所示,给定索引 i,其左子节点索引为 2i+1,右子节点索引为 2i+2,父节点索引为 (i - 1)/2(向下整除)。当索引越界时,表示空节点或节点不存在。

在这里插入图片描述

我们可以将索引映射公式封装成函数,方便后续使用:

/* 获取左子节点索引 */
int left(int i) {
    return 2 * i + 1;
}

/* 获取右子节点索引 */
int right(int i) {
    return 2 * i + 2;
}

/* 获取父节点索引 */
int parent(int i) {
    return (i - 1) / 2; // 向下整除
}

2. 访问堆顶元素

堆顶元素即为二叉树的根节点,也就是列表的首个元素:

/* 访问堆顶元素 */
int peek() {
    return maxHeap[0];
}

3. 元素入堆

给定元素 val ,我们首先将其添加到堆底。添加之后,由于 val 可能大于堆中其他元素,堆的成立条件可能已被破坏,因此需要修复从插入节点到根节点的路径上的各个节点,这个操作被称为「堆化 heapify」。

考虑从入堆节点开始,从底至顶执行堆化

我们比较插入节点与其父节点的值,如果插入节点更大,则将它们交换。

然后继续执行此操作,从底至顶修复堆中的各个节点,直至越过根节点或遇到无须交换的节点时结束。

设节点总数为 n,则树的高度为 O(log n)。由此可知,堆化操作的循环轮数最多为 O(log n)元素入堆操作的时间复杂度为 O(log n)。代码如下所示:

/* 元素入堆 */
void push(int val) {
    // 添加节点
    maxHeap.push_back(val);
    // 从底至顶堆化
    siftUp(size() - 1);
}

/* 从节点 i 开始,从底至顶堆化 */
void siftUp(int i) {
    while (true) {
        // 获取节点 i 的父节点
        int p = parent(i);
        // 当“越过根节点”或“节点无须修复”时,结束堆化
        if (p < 0 || maxHeap[i] <= maxHeap[p])
            break;
        // 交换两节点
        swap(maxHeap[i], maxHeap[p]);
        // 循环向上堆化
        i = p;
    }
}

4. 堆顶元素出堆

堆顶元素是二叉树的根节点,即列表首元素。如果我们直接从列表中删除首元素,那么二叉树中所有节点的索引都会发生变化,这将使得后续使用堆化进行修复变得困难。为了尽量减少元素索引的变动,我们采用以下操作步骤。

  1. 交换堆顶元素与堆底元素(交换根节点与最右叶节点)。
  2. 交换完成后,将堆底从列表中删除(注意,由于已经交换,因此实际上删除的是原来的堆顶元素)。
  3. 从根节点开始,从顶至底执行堆化

“从顶至底堆化”的操作方向与“从底至顶堆化”相反,我们将根节点的值与其两个子节点的值进行比较,将最大的子节点与根节点交换。然后循环执行此操作,直到越过叶节点或遇到无须交换的节点时结束。

与元素入堆操作相似,堆顶元素出堆操作的时间复杂度也为 。代码如下所示:

/* 元素出堆 */
void pop() {
    // 判空处理
    if (isEmpty()) {
        throw out_of_range("堆为空");
    }
    // 交换根节点与最右叶节点(交换首元素与尾元素)
    swap(maxHeap[0], maxHeap[size() - 1]);
    // 删除节点
    maxHeap.pop_back();
    // 从顶至底堆化
    siftDown(0);
}

/* 从节点 i 开始,从顶至底堆化 */
void siftDown(int i) {
    while (true) {
        // 判断节点 i, l, r 中值最大的节点,记为 ma
        int l = left(i), r = right(i), ma = i;
        if (l < size() && maxHeap[l] > maxHeap[ma])
            ma = l;
        if (r < size() && maxHeap[r] > maxHeap[ma])
            ma = r;
        // 若节点 i 最大或索引 l, r 越界,则无须继续堆化,跳出
        if (ma == i)
            break;
        swap(maxHeap[i], maxHeap[ma]);
        // 循环向下堆化
        i = ma;
    }
}

1.3 堆常见应用

优先队列:堆通常作为实现优先队列的首选数据结构,其入队和出队操作的时间复杂度均为 O(log n),而建队操作为 O(log n),这些操作都非常高效。

堆排序:给定一组数据,我们可以用它们建立一个堆,然后不断地执行元素出堆操作,从而得到有序数据。然而,我们通常会使用一种更优雅的方式实现堆排序,详见“堆排序”章节。

获取最大的k个元素:这是一个经典的算法问题,同时也是一种典型应用,例如选择热度前 10 的新闻作为微博热搜,选取销量前 10 的商品等。

2 建堆操作

在某些情况下,我们希望使用一个列表的所有元素来构建一个堆,这个过程被称为“建堆操作”。

2.1 借助入堆操作实现

我们首先创建一个空堆,然后遍历列表,依次对每个元素执行“入堆操作”,即先将元素添加至堆的尾部,再对该元素执行“从底至顶”堆化。

每当一个元素入堆,堆的长度就加一。由于节点是从顶到底依次被添加进二叉树的,因此堆是“自上而下”构建的。

设元素数量为 n,每个元素的入堆操作使用 O(log n) 时间,因此该建堆方法的时间复杂度为 O(nlog n)

2.2 通过遍历堆化实现

实际上,我们可以实现一种更为高效的建堆方法,共分为两步。

  1. 将列表所有元素原封不动添加到堆中,此时堆的性质尚未得到满足。
  2. 倒序遍历堆(即层序遍历的倒序),依次对每个非叶节点执行“从顶至底堆化”。

每当堆化一个节点后,以该节点为根节点的子树就形成一个合法的子堆。而由于是倒序遍历,因此堆是“自下而上”构建的。

之所以选择倒序遍历,是因为这样能够保证当前节点之下的子树已经是合法的子堆,这样堆化当前节点才是有效的。

值得说明的是,叶节点没有子节点,天然就是合法的子堆,因此无须堆化。如以下代码所示,最后一个非叶节点是最后一个节点的父节点,我们从它开始倒序遍历并执行堆化。

/* 构造方法,根据输入列表建堆 */
MaxHeap(vector<int> nums) {
    // 将列表元素原封不动添加进堆
    maxHeap = nums;
    // 堆化除叶节点以外的其他所有节点
    for (int i = parent(size() - 1); i >= 0; i--) {
        siftDown(i);
    }
}

2.3 复杂度分析

下面,我们来尝试推算第二种建堆方法的时间复杂度。

  • 假设完全二叉树的节点数量为 n,则叶节点数量为 (n+1)/2,其中**/**为向下整除。因此需要堆化的节点数量为 (n-1)/2

  • 在从顶至底堆化的过程中,每个节点最多堆化到叶节点,因此最大迭代次数为二叉树高度 log n

将上述两者相乘,可得到建堆过程的时间复杂度为 O(n log n)但这个估算结果并不准确,因为我们没有考虑到二叉树底层节点数量远多于顶层节点的性质。

接下来我们来进行更为准确的计算。为了降低计算难度,假设给定一个节点数量为 n、高度为 h 的“完美二叉树”,该假设不会影响计算结果的正确性。

在这里插入图片描述

如图 所示,节点“从顶至底堆化”的最大迭代次数等于该节点到叶节点的距离,而该距离正是“节点高度”。因此,我们可以对各层的“节点数量×节点高度”求和,得到所有节点的堆化迭代次数的总和

T(h) = 20h+21(h-1)+22(h-2)+···+2(h-1)×1

化简上式需要借助中学的数列知识,先对 T(h) 乘以 2 ,得到:

T(h) = 20h+21(h-1)+22(h-2)+···+2(h-1)×1

2T(h) = 21h+22(h-1)+23(h-2)+···+2h×1

使用错位相减法,用下式 2T(h) 减去上式 T(h) ,可得:

2T(h)-T(h) = T(h) = -20h+21+22+···+2(h-1)+2h

观察上式,发现 T(h) 是一个等比数列,可直接使用求和公式,得到时间复杂度为:

T(h) = 2*(1 - 2h) / (1 - 2) - h = 2h+1-h-2 = O(2h)

进一步地,高度为 h 的完美二叉树的节点数量为 n = 2h+1 -1 ,易得复杂度为 O(2h) = O(n) 。以上推算表明,输入列表并建堆的时间复杂度为 O(n) ,非常高效

3 Top-K 问题

给定一个长度为 n 的无序数组 nums ,请返回数组中前 k 大的元素。

3.1 方法一:遍历选择

我们可以进行图 8-6 所示的 k 轮遍历,分别在每轮中提取第 12k大的元素,时间复杂度为 O(nk)

此方法只适用于 k << n 的情况,因为当 与 比较接近时,其时间复杂度趋向于 ,非常耗时。
在这里插入图片描述

3.2 方法二:排序

如图 8-7 所示,我们可以先对数组 nums进行排序,再返回最右边的 k 个元素,时间复杂度为 O(n log n)

显然,该方法“超额”完成任务了,因为我们只需找出最大的 k 个元素即可,而不需要排序其他元素。

在这里插入图片描述

3.3 方法三:堆

我们可以基于堆更加高效地解决 Top-K 问题。

  1. 初始化一个小顶堆,其堆顶元素最小。

  2. 先将数组的前 k 个元素依次入堆。

  3. 从第 k+1 个元素开始,若当前元素大于堆顶元素,则将堆顶元素出堆,并将当前元素入堆。

  4. 遍历完成后,堆中保存的就是最大的 k 个元素。

示例代码如下:

/* 基于堆查找数组中最大的 k 个元素 */
priority_queue<int, vector<int>, greater<int>> topKHeap(vector<int> &nums, int k) {
    // 初始化小顶堆
    priority_queue<int, vector<int>, greater<int>> heap;
    // 将数组的前 k 个元素入堆
    for (int i = 0; i < k; i++) {
        heap.push(nums[i]);
    }
    // 从第 k+1 个元素开始,保持堆的长度为 k
    for (int i = k; i < nums.size(); i++) {
        // 若当前元素大于堆顶元素,则将堆顶元素出堆、当前元素入堆
        if (nums[i] > heap.top()) {
            heap.pop();
            heap.push(nums[i]);
        }
    }
    return heap;
}

总共执行了 n 轮入堆和出堆,堆的最大长度为 k ,因此时间复杂度为 O(n log k) 。该方法的效率很高,当 k 较小时,时间复杂度趋向 O(n) ;当 k 较大时,时间复杂度不会超过 O(n log n)

另外,该方法适用于动态数据流的使用场景。在不断加入数据时,我们可以持续维护堆内的元素,从而实现最大 k个元素的动态更新。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值