【算法】4 五张图带你体会堆算法

什么是堆

堆(heap),是一类特殊的数据结构的统称。它通常被看作一棵树的数组对象。在队列中,调度程序反复提取队列中的第一个作业并运行,因为实际情况中某些时间较短的任务却可能需要等待很长时间才能开始执行,或者某些不短小、但很重要的作业,同样应当拥有优先权。而堆就是为了解决此类问题而设计的数据结构。

二叉堆是一种特殊的堆,二叉堆是完全二叉树或者近似完全二叉树,二叉堆满足堆特性:父节点的键值总是保持固定的序关系于任何一个子节点的键值,且每个节点的左子树和右子树都是一个二叉堆。

当父节点的键值总是大于任何一个子节点的键值时为最大堆,当父节点的键值总是小于或等于任何一个子节点的键值时为最小堆。

为了更加形象,我们常用带数字的圆圈和线条来表示二叉堆等,但其实都是用数组来表示的。如果根节点在数组中的位置是1,第n个位置的子节点则分别在2n和2n+1位置上。

如下图所描的,第2个位置的子节点在4和5,第4个位置的子节点在8和9。所以我们获得父节点和子节点的方式如下:

PARENT(i)
1   return 小于或等于i/2的最大整数

LEFT-CHILD(i)
1   return 2i

RIGHT-CHILD(i)
1   return 2i+1

假定表示堆的数组为A,那么A.length通常给出数组元素的个数,A.heap−size表示有多少个堆元素存储在该数组中。这句话略带拗口,也就是说数组A[1...A.length]可能都有数据存放,但只有A[1...A.heap−size]中存放的数据才是堆中的有效数据。毫无疑问0≤A.heap−size≤A.length。

最大堆除了根以外所有结点i都满足:A[PARENT(i)]≥A[i] 。

最小堆除了根以外所有结点i都满足:A[PARENT(i)]≤A[i] 。

一个堆中结点的高度是该结点到叶借点最长简单路径上边的数目,如上图所示编号为4的结点的高度为1,编号为2的结点的高度为2,树的高度就是3。

包含n个元素的队可以看作一颗完全二叉树,那么该堆的高度是Θ(lgn)。

通过MAX-HEAPIFY维护最大堆

程序中,不可能所有的堆都天生就是最大堆,为了更好的使用堆这一数据结构,我们可能要人为地构造最大堆。

如何将一个杂乱排序的堆重新构造成最大堆,它的主要思路是:

从上往下,将父节点与子节点以此比较。如果父节点最大则进行下一步循环,如果子节点更大,则将子节点与父节点位置互换,并进行下一步循环。注意父节点要与两个子节点都进行比较。

如上图说描述的,这里从结点为2开始做运算。先去l为4,r为5,将其与父节点做比较,发现左子节点比父节点更大。因此将它们做交换,设4为最大的结点,并继续以结点4开始做下一步运算。

因此可以给出伪代码如下:

MAX-HEAPIFY(A,i)
1   l=LEFT-CHILD(i)
2   r=RIGHT-CHILD(i)
3   if l<=A.heap-size and A[l]>A[i]
4       largest=l
5   else
6       largest=i
7   if r<=A.heap-size and A[r]>A[largest]
8       largest=r
9   if largest != i
10      exchange A[i] with A[largest]
11      MAX-HEAPIFY(A,largest)      

在以上这些步骤中,调整A[i]、A[l]、A[r]的关系的时间代价为Θ(1),再加上一棵以i的子节点为根结点的子树上运行MAX-HEAPIFY的时间代价(注意此处的递归不一定会发生,此处只是假设其发生)。因为每个子节点的子树的大小至多为2n/3(最坏情况发生在树的底层恰好半满的时候)。因此MAX-HEAPIFY过程的运行时间为:

T(n)≤T(2n/3)+Θ(1)

也就是:

T(n)=O(lgn)

通过BUILD-MAX-HEAP构建最大堆

前面我们通过自顶向下的方式维护了一个最大堆,这里将通过自底向上的方式通过MAX-HEAPIFY将一个n=A.length的数组A[1...n]转换成最大堆。

回顾一下上面的图示,其总共有9个结点,取小于或等于9/2的最大整数为4,从4+1,4+2,一直到n都是该树的叶子结点,你发现了么?这对任意n都是成立的哦。

因此这里我们就要从4开始不断的调用MAX-HEAPIFY(A,i)来构建最大堆。

为什么会有这一思路呢?

原因是既然我们知道了哪些结点是叶子结点,从最后一个非叶子结点(这里是4)开始,一次调用MAX-HEAPIFY函数,就会将该结点与叶子结点做相应的调整,这其实也就是一个递归的过程。

图示已经这么清晰了,就直接上伪代码咯。

BUILD-MAX-HEAP(A)
1   A.heap-size=A.length
2   for i=小于或等于A.length/2的最大整数 downto 1
3       MAX-HEAPIFY(A,i)

通过HEAPSORT进行堆排序算法

所谓的堆排序算法,先通过前面的BUILD-MAX-HEAP将输入数组A[1...n]建成最大堆,其中n=A.length。而数组中的元素总在根结点A[1]中,通过把它与A[n]进行互换,就能将该元素放到正确的位置。

如何让原来根的子结点仍然是最大堆呢,可以通过从堆中去掉结点n,而这可以通过减少A.heap−size来间接的完成。但这样一来新的根节点就违背了最大堆的性质,因此仍然需要调用MAX-HEAPIFY(A,1),从而在A[1...n−1]上构造一个新的最大堆。

通过不断重复这一过程,知道堆的大小从n−1一直降到2即可。

上图的演进方式主要有两点:

1)将A[1]和A[i]互换,i从A.length一直递减到2

2)不断调用MAX-HEAPIFY(A,1)对剩余的整个堆进行重新构建

一直到最后堆已经不存在了。

HEAPSORT(A)
1   BUILD-MAX-HEAP(A)
2   for i=A.length downto 2
3       exchange A[1] with A[i]
4       A.heap-size=A.heap-size-1
5       MAX-HEAPIFY(A,1)

优先队列

下一篇博文我们就会介绍大名鼎鼎的快排,快速排序啦,欢迎童鞋们预定哦~

话说堆排序虽然性能上不及快速排序,但作为一个尽心尽力的数据结构而言,其可谓业界良心呐。它还为我们提供了传说中的“优先队列”。

优先队列(priority queue)和堆一样,堆有最大堆和最小堆,优先队列也有最大优先队列和最小优先队列。

优先队列是一种用来维护由一组元素构成的集合S的数据结构,其中每个元素都有一个相关的值,称之为关键字(key)。

一个最大优先队列支持一下操作:

MAXIMUM(S):返回S中有着最大键值的元素。
EXTRACT−MAX(S):去掉并返回S中的具有最大键字的元素。
INCREASE−KEY(S,x,a):将元素x的关键字值增加到a,这里假设a的值不小于x的原关键字值。
INSERT(S,x):将元素x插入集合S中,这一操作等价于S=S∪{x}。

这里来举一个最大优先队列的示例,我曾在关于“50% CPU 占有率”题目的内容扩展 这篇博文中简单介绍过Windows的系统进程机制。

这里以图片的形式简单的贴出来如下:

在用堆实现优先队列时,需要在堆中的每个元素里存储对应对象的句柄(handle)。句柄的准确含义依赖于具体的应用程序,可以是指针,也可以是整型数。

在堆的操作过程中,元素会改变其在数组中的位置,因此在具体实现中,在重新确定堆元素位置时,就自然而然地需要改变其在数组中的位置。

一、前面的MAXIMUM(S)过程其实很简单,完全可以在Θ(1)时间内完成,因为只需要返回数组的第一个元素就可以呀,它已经是最大优先队列了嘛。

HEAP-MAXIMUM(A)
1   return A[1]

二、EXTRACT−MAX(S)就稍显复杂了一点,它的时间复杂度是O(lgn),因为这里面除了MAX-HEAPIFY(A,1)以外,其他的操作都是常量时间的。

HEAP-EXTRACT-MAX(A)
1   if A.heap-size < 1
2       error "堆下溢"
3   max=A[1]
4   A[1]=A[A.heap-size]
5   A.heap-size=A.heap-size-1
6   MAX-HEAPIFY(A,1)
7   return max

三、INCREASE−KEY(S,x,a)需要将一个大于元素x原有关键字值的a加到元素x上。

和上一个函数一样,首先判断a知否比原有的关键字更大。

然后就是老办法了,不断的将该结点与父结点做对比,如果父结点更小,那么就将他们进行对换。

相信有图示会更加清楚,于是……再来一张图。

HEAP-INCREASE-KEY(A,i,key)
1   if key < A[i]
2       error "新关键字值比当前关键字值更小"
3   A[i]=key
4   while i>1 and A[PARENT(i)] < A[i]
5       exchange A[i] with A[PARENT(I)]
6       i=PARENT(i)

在包含n个元素的堆上,HEAP-INCREASE-KEY的运行时间就是O(lgn)了。因为在第3行做了关键字更新的结点到根结点的路径长度为O(lgn)。

四、INSERT(S,x)首先通过一个特殊的关键字(比如这里的-10000扩展)结点来扩展最大堆,然后调用HEAP-INCREASE-KEY来为新的结点设置对应的关键字,同时保持最大堆的性质。

MAX-HEAP-INSERT(A,key)
1   A.heap-size=A.heap-sieze+1
2   A[A.heap-size]=-10000
3   HEAP-INCREASE-KEY(A,A.hep-size,key)

在包含n个元素的堆上,MAX-HEAP-INSERT的运行时间就是O(lgn)了。因为这个算法相对于上一个算法,除了HEAP-INCREASE-KEY之外就都是常量的运行时间了,而HEAP-INCREASE-KEY的运行时间我们在上一部分已经讲过了。

总而言之,在一个包含n个元素的堆中,所有优先队列的操作时间都不会大于O(lgn)。




感谢您的访问,希望对您有所帮助。 欢迎大家关注、收藏以及评论。



为使本文得到斧正和提问,转载请注明出处:
http://blog.csdn.net/nomasp


时间: 2024-09-21 00:31:01

【算法】4 五张图带你体会堆算法的相关文章

【万字总结】图解堆算法、链表、栈与队列(多图预警)

堆算法 什么是堆 堆(heap),是一类特殊的数据结构的统称.它通常被看作一棵树的数组对象.在队列中,调度程序反复提取队列中的第一个作业并运行,因为实际情况中某些时间较短的任务却可能需要等待很长时间才能开始执行,或者某些不短小.但很重要的作业,同样应当拥有优先权.而堆就是为了解决此类问题而设计的数据结构. 二叉堆是一种特殊的堆,二叉堆是完全二叉树或者近似完全二叉树,二叉堆满足堆特性:父节点的键值总是保持固定的序关系于任何一个子节点的键值,且每个节点的左子树和右子树都是一个二叉堆. 当父节点的键值

【图解】九张图带你读懂大数据医疗

文章讲的是[图解]九张图带你读懂大数据医疗,互联网大框架的结构下,互联网+医疗的个性化服务,能给医疗保健工作者和消费者带来哪些真正的福利呢,首先可以提高效益减少废物.增强了预防传染病的能力.对于个人公共卫生.疾病预防和治疗都有很大的帮助.医学的临床试验等等工作,都在造福于我们. 人们都想选择个性化的健康医疗,为了实现这个目标,我们必须让大数据参与到破译和分析个人的所思.所需中.除了作为一个行业的流行语以外,大数据可以为医疗保健工作者和消费者带来怎样的成功呢? 下面的信息图是由Evariant公司

基于用户投票的排名算法(五)威尔逊区间

迄今为止,这个系列都在讨论,如何给出"某个时段"的排名,比如"过去24小时最热门的文章". 但是,很多场合需要的是"所有时段"的排名,比如"最受用户好评的产品". 这时,时间因素就不需要考虑了.这个系列的最后两篇,就研究不考虑时间因素的情况下,如何给出排名. 一种常见的错误算法是: 得分 = 赞成票 - 反对票 假定有两个项目,项目A是60张赞成票,40张反对票,项目B是550张赞成票,450张反对票.请问,谁应该排在前面?按

仿STL中的堆算法的一个实现

RT. 堆的性质之类的不再这里阐述,写这个算法只为了更好的理解STL中的堆算法,如果看不懂STL中的算法也可以来参考这里给出的算法,因为是纯C的看起来会省去很多语言方面的细节. 同时里面还有一个STL中对应算法的测试以比较两者的效果. /******************************************************************** created: 2007/3/18 filename: main.cpp author: Lichuang purpose

【转载】五分钟理解一致性哈希算法(consistent hashing)

   转载自:http://blog.csdn.net/cywosp/article/details/23397179 简介:     一致性哈希算法在1997年由麻省理工学院提出的一种分布式哈希(DHT)实现算法,设计目标是为了解决因特网中的热点(Hot spot)问题,初衷和CARP十分类似.一致性哈希修正了CARP使用的简 单哈希算法带来的问题,使得分布式哈希(DHT)可以在P2P环境中真正得到应用.     一致性hash算法提出了在动态变化的Cache环境中,判定哈希算法好坏的四个定义

基于用户投票的排名算法(五):威尔逊区间

迄今为止,这个系列都在讨论,如何给出"某个时段"的排名,比如"过去24小时最热门的文章". 但是,很多场合需要的是"所有时段"的排名,比如"最受用户好评的产品". 这时,时间因素就不需要考虑了.这个系列的最后两篇,就研究不考虑时间因素的情况下,如何给出排名. 一种常见的错误算法是: 得分 = 赞成票 - 反对票 假定有两个项目,项目A是60张赞成票,40张反对票,项目B是550张赞成票,450张反对票.请问,谁应该排在前面?按

10张图带你深入理解Docker容器和镜像

本文讲的是10张图带你深入理解Docker容器和镜像,[编者的话]本文用图文并茂的方式介绍了容器.镜像的区别和Docker每个命令后面的技术细节,能够很好的帮助读者深入理解Docker. 这篇文章希望能够帮助读者深入理解Docker的命令,还有容器(container)和镜像(image)之间的区别,并深入探讨容器和运行中的容器之间的区别. 当我对Docker技术还是一知半解的时候,我发现理解Docker的命令非常困难.于是,我花了几周的时间来学习Docker的工作原理,更确切地说,是关于Doc

中国人工智能学会通讯——一张图看懂BP算法 1.1 引言

1.1 引言 神经网络是实现人工智能的重要途径之一.近年来,深度神经网络在语音识别.图像理解.自然语言处理.智能博弈.智能医疗等领域内的大数据问题上取得一系列重大突破,引起了人们对神经网络的极大兴趣,并引领人工智能蓬勃向前发展.反向传播(backpropagation,BP)算法是深度神经网络最基本的算法之一,对深度神经网络的发展起着十分重要的作用,已成为深度神经网络理论的一个无可厚非的基石. BP算法的关键是反向计算敏感性,通过巧妙利用数学分析中求偏导数的链式法则,将敏感性反向传播,在数学上是

这五张PPT告诉你,如何打造无人驾驶“最强大脑”

"英特尔在谈无人驾驶,会成为汽车制造商吗?NO!我们要为无人驾驶提供从车.连接到云的'最强大脑'." 在昨天于北京举行的英特尔无人驾驶分享会上,英特尔无人驾驶事业部中国区市场总监徐伟杰在主旨演讲中开门见山. 这也是英特尔无人驾驶事业部去年11月成立以来,首次面对中国媒体讲述英特尔的无人驾驶发展策略. 数据.端到端.合作与投资--英特尔的无人驾驶蓝图已经绘就,让我们通过徐伟杰演讲的五张PPT,一起看清这幅正在不断展开的画卷. 对于未来汽车以及无人驾驶体验,数据就是新的石油.就像石油在过去