一个故事讲清楚NIO

假设某银行只有10个职员。该银行的业务流程分为以下4个步骤:

1) 顾客填申请表(5分钟);

2) 职员审核(1分钟);

3) 职员叫保安去金库取钱(3分钟);

4) 职员打印票据,并将钱和票据返回给顾客(1分钟)。

  我们看看银行不同的工作方式对其工作效率到底有何影响。

1 BIO方式

  每来一个顾客,马上由一位职员来接待处理,并且这个职员需要负责以上4个完整流程。当超过10个顾客时,剩余的顾客需要排队等候。

  我们算算这个银行一个小时到底能处理多少顾客?一个职员处理一个顾客需要10分钟(5+1+3+1)时间,一个小时(60分钟)能处理6个顾客,一共10个职员,那就是只能处理60个顾客。

  可以看到银行职员的工作状态并不饱和,比如在第1步,其实是处于等待中。

  这种工作其实就是BIO,每次来一个请求(顾客),就分配到线程池中由一个线程(职员)处理,如果超出了线程池的最大上限(10个),就扔到队列等待 。

2 NIO方式

  如何提高银行的吞吐量呢?

  思路:分而治之,将任务拆分开来,由专门的人负责专门的任务。

  具体来讲,银行专门指派一名职员A,A的工作就是每当有顾客到银行,他就递上表格让顾客填写,每当有顾客填好表后,A就将其随机指派给剩余的9名职员完成后续步骤。

  我们计算下这种工作方式下银行一个小时到底能处理多少顾客?

  假设顾客非常多,职员A的工作处于饱和中,他不断的将填好表的顾客带到柜台处理,柜台一个职员5分钟能处理完一个顾客,一个小时9名职员能处理:9*(60/5)=108。

  可见工作方式的转变能带来效率的极大提升。

      这种工作方式其实就NIO的思路。下图是非常经典的NIO说明图,mainReactor线程负责监听server socket,accept新连接,并将建立的socket分派给subReactor;subReactor可以是一个线程,也可以是线程池(一般可以设置为CPU核数),负责多路分离已连接的socket,读写网络数据,这里的读写网络数据可类比顾客填表这一耗时动作,对具体的业务处理功能,其扔给worker线程池完成。

  可以看到典型NIO有三类线程,分别是mainReactor线程、subReactor线程、work线程。不同的线程干专业的事情,最终每个线程都没空着,系统的吞吐量自然就上去了。

        

 

3 异步方式

  第二种工作方式有没有什么可以提高的地方呢?

  仔细查看可发现第3步骤这3分钟柜台职员是在等待中度过的,那怎么能让柜台职员保持满负荷呢?

  还是分而治之的思路,指派1个职员B来专门负责第3步骤。每当柜台员工完成第2步时,就通知职员B来负责与保安沟通取钱。这时候柜台员工可以继续处理下一个顾客。当职员B拿到钱之后,他会怎么办呢?他会通知顾客钱已经到柜台了,让顾客重新排队处理,当柜台职员再次服务该顾客时,发现该顾客前3步已经完成,直接执行第4步即可。

  我们可以算算通过这种方法,银行的吞吐量能提高到多少。

  假设职员B的工作非常饱和,柜台一个职员现在2分钟能处理完一个顾客,一个小时8名职员能处理:8*(60/2)=240。

  在当今web服务中,经常需要通过RPC或者Http等方式调用第三方服务,这里对应的就是第3步,如果这步耗时较长,通过异步方式将能极大降低资源使用率。

  jetty Continuations 就实现了上述异步方式,有兴趣的同学可以去尝试下(http://wiki.eclipse.org/Jetty/Feature/Continuations)。

  NIO+异步的方式能让少量的线程(资源)做大量的事情,这适用于很多应用场景,比如代理服务、api服务、长连接服务等等,这些应用如果用同步方式将耗费大量机器资源。尽管NIO+异步能提高系统吞吐量,但其并不能让一个请求的等待时间下降,相反可能会增加等待时间。

 4 小结

  总结就一句:“分而治之,将任务拆分开来,由专门的人负责专门的任务”,这不仅在计算机领域生效,在整个社会领域都生效。

时间: 2024-08-03 08:14:56

一个故事讲清楚NIO的相关文章

一个故事讲清楚NIO(转)

转载请引用:一个故事讲清楚NIO 假设某银行只有10个职员.该银行的业务流程分为以下4个步骤: 1) 顾客填申请表(5分钟): 2) 职员审核(1分钟): 3) 职员叫保安去金库取钱(3分钟): 4) 职员打印票据,并将钱和票据返回给顾客(1分钟). 我们看看银行不同的工作方式对其工作效率到底有何影响. 1 BIO方式 每来一个顾客,马上由一位职员来接待处理,并且这个职员需要负责以上4个完整流程.当超过10个顾客时,剩余的顾客需要排队等候. 我们算算这个银行一个小时到底能处理多少顾客?一个职员处

区块链:一个故事告诉你比特币的原理及运作机制

一个故事告诉你比特币的原理及运作机制 周末花时间看了一些比特币原理相关的资料,虽然不敢说把每个细节都完全搞懂了,不过整体思路和关键部分的主要原理还是比较明白.写一篇文章分享给大家.这篇文章的定位会比较科普,尽量用类比的方法将比特币的基本原理讲出来.这篇文章不会涉及算法和协议中比较细节的部分,打算后面会再写一篇程序员视角下的比特币原理,那里会从技术人员的视角对比特币系统中较为关键的数据结构.算法和协议进行一些讲解. 在这篇文章中我会给出一个虚拟的村庄叫"比特村",整个文章会以讲故事的方式

走近比特币:一个故事看懂“区块链”

本文讲的是走近比特币:一个故事看懂"区块链",区块链是比特币的底层技术和基础架构,本质上是一个去中心化的数据库.区块链是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一次比特币网络交易的信息,用于验证其信息的有效性(防伪)并生成下一个区块. 狭义来讲,区块链是一种按照时间顺序将数据区块以顺序相连的方式组合成的一 种链式数据结构, 并以密码学方式保证的不可篡改和不可伪造的分布式账本. 以上定义摘自百度百科.很多菜鸟朋友看完这段解释依然满脸懵逼,到底什么是"区块链&q

请听一个故事------>寒门再难出贵子

[7哥导读]本文是一位银行的HR写的,他工作了10年,接待了一群到银行实习的实习生,然后观察他们发生的一系列的故事.像小说,但比我们看过的小说更精彩:像现实,但比我们了解的现实更残酷.文章来源天涯社区,作者:永乐大帝二世. 一看标题就吸引了我,<寒门再难出贵子>.因为我出生在寒门,深刻理解作者为什么说寒门再难出贵子,如果你一会儿看到文章中治国的故事,你就可以联想到我.当然,理解不代表认同. 文章中的寒门,还不是家庭贫困,而是小城市.小城镇的学生.讲述了好几个残酷故事,应该是真实的故事.否则我不

请听一个故事------&amp;gt;百度员工离职总结:如何做个好员工

(本文转载于互联网:http://mp.weixin.qq.com/s?__biz=MzA3MDMyODYyOA==&mid=200222421&idx=1&sn=ee08905ff5a69fb6600e30a9694795e6&3rd=MzA3MDU4NTYzMw==&scene=6#rd) 2014年7月4日,我从百度离职了. 这是第一次,我不是因为和老板闹翻而离职: 这是第一次,我带着晋升的喜悦而离职: 这是第一次,我带着满满的收获而离职. 我曾经认为,我永远

《激战2》作者表示,魔兽世界的大部分活动并不能构成一个故事

5月25日消息,在接受国外媒体采访时,<激战2>的作者Ree Soebee表示,魔兽世界提供给玩家的大部分活动并不能构成一个故事. "我并不认为那些副本或者Raid活动与讲故事有任何关系.它不是.你陆续看到了更精彩的东西,但是你并没有真正的经历一个故事."她说. Soesbee重申了这个观点:"魔兽世界的剧情一般是你冲进了一个家伙的家里/巢里/城堡里,并击败他.这很酷,但它不是一个故事." 她看起来似乎玩魔兽世界比较多,并能够做出公正的判断:"

从一个故事开始谈项目与团队管理

先来听一个故事: 二战期间,英国国防部发现参战的飞机难免挨上高射机枪的枪子儿,受限于飞机重量和成本,他们只能在一处安装装甲增强防御力.但是在位置选择上犯了难:应该把装甲装在什么位置? 数学家对战斗中返回的战机作了一项统计,发现39%的弹孔在机翼上,60%在机身,1%在发动机部位.于是他们给出答案:装在发动机部位. 国防部官员们不得其解:不该是弹孔最多的机身上吗?数学家说,统计已经很清楚了,发动机中弹的飞机,大部分都飞不回来了.个人认为成功不可复制,失败或可避免:所有的成功都不是必然的:成功都一样

如何讲好一个故事 - by锤子手机活动策划负责人草威

在新浪创业训练营的课堂上,锤子科技营销团队首次对外公开分享:锤子科技的创意和营销是这么来做的. 以下为锤子科技创意策划负责人之一的草威,在新浪创业训练营上的分享实录整理: 大家好,我叫草威,在锤子科技主要负责活动策划,以及文案撰写工作. 今天想要分享的主题是:如何讲好一个故事. 实际上,我的老板罗永浩在很多次彻夜指导我工作的时候,反复跟我说:"为什么有这么多人喜欢看我们的发布会.关注度这么高?无非就是故事讲得好." 所以我们做营销和传播,其实就是在讲故事. 我同意他的这个观点,因为还没

请听一个故事------&amp;gt;你真的认为iPhone只是一部手机?苹果惊天秘密!!

在网上看到的一篇小说,感觉有点意思,转载过来大家一起围观下,作者很幽默很风趣. 导读:iPhone的隐藏功能!Jobs的军方身份!图灵服毒自杀的传奇故事!中兴华为的神秘背景! 你真的认为iPhone只是一部手机么?告诉你iPhone中的惊天秘密. 闲言不表,直奔主题.我是一个程序员,上周参加了一个开源软件交流大会,其实会上并没有听到什么新鲜的东西.但是在会中,偶然间听到了一个关于iphone的秘密,却着实令我震惊了,事情具体是这样的,听我慢慢道来. 大会是上午9:00点开始,主持人寒暄了一会,就