Java理论与实践: 线程池与工作队列

为什么要用线程池?

诸如 Web 服务器、数据库服务器、文件服务器或邮件服务器之类的许多服务 器应用程序都面向处理来自某些远程来源的大量短小的任务。请求以某种方式到 达服务器,这种方式可能是通过网络协议(例如 HTTP、FTP 或 POP)、通过 JMS 队列或者可能通过轮询数据库。不管请求如何到达,服务器应用程序中经常 出现的情况是:单个任务处理的时间很短而请求的数目却是巨大的。

构建服务器应用程序的一个过于简单的模型应该是:每当一个请求到达就创 建一个新线程,然后在新线程中为请求服务。实际上,对于原型开发这种方法工 作得很好,但如果试图部署以这种方式运行的服务器应用程序,那么这种方法的 严重不足就很明显。每个请求对应一个线程(thread-per-request)方法的不足 之一是:为每个请求创建一个新线程的开销很大;为每个请求创建新线程的服务 器在创建和销毁线程上花费的时间和消耗的系统资源要比花在处理实际的用户请 求的时间和资源更多。

除了创建和销毁线程的开销之外,活动的线程也消耗系统资源。在一个 JVM 里创建太多的线程可能会导致系统由于过度消耗内存而用完内存或“切换过度” 。为了防止资源不足,服务器应用程序需要一些办法来限制任何给定时刻处理的 请求数目。

线程池为线程生命周期开销问题和资源不足问题提供了解决方案。通过对多 个任务重用线程,线程创建的开销被分摊到了多个任务上。其好处是,因为在请 求到达时线程已经存在,所以无意中也消除了线程创建所带来的延迟。这样,就 可以立即为请求服务,使应用程序响应更快。而且,通过适当地调整线程池中的 线程数目,也就是当请求的数目超过某个阈值时,就强制其它任何新到的请求一 直等待,直到获得一个线程来处理为止,从而可以防止资源不足。

线程池的替代方案

线程池远不是服务器应用程序内使用多线程的唯一方法。如同上面所提到的 ,有时,为每个新任务生成一个新线程是十分明智的。然而,如果任务创建过于 频繁而任务的平均处理时间过短,那么为每个任务生成一个新线程将会导致性能 问题。

另一个常见的线程模型是为某一类型的任务分配一个后台线程与任务队列。 AWT 和 Swing 就使用这个模型,在这个模型中有一个 GUI 事件线程,导致用户 界面发生变化的所有工作都必须在该线程中执行。然而,由于只有一个 AWT 线 程,因此要在 AWT 线程中执行任务可能要花费相当长时间才能完成,这是不可 取的。因此,Swing 应用程序经常需要额外的工作线程,用于运行时间很长的、 同 UI 有关的任务。

每个任务对应一个线程方法和单个后台线程(single-background-thread) 方法在某些情形下都工作得非常理想。每个任务一个线程方法在只有少量运行时 间很长的任务时工作得十分好。而只要调度可预见性不是很重要,则单个后台线 程方法就工作得十分好,如低优先级后台任务就是这种情况。然而,大多数服务 器应用程序都是面向处理大量的短期任务或子任务,因此往往希望具有一种能够 以低开销有效地处理这些任务的机制以及一些资源管理和定时可预见性的措施。 线程池提供了这些优点。

工作队列

就线程池的实际实现方式而言,术语“线程池”有些使人误解,因为线程池 “明显的”实现在大多数情形下并不一定产生我们希望的结果。术语“线程池” 先于 Java 平台出现,因此它可能是较少面向对象方法的产物。然而,该术语仍 继续广泛应用着。

虽然我们可以轻易地实现一个线程池类,其中客户机类等待一个可用线程、 将任务传递给该线程以便执行、然后在任务完成时将线程归还给池,但这种方法 却存在几个潜在的负面影响。例如在池为空时,会发生什么呢?试图向池线程传 递任务的调用者都会发现池为空,在调用者等待一个可用的池线程时,它的线程 将阻塞。我们之所以要使用后台线程的原因之一常常是为了防止正在提交的线程 被阻塞。完全堵住调用者,如在线程池的“明显的”实现的情况,可以杜绝我们 试图解决的问题的发生。

我们通常想要的是同一组固定的工作线程相结合的工作队列,它使用 wait() 和 notify() 来通知等待线程新的工作已经到达了。该工作队列通常被实现成具 有相关监视器对象的某种链表。清单 1 显示了简单的合用工作队列的示例。尽 管 Thread API 没有对使用 Runnable 接口强加特殊要求,但使用 Runnable 对 象队列的这种模式是调度程序和工作队列的公共约定。

时间: 2024-10-01 05:48:08

Java理论与实践: 线程池与工作队列的相关文章

Java理论与实践专题

Java理论与实践: JDK 5.0中更灵活.更具可伸缩性的锁定机制 Java理论和实践: 一个有缺陷的微基准的剖析 Java理论和实践: 理解JTS ― 平衡安全性和性能 Java理论和实践: 理解JTS ― 幕后魔术 Java理论和实践: 安全构造技术 Java理论与实践: 平衡测试,第3部分:用方面检验设计约束 Java理论与实践:平衡测试,第2部分:编写和优化bug检测器 Java理论与实践:平衡测试,第1部分:不要仅编写测试,还要编写bu Java理论与实践: 您的小数点到哪里去了?

Java 理论与实践: 非阻塞算法简介

[本文转载自Java 理论与实践: 非阻塞算法简介]Java 5.0 第一次让使用 Java 语言开发非阻塞算法成为可能,java.util.concurrent 包充分地利用了这个功能.非阻塞算法属于并发算法,它们可以安全地派生它们的线程,不通过锁定派生,而是通过低级的原子性的硬件原生形式 -- 例如比较和交换.非阻塞算法的设计与实现极为困难,但是它们能够提供更好的吞吐率,对生存问题(例如死锁和优先级反转)也能提供更好的防御.在这期的 Java 理论与实践 中,并发性大师 Brian Goet

Java 理论与实践: 处理 InterruptedException(转)

  很多 Java 语言方法,例如 Thread.sleep() 和 Object.wait(),都可以抛出InterruptedException.您不能忽略这个异常,因为它是一个检查异常(checked exception).但是应该如何处理它呢?在本月的 Java 理论与实践中,并发专家 Brian Goetz 将解释 InterruptedException 的含义,为什么会抛出 InterruptedException,以及在捕捉到该异常时应该怎么做. 这样的情景您也许并不陌生:您在编

Java 理论与实践:变还是不变?

不变对象具有许多能更方便地使用它们的特性,包括不严格的同步需求和不必考虑数据讹误就能自由地共享和高速缓存对象引用.尽管不变性可能未必对于所有类都有意义,但大多数程序中至少有一些类将受益于不可变.在本月的 Java 理论与实践中,Brian Goetz 说明了不变性的一些长处和构造不变类的一些准则.请在附带的论坛中与作者和其他读者分享您关于本文的心得.(也可以单击文章顶部或底部的"讨论"来访问论坛.) 不变对象是指在实例化后其外部可见状态无法更改的对象.Java 类库中的 String.

Java 理论与实践: JDK 5.0 中更灵活、更具可伸缩性的锁定机制

伸缩 内容: synchronized 快速回顾 对 synchronized 的改进 比较 ReentrantLock 和 synchronized 的可伸缩性 条件变量 这不公平 结束语 参考资料 关于作者 对本文的评价 相关内容: Java 理论与实践 系列 Synchronization is not the enemy Reducing contention IBM developer kits for the Java platform (downloads) 订阅: develop

Java理论与实践: 构建一个更好的HashMap

ConcurrentHashMap 是 Doug Lea的 util.concurrent 包的一部分,它提供 比Hashtable 或者 synchronizedMap 更高程度的并发性.而且,对于大多数成 功的 get() 操作它会设法避免完全锁定,其结果就是使得并发应用程序有着非 常好的吞吐量.这个月,BrianGoetz 仔细分析了 ConcurrentHashMap的代码, 并探讨 Doug Lea 是如何在不损失线程安全的情况下取得这么骄人成绩的. 在7月份的那期 Java理论与实践

Java理论与实践: 让J2EE脱离容器

在大多数情况下,Java 应用程序要么是 J2EE 应用程序.要么是 J2SE 应用 程序,并且在这一点上是泾渭分明的.J2EE 应用程序需要 J2EE 容器的服务, 容器要实现一长串的 J2EE API,包括 Enterprise JavaBean (EJB).JTA.JNDI .JMS.JCA 和 JMX.J2EE API 设计为协同工作:毕竟,J2EE 设计是从多年来 数百人开发企业应用程序的经验中提取出的公共需求.像所有框架一样,J2EE API 的主要目的是"不重新发明轮子"

Java理论与实践: 消除bug

很多有关编程风格的建议都是为了创建高质量.可维护的代码,这很合理, 因为最容易修复 bug 的时间就是在产生 bug 之前(少量的预防措施--).遗 憾的是,只预防往往是不够的,虽然有一些精巧的工具可以帮助您创建好的代码 ,但是很少有工具可以帮助您分析.维护或提高现有代码的质量. 写线程安全的类很难,而分析现有类的线程安全性更难,增强类使其仍然保 持线程安全也很难.以隐含假定.不变式以及预期用例(虽然在开发人员的头脑 中很清晰,但是没有以设计笔记.注释或者文档的方式记录下来)的方式编写完 类之后

Java理论与实践: 修复Java内存模型,第1部分

活跃了将近三年的 JSR 133,近期发布了关于如何修复 Java 内存模型 (Java Memory Model, JMM)的公开建议.原始 JMM 中有几个严重缺陷,这导 致了一些难度高得惊人的概念语义,这些概念原来被认为很简单,如 volatile .final 以及 synchronized.在这一期的 Java 理论与实践 中,Brian Goetz 展示了如何加强 volatile 和 final 的语义,以修复 JMM.这些更改有些已经 集成在 JDK 1.4 中:而另一些将会包含