消息队列在测试开发中的应用思路

前言:
在面向企业级的运用中,各种中间件被广泛运用,对于多并发的应用,为了解决服务器处理性能的差异问题,普遍使用消息队列作为非实时性(或实时性)请求的转发与控制,一般可用来支持分布式请求系统、事务最终一致性,高吞吐系统,请求缓存池等架构方案。
将消息队列运用在测试工具开发过程中,带来更加健壮的服务性能以外,同时能带来更多的试用价值,本文从几个实例出发,抛砖引玉,探讨消息队列运用在测试工具开发过程中所带来的多重效益。

一:何为消息队列
1.一个人发送了一封短消息

简单的理解,消息队列就是我们通过移动网络向对方发送了一封短消息,短消息通过运营商网络发送到接收者,被对方读取。消息队列则是由生产者(消息的发送者)通过消息队列服务器向消费者发送一个带有主题的消息,消息体可以为字符串或者更多的数据结构,由消费者在消费端读取消息

Paste_Image.png

2.多种多样的订阅方式
不同于平时点多点发送短信的模式,消息队列可以在同一个topic之上被多人同时发送,也可以被同时读取。同时订阅时又分为全送达和仅一次送达。
全送到为每个订阅者都会收到这一封消息。
仅一次送达为对一份消息而言多个订阅者仅有一个可以收到消息,消息被消费后不可重复消费。

(1)点对点生产端发送一条消息通过路由投递到Queue,只有一个消费者能消费到。

(2)多订阅当RabbitMQ需要支持多订阅时,发布者发送的消息通过路由同时写到多个Queue,不同订阅组消费不同的Queue。所以支持多订阅时,消息会多个拷贝。

3.先入先出的消息机制
所有消息的发送依据先进先出原则,最先发送的消息最先被消费。

二:消息队列的优点

  1. 解耦

在项目启动之初来预测将来项目会碰到什么需求,是极其困难的。消息队列在处理过程中间插入了一个隐含的、基于数据的接口层,两边的处理过程都要实现这一接口。这允许你独立的扩展或修改两边的处理过程,只要确保它们遵守同样的接口约束。

  1. 冗余

有时在处理数据的时候处理过程会失败。除非数据被持久化,否则将永远丢失。消息队列把数据进行持久化直到它们已经被完全处理,通过这一方式规避了数据丢失风险。在被许多消息队列所采用的"插入-获取-删除"范式中,在把一个消息从队列中删除之前,需要你的处理过程明确的指出该消息已经被处理完毕,确保你的数据被安全的保存直到你使用完毕。

  1. 扩展性

因为消息队列解耦了你的处理过程,所以增大消息入队和处理的频率是很容易的;只要另外增加处理过程即可。不需要改变代码、不需要调节参数。扩展就像调大电力按钮一样简单。

  1. 灵活性 & 峰值处理能力**
    当你的应用上了Hacker News的首页,你将发现访问流量攀升到一个不同寻常的水平。在访问量剧增的情况下,你的应用仍然需要继续发挥作用,但是这样的突发流量并不常见;如果为以能处理这类峰值访问为标准来投入资源随时待命无疑是巨大的浪费。使用消息队列能够使关键组件顶住增长的访问压力,而不是因为超出负荷的请求而完全崩溃。请查看我们关于峰值处理能力的博客文章了解更多此方面的信息。
  2. 可恢复性**
    当体系的一部分组件失效,不会影响到整个系统。消息队列降低了进程间的耦合度,所以即使一个处理消息的进程挂掉,加入队列中的消息仍然可以在系统恢复后被处理。而这种允许重试或者延后处理请求的能力通常是造就一个略感不便的用户和一个沮丧透顶的用户之间的区别。
  3. 送达保证

消息队列提供的冗余机制保证了消息能被实际的处理,只要一个进程读取了该队列即可。在此基础上,IronMQ提供了一个"只送达一次"保证。无论有多少进程在从队列中领取数据,每一个消息只能被处理一次。这之所以成为可能,是因为获取一个消息只是"预定"了这个消息,暂时把它移出了队列。除非客户端明确的表示已经处理完了这个消息,否则这个消息会被放回队列中去,在一段可配置的时间之后可再次被处理。

7.排序保证

在许多情况下,数据处理的顺序都很重要。消息队列本来就是排序的,并且能保证数据会按照特定的顺序来处理。IronMO保证消息浆糊通过FIFO(先进先出)的顺序来处理,因此消息在队列中的位置就是从队列中检索他们的位置。

8.缓冲

在任何重要的系统中,都会有需要不同的处理时间的元素。例如,加载一张图片比应用过滤器花费更少的时间。消息队列通过一个缓冲层来帮助任务最高效率的执行--写入队列的处理会尽可能的快速,而不受从队列读的预备处理的约束。该缓冲有助于控制和优化数据流经过系统的速度。

  1. 理解数据流

在一个分布式系统里,要得到一个关于用户操作会用多长时间及其原因的总体印象,是个巨大的挑战。消息系列通过消息被处理的频率,来方便的辅助确定那些表现不佳的处理过程或领域,这些地方的数据流都不够优化。

  1. 异步通信

很多时候,你不想也不需要立即处理消息。消息队列提供了异步处理机制,允许你把一个消息放入队列,但并不立即处理它。你想向队列中放入多少消息就放多少,然后在你乐意的时候再去处理它们。

三、消息队列在测试研发中的运用

1.邮件发送平台
当多个系统同时需要发送邮件时,每个系统单独发送邮件无论对于系统管理,还是邮件送达管理都是需要更多的成本,利用消息队列不同的系统可以将邮件以消息的方式发送给消息队列,由邮件服务器统一消费,并对上游系统返回发送结果。服务化的模式开发使得多个项目的模块开发更加便捷

Paste_Image.png

2.任意网络穿透、公网穿透内网

对于测试开发过程中的网络问题,由于各种防火墙,或有外网访问内网需求时,可通过双向消息队列来实现便捷的服务访问和数据共享。由于消息队列千万级别/秒的吞吐量和毫秒级的发送速度,其穿透速度用户级别无感知。

3.高并发请求缓存

 在压测服务系统的设计中,为了增加吞吐和并发能力,需要架设压测集群,这时数据处理和性能统计会出现单点问题(如jmeter的设计,当分布式集群过大时,master压力过大而死机),可在压测执行机和性能统计机器之间架设消息队列,作为消息传输媒介的同时,让消息队列缓存数据,缓解性能统计机器的压力。

Paste_Image.png

时间: 2024-09-24 06:31:59

消息队列在测试开发中的应用思路的相关文章

Windows Server 2008 R2消息队列MSMQ测试

&http://www.aliyun.com/zixun/aggregation/37954.html">nbsp;   本帖透过 .NET 代码和 Windows 的图形界面,简单测试 Windows Server 2008 R2 中的 MSMQ (Microsoft Message Queue). 消息队列 (也称为 MQ),让在不同时间运行的应用程序,可在异类网络和可能暂时脱机的系统之间通讯.我们撰写的应用程序,可向队列发送消息,或从队列读取消息. 消息队列提供了以下好处:

OSSIM中分布式消息队列应用

 OSSIM中分布式消息队列应用   1. 消息队列处理 企业日志数量正在以指数级形式高速增长,日志数据的具有海量.多样.异构等特点,基于传统的单一节点混合式安装的OSSIM平台(指OSSIM 4.4及以下系统),无法满足海量日志分析要求.在OSSIM 4.4以后的系统中增加了中间件RabbitMQ,可通过RabbitMQ将系统中各组件解除耦合,避免了系统中运行模块的影响(例如MySQL的写操作等),这样设计可实现分布式日志分析平台的要求. OSSIM中使用RabbitMQ后,可以利用消息队列耦

基于条件变量的消息队列

     条件变量是线程之前同步的另一种机制.条件变量给多线程提供了一种会和的场所.当条件变量和互斥锁一起使用时,允许线程以无竞争的方式等待特定的条件发生.这样大大减少了锁竞争引起的线程调度和线程等待.      消息队列是服务器端开发过程中绕不开的一道坎,前面,我已经实现了一个基于互斥锁和三队列的消息队列,性能很不错.博客园中的其他园主也实现了很多基于环形队列和lock-free的消息队列,很不错,今天我们将要实现一个基于双缓冲.互斥锁和条件变量的消息队列:这个大概也参考了一下java的blo

云服务厂商都在推荐轻量级的存储队列服务,用来取代原有的比较重的消息队列服务

这个小玩意源于上周在研究Azure的时候,发现云服务厂商都在推荐轻量级的存储队列服务,用来取代原有的比较重的消息队列服务,具体来说,比如阿里云就推荐使用消息服务替代消息队列,在Azure中,就有一个轻量级的存储队列(Storage Queue)可以替代服务总线(Service Bus), 简单试用了一下Azure的Storage Queue后,发现这玩意很好用,于是决定全面的深入研究一下,再将公司电商系统内的相关任务处理均重构成使用存储队列服务,而深入研究得找个案例呀,于是就想到了做个分布式爬虫

基于条件变量的消息队列 说明介绍_C 语言

条件变量是线程之前同步的另一种机制.条件变量给多线程提供了一种会和的场所.当条件变量和互斥锁一起使用时,允许线程以无竞争的方式等待特定的条件发生.这样大大减少了锁竞争引起的线程调度和线程等待.      消息队列是服务器端开发过程中绕不开的一道坎,前面,我已经实现了一个基于互斥锁和三队列的消息队列,性能很不错.博客园中的其他园主也实现了很多基于环形队列和lock-free的消息队列,很不错,今天我们将要实现一个基于双缓冲.互斥锁和条件变量的消息队列:这个大概也参考了一下java的blocking

大型网站架构系列:分布式消息队列(一) (转)

以下是消息队列以下的大纲,本文主要介绍消息队列概述,消息队列应用场景和消息中间件示例(电商,日志系统). 本次分享大纲 消息队列概述 消息队列应用场景 消息中间件示例 JMS消息服务(见第二篇:大型网站架构系列:分布式消息队列(二)) 常用消息队列(见第二篇:大型网站架构系列:分布式消息队列(二)) 参考(推荐)资料(见第二篇:大型网站架构系列:分布式消息队列(二)) 本次分享总结(见第二篇:大型网站架构系列:分布式消息队列(二)) 一.消息队列概述 消息队列中间件是分布式系统中重要的组件,主要

大型网站架构系列:分布式消息队列(一)

以下是消息队列以下的大纲,本文主要介绍消息队列概述,消息队列应用场景和消息中间件示例(电商,日志系统). 本次分享大纲 消息队列概述 消息队列应用场景 消息中间件示例 JMS消息服务(见第二篇:大型网站架构系列:分布式消息队列(二)) 常用消息队列(见第二篇:大型网站架构系列:分布式消息队列(二)) 参考(推荐)资料(见第二篇:大型网站架构系列:分布式消息队列(二)) 本次分享总结(见第二篇:大型网站架构系列:分布式消息队列(二)) 一.消息队列概述 消息队列中间件是分布式系统中重要的组件,主要

消息队列入门(一)关于消息队列

1.什么是消息队列 消息是指在两个独立的系统间传递的数据,这两个系统可以是两台计算机,也可以是两个进程. 消息可以非常简单,可以是简单的字符串,也可以是保存了数据持久化的各种类型的文档集合. 队列是在消息的传输过程中的通道,是保存消息的容器,根据不同的情形,可以有先进先出,优先级队列等区别 . 2.为什么使用消息队列 个人觉得消息队列主要的意义是解耦和异步处理,以及在高并发场景下平滑短时间内大量的服务请求. 消息队列不仅被用于系统内部组件之间的通信,同时也被用于系统跟其它服务之间的交互. 消息队

世界级的安卓测试开发流!

在「世界级的安卓测试开发流 - 第一部分」,作者开始了安卓测试开发流的讨论.我们探讨了一个软件工程师开始编写测试,到发现测试开发中的相关问题的不断变化. 最后,得到了以下结论: 测试自动化对于软件开发的成功是至关重要的 可测试性代码对编写某些特定类型的测试是必须的 有些开发者在不确定测试内容和测试方法的情况下,就开始编写测试 测试的质量和可靠度通常达不到我们的期望 一个测试开发流对于定义测试内容和方法是必要的 因此,任何应用程序中测试的关键部分是: 业务逻辑的测试要独立于框架或库 测试服务器端的