测试集群

测试集群的部署情况需要使用的以下几个命令

  1. 创建topic命令
kafka-topics.sh --create --zookeeper xx.xx.xx.xx:2181 --replication-factor x --partitions x --topic name
  1. 创建product命令
/bin/kafka-console-producer.sh --broker-list localhost:9092 --topic topic1
  1. 创建consunmer命令
./bin/kafka-console-consumer.sh --zookeeper xx.xx.xx.106:2181 --topic topic1 --from-beginning
  1. 查看topic分布情况命令
/kafka-topics.sh --describe --topic topic1 --zookeeper xx.xx.xx.106:2181
  • 创建一个名为topic1 的topic 其分为三个partition 每个partition的replica为2 也就是每个分区有两个备份:
    ./bin/kafka-topics.sh --create --zookeeper xx.xx.xx.106:2181 --replication-factor 2 --partitions 3 --topic topic1
  • 查看这个topic的分布情况:
    bin/kafka-topics.sh --describe --topic topic1 --zookeeper xx.xx.xx.106:2181

如下图:

  • 然后在106启动一个product发送消息
    ./bin/kafka-console-producer.sh --broker-list localhost:9092 --topic topic1
  • 分别在107 和108 启动consumer来消费
    ./bin/kafka-console-consumer.sh --zookeeper xx.xx.xx.107:2181 --topic topic1 --from-beginning

./bin/kafka-console-consumer.sh --zookeeper xx.xx.xx.108:2181 --topic topic1 --from-beginning

  • 上面的启动命令是老的启动命令,最新的启动命令支持加入对应的配置文件启动,比如说:
    ./bin/kafka-console-consumer.sh --zookeeper xx.xx.xx.108:2181 --topic topic1 --from-beginning --consumer-property conf/consumer-properters
  • 到此集群搭建和测试都已经完成,接下来需需要进行的是了解配置文件和进行新能调优
时间: 2024-10-23 03:18:31

测试集群的相关文章

搭建mongodb3.4测试集群(没有副本)

搭建mongodb3.4.1测试环境分布式集群(无副本,5台server) mongodb是最常用的nodql数据库,在数据库排名中已经上升到了前六.这篇文章主要介绍如何搭建mongodb(5分片)集群,也会介绍一下高可用生产环境mongodb(5分片+副本)集群,我只是设计了5个server的生产环境集群的搭建方案,具体搭建过程大家自己探索一下. 在搭建集群之前,需要首先了解几个概念:路由,分片.副本集.配置服务器等. 从图中可以看到有四个组件:mongos.config server.sha

平台云基石-CoreOS之集群篇(无需互联网)

    官方文档中关于集群的配置需要在cloud-config.yaml中配置discovery,而我的实验环境没有外网.     Java代码   #cloud-config      coreos:     etcd:       # generate a new token for each unique cluster from https://discovery.etcd.io/new       discovery: https://discovery.etcd.io/<token>

在阿里云上部署生产级别Kubernetes集群

阿里云是国内非常受欢迎的基础云平台,随着Kubernetes的普及,越来越多的企业开始筹划在阿里云上部署自己的Kubernetes集群.本文将结合实战中总结的经验,分析和归纳一套在阿里云上部署生产级别Kubernetes集群的方法.文中所采取的技术方案具有一定的主观性,供各位读者参考.在实践中可以根据具体使用场景进行优化. 目标 当我们刚接触Kubernetes进行测试集群的搭建时,往往会选择一篇已有的教程,照着教程完成集群搭建.我们很少去质疑教程作者每一步操作的合理性,只想快点把集群搭建起来,

hadoop集群搭建详述

1.集群搭建策略 分析: 我手上只有3台电脑,两台华硕笔记本i7.i3的处理器,一台台式机Pentium4处理器.为了更好的测试zookeeper的功能, 我们总共需要6台ubuntu(Ubuntu 14.04.3 LTS)的主机.以下是我的主机分布策略: i7:开启4台ubuntu虚拟机分别是 虚拟机名 内存 硬盘 网络连接 master 1G 20G 桥接 master2 1G 20G 桥接 rm 512M 20G 桥接 slave3 1G 20G 桥接 i3: 安装ubuntu系统 ,作为

Redis3.0.6集群搭建

创建一个RedisCluster之前,我们需要有一些以cluster模式运行的Redis实例,这是因为cluster模式下Redis实例将会开启cluster的特征和命令. 现在我有2台Vbox搭建的CentOS6虚拟机[CentOS1(192.168.56.101)和CentOS2(192.168.56.102)],准备在此上搭建Redis集群. 由于最小的Redis集群需要3个Master节点,本次测试使用另外3个节点作为备份的节点(Replicas),于是此次搭建需要6个Redis实例.由

三天100元从零开始搭建Hadoop集群

    阿法狗把李昌镐都干掉了,不管是图形图片处理集群还是文字文本处理集群都将成为IT公司新一代的基础设施.公司准备先建立文字文本处理集群,即选择阿里E-MapReduce产品,快速搭建文本大数据处理系统,谋划公司新一代大数据处理架构,但是,初级阶段,不想为Hadoop的底层维护花费时间,集群维护一个工程师少说也要5K以上吧(四级城市),还有硬件和电费等等,公司决定先跑一个样本集群,再做下步谋划,以上也是很多公司对集群的态度吧.    创业阶段钱是精打细算了,阿里集群可以按时付费,最低每小时3.

如何在Ubuntu 16.04中安装Ceph存储集群

Ceph 是一个高性能.可靠.可扩展的开源存储平台.它是一个自由的分布式存储系统,提供了对象.块和文件级存储的接口,并可以不受单点故障的影响而运行. 在这个教程中,我将指导你在 Ubuntu 16.04 服务器上安装建立一个 Ceph 集群.Ceph 集群包括这些组件: Ceph OSD (ceph-osd) - 控制数据存储,数据复制和恢复.Ceph 集群需要至少两个 Ceph OSD 服务器.这次安装中我们将使用三个 Ubuntu 16.04 服务器. Ceph Monitor (ceph-

如何在 Ubuntu 16.04 中安装 Ceph 存储集群

Ceph 是一个高性能.可靠.可扩展的开源存储平台.它是一个自由的分布式存储系统,提供了对象.块和文件级存储的接口,并可以不受单点故障的影响而运行. 在这个教程中,我将指导你在 Ubuntu 16.04 服务器上安装建立一个 Ceph 集群.Ceph 集群包括这些组件: Ceph OSD (ceph-osd) - 控制数据存储,数据复制和恢复.Ceph 集群需要至少两个 Ceph OSD 服务器.这次安装中我们将使用三个 Ubuntu 16.04 服务器. Ceph Monitor (ceph-

MySQL高可用集群之MySQL-MMM

一.环境简述 1.工作逻辑图 2.MySQL-MMM优缺点 优点:高可用性,扩展性好,出现故障自动切换,对于主主同步,在同一时间只提供一台数据库写操作,保证的数据的一致性. 缺点:Monitor节点是单点,可以结合Keepalived实现高可用. 3.MySQL-MMM工作原理 MMM(Master-Master replication managerfor Mysql,Mysql主主复制管理器)是一套灵活的脚本程序,基于perl实现,用来对mysql replication进行监控和故障迁移,