CentOS 7部署Kafka和Kafka集群

CentOS 7部署Kafka和Kafka集群

注意事项

需要启动多个shell脚本交互客户端进行验证,运行中的客户端不要停止。

准备工作:

安装java并设置java环境变量,在`/etc/profile`中加入

export JAVA_HOME=/usr/java/jdk1.8.0_65
export PATH=$PATH:$JAVA_HOME/bin

安装kafka

  • 下载:wget http://mirrors.cnnic.cn/apache/kafka/0.10.0.1/kafka_2.10-0.10.0.1.tgz
  • 解压:tar -zxvf kafka_2.10-0.10.0.1.tgz
  • 移动到指定目录:mv kafka_2.10-0.10.0.1 /usr/local/kafka

功能验证

  • 启动zookeeper

/usr/local/kafka/bin/zookeeper-server-start.sh -daemon /usr/local/kafka/config/zookeeper.properties

  • 启动kafka服务

/usr/local/kafka/bin/kafka-server-start.sh /usr/local/kafka/config/server.properties

  • 创建topic

/usr/local/kafka/bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test

  • 产生消息

/usr/local/kafka/bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test

输入以下内容:

Hello world!
Hello Kafka!
  • 消费消息

/usr/local/kafka/bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test --from-beginning

如果能正常接收消息,则说明kafka配置成功

集群配置

单机多broker 集群配置

利用单节点部署多个broker。 不同的broker 设置不同的 id,监听端口及日志目录。 例如:

cp /usr/local/kafka/config/server.properties /usr/local/kafka/config/server-1.properties

编辑配置:

config/server-1.properties:
    broker.id=1
    port=9093
    log.dir=/tmp/kafka-logs-1

启动Kafka服务:

bin/kafka-server-start.sh config/server-1.properties &

启动多个服务,按上文类似方式产生和消费消息。

多机多broker 集群配置

分别在多个节点按上述方式安装Kafka,配置启动多个Zookeeper 实例。 例如: 在10.4.253.22,10.4.253.23,10.4.253.24三台机器部署,Zookeeper配置如下:

initLimit=5
syncLimit=2
server.1=10.4.253.22:2888:3888
server.2=10.4.253.23:2888:3888
server.3=10.4.253.24:2888:3888

分别配置多个机器上的Kafka服务 设置不同的broke id,zookeeper.connect设置如下:

zookeeper.connect=10.4.253.22:2181,10.4.253.23:2181,10.4.253.24:2181

启动Zookeeper与Kafka服务,按上文方式产生和消费消息,验证集群功能。

参考文档:

时间: 2024-10-01 08:05:59

CentOS 7部署Kafka和Kafka集群的相关文章

在阿里云上部署生产级别Kubernetes集群

阿里云是国内非常受欢迎的基础云平台,随着Kubernetes的普及,越来越多的企业开始筹划在阿里云上部署自己的Kubernetes集群.本文将结合实战中总结的经验,分析和归纳一套在阿里云上部署生产级别Kubernetes集群的方法.文中所采取的技术方案具有一定的主观性,供各位读者参考.在实践中可以根据具体使用场景进行优化. 目标 当我们刚接触Kubernetes进行测试集群的搭建时,往往会选择一篇已有的教程,照着教程完成集群搭建.我们很少去质疑教程作者每一步操作的合理性,只想快点把集群搭建起来,

CentOS 7下搭建高可用集群

CentOS 7下搭建高可用集群 本文以两台机器实现双集热备高可用集群,主机名node1的IP为192.168.122.168 ,主机名node2的IP为192.168.122.169 . 一.安装集群软件 必须软件pcs,pacemaker,corosync,fence-agents-all,如果需要配置相关服务,也要安装对应的软件 二.配置防火墙 1.禁止防火墙和selinux # systemctl disable firewalld # systemctl stop firewalld

weblogic12C 部署了一套集群,单独访问受管理服务,会跳转到代理服务。

问题描述 weblogic12C 部署了一套集群,单独访问受管理服务,会跳转到代理服务. 开始的时候我们部署了一套集群,通过代理Server分发请求. 现在我们部署了负载均衡设备,替代软件Proxy服务,向所有节点分发请求. 问题是受管理服务在访问中,有一部分情况会把地址重定向到集群的Proxy代理地址.导致无法打开. 请问如何配置可以取消受管理服务向代理服务的跳转?

在ubuntu上部署Kubernetes管理docker集群示例

本文通过实际操作来演示Kubernetes的使用,因为环境有限,集群部署在本地3个ubuntu上,主要包括如下内容: 部署环境介绍,以及Kubernetes集群逻辑架构 安装部署Open vSwitch跨机器容器通信工具 安装部署Etcd和Kubernetes的各大组件 演示Kubernetes管理容器和服务 关于 Kubernetes 系统架构及组件介绍见这里. 1. 部署环境及架构 vSphere: 5.1 操作系统: ubuntu 14.04 x86_64 Open vSwith版本: 2

Zookeeper的安装部署,zookeeper参数配置说明,集群搭建,查看集群状态

1.Zookeeper的安装部署 7.1 Zookeeper工作机制 7.1.1.Zookeeper集群角色 Zookeeper集群的角色:  Leader 和  follower (Observer) zk集群最好配成奇数个节点 只要集群中有半数以上节点存活,集群就能提供服务   7.2 Zookeeper部署 7.2.1 机器准备 1/ 安装到3台虚拟机上,准备的三台服务器地址是: C:\Windows\System32\drivers\etc\hosts中配置的内容如下:   192.16

10分钟自动部署Kubernetes1.6.1集群

Kubernetes是非常流行的容器管控平台,阿里云的容器服务团队为Kubernetes提供的基于阿里云服务的CloudProvider,让Kubernetes可以更好的和阿里云的计算资源深度集成,提供更好的性能和网络特性.本文主要目的是为大家提供一种非常简单的方法,在阿里云上部署Kubernetes集群. 本文所描述的部署过程基于阿里云资源编排服务(ROS),部署过程中会自动创建Kubernetes运行所需的VPC网络.安全组.子用户.ECS等资源,无需关注资源创建和安装细节.使大家能够非常简

波兰石油公司部署Panasas并行存储集群的成功案例

  概要     行业:石油和天然气 挑战:提供一种存储解决方案,即要能够满足不断增长的计算工作量对存储的需求又要不增加管理的复杂程度 方案:Panasas ActiveStor AS 3000系统,配有ActiveScale工作环境包括采用DirectFLOW协议的Panasas PanFS并行文件系统. 结果:地震资料处理工作的速度提高了6倍,提高了地球物理学家的生产效率,增加了工作的迭代次数且改善了成像结果和服务质量,提高了定位新能源储备和/或使现有油井产能最大化的成功概率.     挑战

CentOS redis集群部署 开启防火墙无法访问集群

问题描述 CentOS redis集群部署 开启防火墙无法访问集群 CentOS redis集群部署 开启防火墙无法访问集群 我现在是单机部署的一个伪集群,通过命令 redis-trib.rb check ip:端口 可以正常检测集群状态, 一旦我将iptables 防火墙 启动,就无法检测了~~这是为啥啊~ 还有一个问题 我用tomcat集群+redis 做session共享,也是一样,开启防火墙,就无法连接redis服务器 只要关闭防火墙,就一切正常~~ iptables 文件没问题,难道是

踏上kubernetes的第一步:集群环境部署介绍

一.简介    redhat 在今年9月份发布了k8s 和 etcd 的yum 源(redhat 7),我们下面都是基于redhat 7操作系统以yum来构建k8s集群,你也可以到github 下载kubernetes 进行安装部署   下面是k8s集群架构     二.架构部署    基本信息     2.1 etcd 安装配置(etcd)   安装etcd     配置 etcd配置文件   这里我直接使用脚本进行替换配置,也可以手工修改,主要是配置etcd地址,这里主要做演示,就不搭建et