kafka.common.ConsumerRebalanceFailedException异常解决

kafka.common.ConsumerRebalanceFailedException: group_dd-1446432618163-2746a209 can't rebalance after 10 retries
  at kafka.consumer.ZookeeperConsumerConnector$ZKRebalancerListener.syncedRebalance(ZookeeperConsumerConnector.scala:432)
  at kafka.consumer.ZookeeperConsumerConnector.kafka$consumer$ZookeeperConsumerConnector$$reinitializeConsumer(ZookeeperConsumerConnector.scala:722)
  at kafka.consumer.ZookeeperConsumerConnector.consume(ZookeeperConsumerConnector.scala:212)
  at kafka.javaapi.consumer.ZookeeperConsumerConnector.createMessageStreams(ZookeeperConsumerConnector.scala:80)
  at kafka.javaapi.consumer.ZookeeperConsumerConnector.createMessageStreams(ZookeeperConsumerConnector.scala:92)
  at com.symboltech.mine.ConsumerUtil.start(ConsumerUtil.java:40)
  at com.symboltech.mine.KafkaConsumer.sdf(KafkaConsumer.java:58)

解决办法:
1.配置zk问题(kafka的consumer配置)
zookeeper.session.timeout.ms=5000
zookeeper.connection.timeout.ms=10000
rebalance.backoff.ms=2000
rebalance.max.retries=10

官方解释:
consumer rebalancing fails (you will see ConsumerRebalanceFailedException): This is due to conflicts when two consumers are trying to own the same topic partition. The log will show you what caused the conflict (search for "conflict in ").
If your consumer subscribes to many topics and your ZK server is busy, this could be caused by consumers not having enough time to see a consistent view of all consumers in the same group. If this is the case, try Increasing rebalance.max.retries and rebalance.backoff.ms.
Another reason could be that one of the consumers is hard killed. Other consumers during rebalancing won't realize that consumer is gone after zookeeper.session.timeout.ms time. In the case, make sure that rebalance.max.retries * rebalance.backoff.ms > zookeeper.session.timeout.ms.

时间: 2024-10-27 22:54:55

kafka.common.ConsumerRebalanceFailedException异常解决的相关文章

【hibernate框架】hibernate遇到的几个异常解决

  今天使用hibernate3.6.5自己配置jar lib,在测试时遇到了几个异常如下: 1.java.lang.NoSuchFieldError: INSTANCE       解决:删除hibernate-annotations.jar. 2.java.lang.ClassCastException: org.hibernate.annotations.common.reflection.java.JavaReflectionManager cannot be cast to org.h

win7系统应用程序发生异常解决方法

  win7系统应用程序发生异常解决方法.不少小伙伴在使用win7的过程中发现安装软件或者使用程序的时候会发生应用程序发生异常 unknown software exception(0x80000004)的问题,那么要如何解决呢?下面就让小编为大家做个解答. 应用程序发生异常 应用程序发生异常 unknown software exception(0x80000004)的原因:一般是程序出现不可避免的内存地址错误. 解决方法1:通过系统还原到不出现这个错误时的节点进行还原系统. 解决方法2:你最

directx未知错误异常解决技巧

  一般来说,遇到Directx异常,主要是由于Directx相关文件遭到破坏导致,可以尝试使用DirectX修复工具解决,具体方法如下. 1.下载Directx修复工具,下载后解压文件,然后点击目录的Directx Repair运行程序进行修复即可,如图. 2.如果使用DirectX修复工具无法解决问题,可以尝试更新显卡驱动试试. 更新显卡驱动操作比较简单,在有网络的情况下,可以借助驱动精灵.鲁大师.驱动人生等工具进行检测更新,如果有显卡驱动可用更新,可以尝试在线更显显卡驱动解决. Direc

AsyncHttpClient 中的重定向和 setEnableRedirects 方法异常解决

今天使用 AsyncHttpClient  开源库,遇到个很崩溃的问题: 方法  setEnableRedirects(false); 从名称上看应该是重定向开关的方法,设置为 false 后则普通请求正常,但是遇到重定向则停止请求,还算正常(文章末尾会谈到这里会遇到另一个 BUG 的情况) 但当设置为  setEnableRedirects(true);  按理说应该是对于 301.302 重定向将进行跟随重定向进行请求的,但却出现各种异常和乱七八糟的问题,不论是普通请求还是重定向的请求全是 

SVN Attempted to lock an already-locked dir异常解决方法

Attempted to lock an already-locked dir异常解决方法 eclipse或myeclipse用svn提交的时候报错: Attempted to lock an already-locked dir svn: Working copy 'D:/Program Files/MyEclipse 6.6flex/workspace/emis/WebRoot/emis/emresource' locked org.tigris.subversion.javahl.Clie

.net-ADO.NET使用三层架构实现用户登录出现错误,提示未定义Common,怎么解决

问题描述 ADO.NET使用三层架构实现用户登录出现错误,提示未定义Common,怎么解决 using System; using System.Collections; using System.Configuration; using System.Data; using System.Linq; using System.Web; using System.Web.Security; using System.Web.UI; using System.Web.UI.HtmlControls

[Domino]“java.lang.ClassCastException:lotus.domino.cso.Item”异常解决办法

[Domino] "java.lang.ClassCastException:lotus.domino.cso.Item" 异常解决办法 编写者 日期 关键词 郑昀@ultrapower 2005-6 Java Domino RichTextItem   现象 通过Domino的Document.getFirstItem("Body")是可以获取当前邮件的Body字段,并试图直接转换为RichTextItem类型,从而访问该邮件的附件. 但是,有时候这个转换得到了下

Android ListView出现异常解决办法_Android

Android ListView 异常解决办法: ListView:The content of the adapter has changed but ListView did not receive a notification使用ListView时遇到如下的异常信息: 10-26 18:30:45.085: E/AndroidRuntime(7323): java.lang.IllegalStateException: The content of the adapter has chan

连接池和 Timeout expired异常解决方法

连接池和 timeout expired异常解决方法 你需要保证你每次调用连接的同时都在使用过后通过close()或dispose()对其执行了关闭.最简单的办法就是使用using,将你的连接泄漏方法修改成如下面的代码样式: public void doesnotleakconnections()     {            using (sqlconnection sqlconnection1 = new sqlconnection("server=.sqlexpress ;integr