为什么logstash进程的CPU使用率100%？

机器上有个进程cpu使用率很高，近100%了，

Tasks: 120 total, 2 running, 118 sleeping, 0 stopped, 0 zombie
%Cpu(s): 99.0 us, 0.7 sy, 0.0 ni, 0.0 id, 0.0 wa, 0.3 hi, 0.0 si, 0.0 st
KiB Mem: 4048308 total, 3301480 used, 746828 free, 33500 buffers
KiB Swap: 0 total, 0 used, 0 free. 149784 cached Mem
PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND
18400 admin 20 0 2201508 304712 3948 S 98.1 7.5 17335:45 java
17782 root 20 0 3130780 893164 4476 S 0.7 22.1 120:19.01 java
7 root 20 0 0 0 0 S 0.3 0.0 4:01.17 rcu_sched
1114 root 20 0 154200 9676 2360 S 0.3 0.2 40:41.38 AliYunDun

看下这个进程是干什么的，发现是logstash的一个进程，这个进程的作用是从kafka读取数据，并将数据写入到elasticsearch。


cat /proc/18400/cmdline | sed -e 's/\x00/ /g'
/opt/dtstack/java/bin/java
-XX:+UseParNewGC -XX:+UseConcMarkSweepGC -Djava.awt.headless=true
-XX:CMSInitiatingOccupancyFraction=75
-XX:+UseCMSInitiatingOccupancyOnly -XX:+HeapDumpOnOutOfMemoryError
-Xmx128m -Xss2048k
-Djffi.boot.library.path=/opt/dtstack/logstash-2.1.1/vendor/jruby/lib/jni
-XX:+UseParNewGC -XX:+UseConcMarkSweepGC -Djava.awt.headless=true
-XX:CMSInitiatingOccupancyFraction=75 -XX:+UseCMSInitiatingOccupancyOnly
-XX:+HeapDumpOnOutOfMemoryError
-XX:HeapDumpPath=/opt/dtstack/logstash/heapdump.hprof
-Xbootclasspath/a:/opt/dtstack/logstash-2.1.1/vendor/jruby/lib/jruby.jar
-classpath : -Djruby.home=/opt/dtstack/logstash-2.1.1/vendor/jruby
-Djruby.lib=/opt/dtstack/logstash-2.1.1/vendor/jruby/lib
-Djruby.script=jruby
-Djruby.shell=/bin/sh org.jruby.Main
--1.9 /opt/dtstack/logstash/lib/bootstrap/environment.rb logstash/runner.rb agent
-f /home/admin/logstash/dtlog/conf/logindexer-kafka.conf
-l /home/admin/logstash/dtlog/log/logindexer-kafka.log

看一下是哪个线程CPU消耗得厉害，可以使用top的-H选项查看线程的情况，使用-p选择指定pid。

发现有个command是kafka的线程cpu使用率一直很高。

top -H -p 18400
top - 12:08:19 up 19 days, 57 min, 4 users, load average: 1.04, 1.19, 1.26
Threads: 31 total, 1 running, 30 sleeping, 0 stopped, 0 zombie
%Cpu(s): 99.0 us, 0.7 sy, 0.0 ni, 0.0 id, 0.0 wa, 0.3 hi, 0.0 si, 0.0 st
KiB Mem: 4048308 total, 3321036 used, 727272 free, 36228 buffers
KiB Swap: 0 total, 0 used, 0 free. 167372 cached Mem
PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND
18435 admin 20 0 2201508 304920 4120 R 97.9 7.5 17276:37
17837 admin 20 0 2201508 304920 4120 S 0.3 7.5 27:30.14
18400 admin 20 0 2201508 304920 4120 S 0.0 7.5 0:00.00 java
18413 admin 20 0 2201508 304920 4120 S 0.0 7.5 1:58.54 LogStash::Runne
18414 admin 20 0 2201508 304920 4120 S 0.0 7.5 0:00.00 java
18415 admin 20 0 2201508 304920 4120 S 0.0 7.5 0:23.43 java
18416 admin 20 0 2201508 304920 4120 S 0.0 7.5 1:42.88 java
18417 admin 20 0 2201508 304920 4120 S 0.0 7.5 0:00.35 java
18418 admin 20 0 2201508 304920 4120 S 0.0 7.5 0:00.00 java

可以使用jstack看看线程的调用栈，不过里面的内容没看明白。


jstack -F 18400 > tmp1.log
grep -A 50 18435 tmp1.log
Thread 18435: (state = IN_JAVA)

  • org.jruby.runtime.callsite.CachingCallSite.call(org.jruby.runtime.ThreadContext, org.jruby.runtime.builtin.IRubyObject, org.jruby.runtime.builtin.IRubyObject) @bci=36, line=134 (Compiled frame; information may be imprecise)
  • org.jruby.ast.CallNoArgNode.interpret(org.jruby.Ruby, org.jruby.runtime.ThreadContext, org.jruby.runtime.builtin.IRubyObject, org.jruby.runtime.Block) @bci=18, line=60 (Compiled frame)
  • org.jruby.ast.WhileNode.interpret(org.jruby.Ruby, org.jruby.runtime.ThreadContext, org.jruby.runtime.builtin.IRubyObject, org.jruby.runtime.Block) @bci=23, line=127 (Compiled frame)
  • org.jruby.ast.NewlineNode.interpret(org.jruby.Ruby, org.jruby.runtime.ThreadContext, org.jruby.runtime.builtin.IRubyObject, org.jruby.runtime.Block) @bci=41, line=105 (Compiled frame)
  • org.jruby.ast.BlockNode.interpret(org.jruby.Ruby, org.jruby.runtime.ThreadContext, org.jruby.runtime.builtin.IRubyObject, org.jruby.runtime.Block) @bci=33, line=71 (Compiled

到网上找找看是否有别人遇到这个问题，搜索关键词

logstash kafka cpu high

发现还真有人遇到过这个问题：

http://stackoverflow.com/questions/34486960/logstash-kafka-input-filter-with-high-cpu-usage

The logstash-input-kafka plugin had a bug in its tight loop which unnecessarily checked for an empty queue and skipped to the next iteration instead of blocking.

This has been fixed in this pull request and version 2.0.3 of the plugin has been released with it.

To test this, please update the plugin using:

bin/plugin install --version 2.0.3 logstash-input-kafka

查看我们机器上安装的plugin版本，

$ /opt/dtstack/logstash/bin/plugin list --verbose kafka
logstash-input-kafka (2.0.2)
logstash-output-kafka (2.0.1)

升级一下版本试试

$ /opt/dtstack/logstash/bin/plugin install logstash-input-kafka-2.0.3.gem
Validating logstash-input-kafka-2.0.3.gem
Installing logstash-input-kafka
Installation successful
$ /opt/dtstack/logstash/bin/plugin list --verbose kafka
logstash-input-kafka (2.0.3)
logstash-output-kafka (2.0.1)

CPU使用率恢复正常了。

时间： 2024-09-17 04:13:19

为什么logstash进程的CPU使用率100%？的相关文章

explorer.exe进程造成CPU使用率占用100%

问:我的电脑explorer.exe进程造成CPU使用率占用100%,我应该怎么办? 答:在system.ini文件中,在[BOOT]下面有个"shell=文件名".正确的文件名应该是"explorer.exe",假如不是"explorer.exe",而是"shell= explorer.exe 程序名",那幺后面跟着的那个程序就是"木马"程序,就是说你已经中"木马"了. 在注册表中的情

CPU使用率100%怎么解决？

我们在使用WindowsXP操作系统的时候,用着用着系统就变慢了,一看"任务管理器"才发现CPU占用达到100%.这是怎么回事情呢?遇到病毒了,硬件有问题,还是系统设置有问题,在本文中笔者将从硬件,软件和病毒三个方面来讲解系统资源占用率为什么会达到100%. 经常出现CPU占用100%的情况,主要问题可能发生在下面的某些方面: CPU占用率高的九种可能 1.防杀毒软件造成故障 由于新版的KV.金山.瑞星都加入了对网页.插件.邮件的随机监控,无疑增大了系统负担.处理方式:基本上没有合理的

cpu使用率100%怎么办

  cpu使用率100%怎么办  首先我们需要打开任务管理器,然后查看是哪个进程的导致使用率达到100%,根据不同的进程再作出相应的解决方法. 鼠标右击任务栏空白处,打开的右键菜单单击"任务管理器"或直接按"Ctrl+Alt+Del"组合键来打开任务管理器 打开的"Windows 任务管理器"窗口切换到"进程"选项卡,在这里就可以看到CPU的使用率 正常软件造成CPU使用率占用100%.可调成任务管理器结果该进程,然后升级或重

Win7系统CPU使用率100怎么办？

  Win7系统CPU使用率100怎么办?1.按下键盘的"Ctrl+alt+del"组合键,打开任务管理器,或者在任务栏上点击鼠标右键,启动任务管理器,两种方法都是可以进行操作的. 2.任务管理器界面,点击进程打开,然后我们选择占用CPU非常高的进程,然后关闭进程,这样可以降低CPU的使用率,这里每个进程都有具体的介绍,将一些自己确定不使用但是还非常占用CPU进程关闭,这里一些系统进程不要关闭比如,SVCHOST.EXE进程. 3.性能里面,我们可以监视CPU的使用率.打开资源监视器.

分享CPU使用率100%的解决方法【图】

在开启一些游戏或者大型软件的时候,CPU使用率很容易达到100%,导致电脑运行速度很慢,甚至出现卡机,假死,蓝屏等状况,那么CPU使用率100%是什么原因造成的呢?CPU使用率100%怎么解决呢?     CPU使用率100%的几种可能: 1.CPU型号老旧,处理能力差; 有的电脑开十几个网页就会出现假死,这是因为现在网页中一般含有大量flash或者js代码,这些东西看上去没有多大,但是跟图片或者文字相比,需要数倍甚至十几倍的计算量,会占用大量CPU资源. 2.开启的软件过多,尤其是大型软件,例

centos-LAMP 服务器CPU使用率100%，只能重启服务器，怎么办

问题描述 LAMP 服务器CPU使用率100%,只能重启服务器,怎么办 服务器是LAMP的,时常会cpu使用率100%,用的ShopNC系统.CPU 100%时登陆不上服务器,只能重启服务器.重启后就正常了.请问各位大神,这是什么问题,怎么解决?跪求啦 -_-

WindowsXP系统CPU使用率100%解决办法

  经常出现CPU占用100%的情况,主要问题可能发生在下面的某些方面: CPU占用率高的九种可能 1.防杀毒软件造成故障 由于新版的KV.金山.瑞星都加入了对网页.插件.邮件的随机监控,无疑增大了系统负担.处理方式:基本上没有合理的处理方式,尽量使用最少的监控服务吧,或者,升级你的硬件配备. 2.驱动没有经过认证,造成CPU资源占用100% 大量的测试版的驱动在网上泛滥,造成了难以发现的故障原因.处理方式:尤其是显卡驱动特别要注意,建议使用微软认证的或由官方发布的驱动,并且严格核对型号.版本.

C#得到所有进程的CPU使用率

问题描述 就像这样怎么得到各个pid的cpu使用率啊 解决方案

cpustat：在Linux下根据运行的进程监控CPU使用率

cpustat 是 Linux 下一个强大的系统性能测量程序,它用 Go 编程语言 编写.它通过使用 "用于分析任意系统的性能的方法(USE)",以有效的方式显示 CPU 利用率和饱和度. 它高频率对系统中运行的每个进程进行取样,然后以较低的频率汇总这些样本.例如,它能够每 200ms 测量一次每个进程,然后每 5 秒汇总这些样本,包括某些度量的最小/平均/最大值(min/avg/max). 推荐阅读: 监控 Linux 性能的 20 个命令行工具 cpustat 能用两种方式输出数据