企业日志分析之Linux系统message收集展示

之前写了收集Linux系统历史history命令,下面介绍一下系统里日志收集与展示的内容。

老规矩,先看效果,满意的话继续看。

一、效果图

1.总览

2.linux系统日志收集数据总量

主要是展示所选范围内容收集日志总量。

3.linux系统日志收集主机数

主要是展示当前总共有多少台主机上传了message日志数据。

4.linux系统日志程序类型Top5

主要是展示收集的日志信息里前5个程序名;我这5个都是docker服务器,所以docker日志有很多。

5.linux系统日志时间数据总量图

主要是展示每个时间段收集的数据量。

6.linux系统日志数据

主要是展示详细的日志数据。

安装elk的过程可以参考上一篇,地址是http://os.51cto.com/art/201510/494137.htm。

二、收集日志

我收集的是系统/var/log/messages日志,然后通过rsyslog的tcp 8514端口发给logstash。

1.配置rsyslog

默认rsyslog都安装了,所以只需要修改配置。

在/etc/rsyslog.conf里添加:


  1. *.* @@localhost:8514 

然后重启rsyslog。

2.配置logstash


  1. [root@puppet tmp]# cat /etc/logstash/conf.d/logstash_agent.conf  
  2. input {  
  3. tcp {  
  4. port => "8514"  
  5. type => "syslog"  
  6. }  
  7.  
  8. filter {  
  9. if [type] == "syslog" {  
  10. grok {  
  11. match => { "message" => "%{SYSLOGTIMESTAMP:syslog_timestamp} %{SYSLOGHOST:syslog_hostname} %{DATA:syslog_program}(?:\[%{POSINT:syslog_pid}\])?: %{GREEDYDATA:syslog_message}" } 
  12.  }  
  13. }  
  14.  
  15. output {  
  16. redis {  
  17. host => ["10.10.125.8:6379"]  
  18. data_type =>"list"  
  19. key => "logstash:redis"  
  20. }  

3.导入模板

导入顺序:

(1)Linux系统日志试图.json

(2)Linux系统日志搜索.json

(3)Linux系统日志Dashboard.json

其他的有问题可以留言。

作者:吟—技术交流

来源:51CTO

时间: 2024-07-30 11:43:16

企业日志分析之Linux系统message收集展示的相关文章

ELK前端日志分析、监控系统

前端日志与后端日志不同,具有很强的自定义特性,不像后端的接口日志.服务器日志格式比较固定,大部分成熟的后端框架都有非常完善的日志系统,借助一些分析框架,就可以实现日志的监控与分析,这也是运维工作的一部分. 什么是ELK ELK在服务器运维界应该是运用的非常成熟了,很多成熟的大型项目都使用ELK来作为前端日志监控.分析的工具. 那么首先,我们来了解下什么是ELK,ELK实际上是三个工具的集合: E:Elasticsearch L:Logstash K:Kibana 这三个工具各司其职,最终形成一整

linux 死机日志分析_unix linux

系统出现死机,一般分为两种情况:一是硬件问题:二是软件问题.  一.硬件问题  可以考虑分析以下几点:  1.不要超频CPU,如果已经超频的先回复到原来的频率  虽然平时运行没有问题,但可能在高负载的使用中就会出现不可预料的故障了.特别是linux系统在某些应用上,是可以把硬件的性能发挥到极限的,但这样的硬件运行Windows可能是没有问题的.  2.确认电源供电充足  必须确保在高负载的状态下,电源可以满足负载.  3.使用memtest86检查内存状态  4.恢复BIOS到默认状态  对于服

简单高效:用Swatch做Linux日志分析_unix linux

日志文件是我们发现系统问题的重要参考信息. 大部分的系统服务出现问题时都会给syslogd(系统日志守护进程)发送消息. 然后用户发觉并根据错误提示信息采取行动. 然而对于1000行以上的日志文件, 我们必须使用日志检查工具节省时间和避免漏掉重要信息. Swatch从字面上可以简单理解为Watcher(守护者). 其它的日志分析软件定期地扫描日志文件, 向你报告系统已经发生的问题或者状况. Swatch程序不仅能够做这些, 而且它能够像Syslogd守护程序那样主动的扫描日志文件并对特定的日志消

Linux系统如何在企业服务器上使用

  论微软系统和Linux系统的优劣点分析,很多人都道不出个所以然来,因为现在市面上还是微软系统的使用率高一点,尤其是私人电脑和家庭笔记本,大多使用的微软的系统,加上微软的系统一直都在更新换代,根据用户的需求来进行更新,很注重用户体验,所以市面上的系统大多被微软系统所占领.虽然如此,Linux系统还是有它的立足之地,比如一些企业和大型服务器中使用度最高的还是Linux系统,这么看来Linux系统好像更适用于大公司的电脑.下面小编给大家分析,Linux系统在企业服务器中如何使用? 1.基本命令 1

Linux 系统是否适合于您?

并非人人都适合使用 Linux --对许多用户来说,Windows 或 OSX 会是更好的选择. 我喜欢使用 Linux 桌面系统,并不是因为软件的政治性质,也不是不喜欢其它操作系统.我喜欢 Linux 系统因为它能满足我的需求并且确实适合使用. 我的经验是,并非人人都适合切换至"Linux 的生活方式".本文将帮助您通过分析使用 Linux 系统的利弊来供您自行判断使用 Linux 是否真正适合您. 什么时候更换系统? 当有充分的理由时,将系统切换到 Linux 系统是很有意义的.这

linux系统centOS6.5使用goaccess工具分析nginx网站日志

网站的log日志分析是每个站长经常做的必备工作,通过网站日志文件我们可以分析各大搜索引擎对网站的爬取情况.最近我的网站做了一些调整,所以想看下日志文件,但因为网站服务器环境是LNMP,所以我就找了一款nginx日志文件分析工具--goaccess.本文我们将一起分享如何在linux(centos)中安装goaccess来分析网站日志. 准备工作: 系统:CentOS6.5(我在本地搭建的虚拟机) web服务:nginx 日志文件:access.log文件(从自己的环境中拷贝具体日志文件) 工具:

Linux系统GoAccess Web实时日志分析和统计工具

前几天老左有在军哥和小夜的博客中看到有分享GoAccess这款比较强大的日志分析工具,从功能以及关系数据的用户体验上着实是一款不错的可以用于Linux VPS/服务器中用来对网站日志和用户数据进行分析和统计的工具.就好比很多大型的网站,我们很少有见到有使用网站统计工具的,一般都是通过日志分析用户和各种信息数据的. GoAccess,这款可以用于Linux系统的日志分析工具,可以用于Nginx.Apache等服务器日志处理中,也可以利用Cygwin使用到Windows系统中.一般而言,我们使用Li

LINUX系统安全日志分析案例

当我们用上面的方法进行了 Linux 服务器的安装和一些基本的设置后,我们的服务器应该说来是比较安全的.但是总是还会有黑客可以通过各种方法利用系统管理员的疏忽侵入我们的系统.他们的一举一动都会记录到系统的日志之中,尽管他们可能可以改变这些日志信息,甚至用自己的程序替换掉我们系统本身的命令程序,但是通过日志我们总还是能找到一些蛛丝马迹.下面我们主要讲一下 Linux 环境中的系统记帐和系统日志管理以及怎么用一些工具更加方便有效的管理日志信息. 1 系统记帐 最初开发的系统记帐用于跟踪用户资源消费情

Linux系统被入侵后使用lsof命令恢复被删除日志的方法

  Linux系统是服务器最常见的操作系统,当然也面临着非常多的安全事件,相较Windows操作系统,Linux采用了明确的访问权限控制和全面的管理工具,具有非常高的安全性和稳定性.Linux系统被入侵后,攻击者为了掩盖踪迹,经常会清除系统中的各种日志,包括Web的access和error日志.last日志.message日志.secure日志等,给我们后期应急响应和取证分析带来了非常大的阻力.所以,恢复被清除的日志是非常重要的取证和分析环节,一下是使用lsof命令恢复日志文件的案例,适用于常见