随笔分类 -  Logstash

Logstash是一个具有实时管道的开源数据收集引擎。可以动态地统一不同来源的数据,并将数据归到不同目的地。
摘要:我们通过Logstash收集的Nginx Access log中已经包含了客户端IP的数据(remote_addr),但是只有这个IP还不够,要在Kibana的显示请求来源的地理位置还需要借助GeoIP数据库来实现。GeoIP 是最常见的免费 IP 地址归类查询库,同时也有收费版可以采购。GeoIP 阅读全文
posted @ 2016-12-17 11:40 Orgliny 阅读(10658) 评论(0) 推荐(1)
摘要:单个进程 logstash 可以实现对数据的读取、解析和输出处理。但是在生产环境中,从每台应用服务器运行 logstash 进程并将数据直接发送到 Elasticsearch 里,显然不是第一选择:第一,过多的客户端连接对 Elasticsearch 是一种额外的压力;第二,网络抖动会影响到 log 阅读全文
posted @ 2016-08-04 11:36 Orgliny 阅读(30551) 评论(4) 推荐(0)
摘要:在生产环境中,nginx日志格式往往使用的是自定义的格式,我们需要把logstash中的message结构化后再存储,方便kibana的搜索和统计,因此需要对message进行解析。 本文采用grok过滤器,使用match正则表达式解析,根据自己的log_format定制。 1、nginx日志格式 阅读全文
posted @ 2016-07-04 16:19 Orgliny 阅读(48659) 评论(4) 推荐(3)
摘要:Logstash是一个具有实时管道的开源数据收集引擎。可以动态地统一不同来源的数据,并将数据归到不同目的地。也是一个管理事件和日志工具。你可以用它来收集日志,分析它们,并将它们储存起来以供以后使用。 Logstash 通常都是和 Kibana 以及 Elasticsearch 一起使用,其实还有很多 阅读全文
posted @ 2016-06-13 10:46 Orgliny 阅读(23149) 评论(0) 推荐(0)