会员
周边
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
WeiKing
博客园
首页
新随笔
联系
订阅
管理
上一页
1
2
3
4
5
6
7
下一页
2020年8月14日
logstash实现elasticsearch与mysql数据库同步
摘要: 业务场景: 表一是事件表,表二是规则表 产生一条数据,会同时写入事件表和对应的规则表 每个事件关联的风险规则可能有多条 修改:修改事件A中的某些字段的数据,规则表中事件A对应的规则字段不发生改变 业务需求:需要将MySQL中的两张表同步到ES中(新增、修改、删除同步),优化事件查询速度 解决方案:使
阅读全文
posted @ 2020-08-14 15:06 WeiKing
阅读(946)
评论(0)
推荐(0)
2020年8月13日
output模块插件的详细介绍
摘要: elaticserach插件 常用参数说明: hosts:设elasticsearch的ip和端口 支持的格式:端口和http加不加都可以 如下格式都可以: hosts=>"192.168.57.100" hosts=>"192.168.57.100:9200" hosts=>"http://192
阅读全文
posted @ 2020-08-13 16:33 WeiKing
阅读(378)
评论(0)
推荐(0)
Filter模块插件的详细介绍
摘要: 通用配置项 filter模块所有的过滤器都支持配置项 Setting Input type Required add_field hash No add_tag array No enable_metric boolean No id string No periodic_flush boolean
阅读全文
posted @ 2020-08-13 10:07 WeiKing
阅读(686)
评论(0)
推荐(0)
2020年8月12日
Input模块插件的详细介绍
摘要: jdbc插件 增量同步和全量同步: 全量同步:是指将全部数据同步到es(通常是刚建立es,第一次同步时使用) 增量同步:是指将后续的更新、插入的记录同步到es 增量同步更新的注意点: tracking_column的字段必须是递增的字段(如id或者时间字段) tracking_column字段是id
阅读全文
posted @ 2020-08-12 21:12 WeiKing
阅读(585)
评论(0)
推荐(0)
2020年8月10日
Logstash的简单介绍
摘要: logstash的简介 logstash的概念:是一款开源的数据收集引擎,具有实时管道处理能力。 logstash具有200多个插件,可以接受各种各样的数据(如日志、网络请求、关系型数据库、传感器或物联网等等) Logstash工作过程: Logstash 就像管道符一样,读取输入数据,然后处理过滤
阅读全文
posted @ 2020-08-10 21:36 WeiKing
阅读(3583)
评论(0)
推荐(0)
2020年8月2日
Logstash的下载安装
摘要: 下载地址:https://www.elastic.co/cn/downloads/past-releases#logstash 解压安装:tar -zxvf logstash-5.5.2.tar.gz -C /opt/modules/ 开发测试:/bin/logstash -e 'input {st
阅读全文
posted @ 2020-08-02 16:55 WeiKing
阅读(827)
评论(0)
推荐(0)
2020年7月28日
安装Ruby和logstash插件
摘要: 现在的logstash版本,插件都是自带的,所以不需要安装ruby和logstash,如果需要的插件没有在安装 安装配置Ruby 我的CentOS的版本比较低,是CentOS6.6的,直接通过yum安装的Ruby的版本比较低,导致安装的时候会出现很多问题(网上的很多解决方案写的很高档,但是都没有解决
阅读全文
posted @ 2020-07-28 20:55 WeiKing
阅读(817)
评论(0)
推荐(0)
2020年7月26日
Kibana安装与web界面
摘要: Kibana的下载安装 下载地址:https://www.elastic.co/cn/downloads/past-releases#kibana Kibana是ElasticSearch的可视化平台,依赖ElasticSearch,需要优先安装ElasticSearch 解压安装:tar -zxv
阅读全文
posted @ 2020-07-26 18:19 WeiKing
阅读(1325)
评论(0)
推荐(0)
ElasticSearch的下载安装
摘要: 下载地址:https://www.elastic.co/cn/downloads/past-releases#elasticsearch ELK的主版本号需要统一:ElasticSearch-5.5 + Logstash-5.5 + Kibana-5.5 安装ElasticSearch 在安装 El
阅读全文
posted @ 2020-07-26 11:55 WeiKing
阅读(274)
评论(0)
推荐(0)
2020年7月5日
IDEA的配置
摘要: 必要配置 设置字符集(Settings) 设置字符集(Other Settings) 设置字节码版本 设置项目模块开发语言版本 常用配置 Other Settings(默认设置)和Settings的区别: IDEA不像Eclipse那样可以在一个窗口中打开多个项目,IDEA每次打开一个新的项目都需要
阅读全文
posted @ 2020-07-05 19:55 WeiKing
阅读(231)
评论(0)
推荐(0)
上一页
1
2
3
4
5
6
7
下一页
公告