随笔分类 -  elasticsearch

摘要:说明:我们这里每个表对应一个配置文件,当然也可以使用多个表使用一个配置文件(多个jdbc进行配置) 1.准备配置文件表1: [root@host135 config]# more sync_mysql2es.conf #logstash输入配置 input { #jdbc输入配置,用来指定mysql 阅读全文
posted @ 2023-11-02 14:07 slnngk 阅读(965) 评论(0) 推荐(0)
摘要:[root@host135 config]# more sync_multi_table_mysql2es.conf #logstash输入配置 input { #jdbc输入配置,用来指定mysql中需要同步的数据查询SQL及同步周期 jdbc { jdbc_driver_library => " 阅读全文
posted @ 2023-11-02 10:54 slnngk 阅读(213) 评论(0) 推荐(0)
摘要:环境: DB:11.2.0.4 同步的表 create table tb_test ( id number primary key, name varchar(32) not null, f_int number, f_dou number(10,2), f_flo number(9,2) ); i 阅读全文
posted @ 2023-11-01 18:02 slnngk 阅读(571) 评论(0) 推荐(0)
摘要:1.文件同步到esNo sincedb_path set, generating one based on the "path" setting {:sincedb_path=>"/opt/logstash-6.8.5/data/plugins/inputs/file/.sincedb_f019a9 阅读全文
posted @ 2023-11-01 15:20 slnngk 阅读(142) 评论(0) 推荐(0)
摘要:环境:OS:Centos 7es:6.8.5logstash:6.8.5mysql:5.7 1.mysql创建表 create table tb_es ( id bigint(20) unsigned NOT NULL AUTO_INCREMENT COMMENT '主键id', name varc 阅读全文
posted @ 2023-11-01 15:09 slnngk 阅读(507) 评论(0) 推荐(0)
摘要:环境:OS:windows2012Mysql:5.7.29 1.安装mysql安装步骤省略,mysql5.7默认安装都已经安装好了ssl的,并默认启用了的.证书在数据目录下 D:\mysql57\data D:\mysql57\data>dir 驱动器 D 中的卷是 新加卷 卷的序列号是 7603- 阅读全文
posted @ 2023-10-27 10:29 slnngk 阅读(1416) 评论(0) 推荐(0)
摘要:环境:OS:Centos 7ES:6.8.5logstash:6.8.5 1.准备测试文件 [root@localhost myfile]# pwd /tmp/myfile [root@localhost myfile]# more a.log 111@3334@3333 vvv@aaa@gggg 阅读全文
posted @ 2023-10-26 15:15 slnngk 阅读(483) 评论(0) 推荐(0)
摘要:环境:OS:Centos 7ES(源端和目标端):6.8.5logstash:6.8.5 说明:1.logstash版本尽量与es版本保持一致2.我们这里先在目的端创建好mapping(表结构),因为不提前创建好mapping的话,logstash同步的时候根据数据情况自动推断数据字段类型定义字段类 阅读全文
posted @ 2023-10-26 10:59 slnngk 阅读(371) 评论(0) 推荐(0)
摘要:环境: OS:Centos 7 ES:6.8.5 问题1: [2023-10-25T09:29:53,892][INFO ][logstash.outputs.elasticsearch] retrying failed action with response code: 429 ({"type" 阅读全文
posted @ 2023-10-25 13:41 slnngk 阅读(480) 评论(0) 推荐(0)
摘要:环境:OS:Centos 7logstash:6.8.5 1.下载logstash我这里下载的是6.8.5版本https://artifacts.elastic.co/downloads/logstash/logstash-6.8.5.tar.gz 各版本下载地址 https://www.elast 阅读全文
posted @ 2023-10-24 11:01 slnngk 阅读(229) 评论(0) 推荐(0)
摘要:环境:OS:Centos 7ES:6.8.5目前拓扑:单节点的ES(带密码验证)当前节点ip:192.168.1.105 新增节点ip:192.168.1.106192.168.1.107 ########################当前节点的配置情况###################### 阅读全文
posted @ 2023-08-08 16:39 slnngk 阅读(427) 评论(0) 推荐(0)
摘要:若索引的数据很大的情况下,我们要删除其中的大部分的数据,这样会很耗时,我们可以尝试换另外的办法,先把需要保留的数据迁移到新的index,然后再删除原有的index,因为删除整个index是很快的操作. curl -u elastic:elastic -X POST "192.168.1.134:19 阅读全文
posted @ 2023-08-03 17:39 slnngk 阅读(106) 评论(0) 推荐(0)
摘要:from elasticsearch import Elasticsearch import os, json, urllib, datetime, shutil,random,uuid import time import random from elasticsearch import help 阅读全文
posted @ 2023-08-03 09:11 slnngk 阅读(346) 评论(0) 推荐(0)
摘要:curl -u elastic:elastic -X POST -H 'Content-Type: application/json' "http://192.168.1.134:19200/app_message_all/_delete_by_query?slices=3&wait_for_com 阅读全文
posted @ 2023-07-31 15:07 slnngk 阅读(309) 评论(0) 推荐(0)
摘要:环境:OS:Centos 7es:6.8.5拓扑:3节点的集群 1.下载地址https://github.com/medcl/elasticsearch-analysis-ik下载的版本需要跟es的版本保持一致我这里的es版本是6.8.5的,所以下载相应版本的分词器elasticsearch-ana 阅读全文
posted @ 2023-07-03 14:40 slnngk 阅读(742) 评论(0) 推荐(0)
摘要:#!/usr/bin/env python #coding=utf-8 from elasticsearch import Elasticsearch import time import random from elasticsearch import helpers ##es = Elastic 阅读全文
posted @ 2023-06-29 17:39 slnngk 阅读(66) 评论(0) 推荐(0)
摘要:环境:OS:Centos 7 1.下载下载地址:https://www.elastic.co/cn/downloads/past-releases#elasticsearch 2.解压缩并创建数据目录[root@localhost soft]# tar -xvf elasticsearch-8.8. 阅读全文
posted @ 2023-06-29 17:16 slnngk 阅读(1854) 评论(0) 推荐(1)
摘要:环境: OS:Centos 7 1.下载下载地址https://gitcode.net/mirrors/lmenezes/cerebro?utm_source=csdn_github_accelerator 我这里下载的是cerebro-0.9.4.tgz 2.解压安装[root@host134 s 阅读全文
posted @ 2023-06-28 09:40 slnngk 阅读(508) 评论(0) 推荐(0)
摘要:环境: OS:Centos 7 pmm server:版本1 ##########################################被监控ES机器安装########################### 1.查看es版本 [root@localhost ~]# curl -u ela 阅读全文
posted @ 2023-06-27 11:30 slnngk 阅读(65) 评论(0) 推荐(0)
摘要:查看后台taskcurl -u elastic:xxxxx -X GET "192.168.1.103:19200/_tasks?pretty" 查看具体的task curl -u elastic:elastic -X GET "192.168.1.134:19200/_tasks/HEPkjUM_ 阅读全文
posted @ 2023-06-20 16:11 slnngk 阅读(513) 评论(0) 推荐(0)