摘要: 1.打开filebeat支持nginx模块 [root@es-node1 /etc/filebeat]#ls fields.yml filebeat.reference.yml filebeat.yml filebeat.yml.bak modules.d [root@es-node1 /etc/f 阅读全文
posted @ 2024-04-11 10:32 Mrterrific 阅读(7) 评论(0) 推荐(0) 编辑
摘要: 1.收集nginx日志 学习背景:access.log,error.log目前日志混杂在一个es索引下。 改进filebeat配置 https://www.elastic.co/guide/en/beats/filebeat/current/elasticsearch-output.html 加上日 阅读全文
posted @ 2024-04-11 10:31 Mrterrific 阅读(2) 评论(0) 推荐(0) 编辑
摘要: ELK 是elastic公司提供的一套完整的日志收集以及展示的解决方案,是三个产品的首字母缩写,分别是ElasticSearch、Logstash 和 Kibana。该组合版本会统一发布。 ElasticSearch简称ES,它是一个实时的分布式搜索和分析引擎,它可以用于全文搜索,结构化搜索以及分析 阅读全文
posted @ 2024-04-11 10:27 Mrterrific 阅读(11) 评论(0) 推荐(0) 编辑
摘要: 1.官网提供snap快照备份恢复 https://www.elastic.co/guide/en/elasticsearch/reference/7.9/snapshot-restore.html 环境要求 要求所有es节点,挂载同一个共享目录,可以使用NFS。 注意背景 [root@devops0 阅读全文
posted @ 2024-04-11 10:22 Mrterrific 阅读(7) 评论(0) 推荐(0) 编辑
摘要: https://www.elastic.co/guide/en/elasticsearch/reference/current/cat.html 1.监控接口 访问es的_cat接口,获取不同的属性 http://10.0.0.51:9200/_cat/health http://10.0.0.51 阅读全文
posted @ 2024-04-11 10:17 Mrterrific 阅读(1) 评论(0) 推荐(0) 编辑
摘要: 1.ES集群基础概念 1.不需要了解太多java即可维护ES集群 2.部署简单,主从集群,从节点加入集群,自动同步数据 3.故障转移功能,节点故障,数据自动复制到其他节点 4.理解数据分片 主分片:存储数据节点,负责读写请求 副分片:主分片的副本,提供读请求 5.部署ES集群,至少2台机器 2.ES 阅读全文
posted @ 2024-04-11 10:14 Mrterrific 阅读(11) 评论(0) 推荐(0) 编辑
摘要: 1.ES是什么 https://www.elastic.co/cn/ https://www.elastic.co/cn/elastic-stack/ 1. 从事运维,开发,大数据的人员需要学习ElasticSearch数据库 2. 需要配置日志分析架构,配置ELK技术栈 lucene搜索引擎库 h 阅读全文
posted @ 2024-04-11 10:12 Mrterrific 阅读(5) 评论(0) 推荐(0) 编辑
摘要: 对于运维需要掌握的kafka基础操作,读写管理掌握后,下一步就是集群部署搭建了。 1. kafka天然支持集群 2. kafka将集群状态写入zookeeper。 集群部署 1. 确保zk启动 [devops03 root /opt/kafka_2.11-2.4.0]#netstat -tunlp| 阅读全文
posted @ 2024-04-11 10:01 Mrterrific 阅读(1) 评论(0) 推荐(0) 编辑
摘要: 1. 流处理平台 2. 消息队列 企业要求掌握kafka,工作里使用 1. api原理 2. 项目实战配置 3. kafka面试题 学习目标 1. 从零熟练的掌握kafka 2. 学习核心API以及底层原理 3. 结合微信小程序,微服务完成kafka实战特性 本课适合需要掌握kafka消息传递系统, 阅读全文
posted @ 2024-04-11 09:59 Mrterrific 阅读(1) 评论(0) 推荐(0) 编辑
摘要: 前面于超老师讲完了,zk运维的基本命令行玩法,更多的还是开发需要通过代码和zk结合处理。 大多数场景是java后端去操作。 这里我们以运维更友好的python来学习。 1.kazoo模块 zookeeper是一个用于维护配置信息、命名、提供分布式同步和提供组服务。它自身是高可用的,只要宕机节点不达到 阅读全文
posted @ 2024-04-11 09:56 Mrterrific 阅读(1) 评论(0) 推荐(0) 编辑