摘要: 最近一直在学习hadoop的一些原理和优化,然后也做了一些实践,也有没有去做实践的,反正个人观点都记录下来 一、yarn的介绍 YARN的基本结构由一个ResourceManager与多个NodeManager组成。ResourceManager负责对NodeManager所持有的资源进行统一管理和 阅读全文
posted @ 2020-11-13 17:16 一寸HUI 阅读(4314) 评论(0) 推荐(1)
摘要: 因为公司hadoop集群出现了一些瓶颈,在机器不增加的情况下需要进行优化,不管是存储还是处理性能,更合理的利用现有集群的资源,所以来学习了一波hadoop的rpc相关的知识和hdfs方面的知识,以及yarn相关的优化,学完之后确实明白了可以在哪些方面进行优化,可以对哪些参数进行调整,有点恍然大悟的感 阅读全文
posted @ 2020-11-10 15:16 一寸HUI 阅读(2408) 评论(0) 推荐(1)
摘要: 在上一篇文章:Mysql索引(一篇就够le) 中介绍了索引的基本使用,分类和原理,也强烈建议先读Mysql索引(一篇就够le),然后继续本文的阅读 我们也知道mysql的优化可以从很多的方面进行,比如硬件,换个ssd的磁盘也很爽,环境的搭建,比如读写分离等,参数的配置,表结构的设计,字段类型的合理选 阅读全文
posted @ 2020-10-22 19:39 一寸HUI 阅读(3208) 评论(0) 推荐(6)
摘要: 我想很多人对mysql的认知可能就是CRUD(代表创建(Create)、更新(Update)、读取(Retrieve)和删除(Delete)操作),也不敢说自己会用和熟悉mysql,当然我就是其中一个,虽然知道mysql有很多东西,但是一直都没有深入的了解和掌握,最近想着好好的把Mysql原理学习下 阅读全文
posted @ 2020-10-16 22:59 一寸HUI 阅读(54309) 评论(5) 推荐(26)
摘要: 什么是es索引的生命周期?有啥用?可以怎么用?用了有什么好处呢? 在现实的生产环境中有没有觉得自己刚开始设计的索引的分片数刚刚好,但是随着时间的增长,数据量增大,增长速度增大的情况下,你的es索引的设计是否还合理呢? 在现实的生产存储中,有没有一些数据时间长了就没价值了,没必要浪费存储了,就可以删除 阅读全文
posted @ 2020-09-28 17:16 一寸HUI 阅读(1603) 评论(0) 推荐(2)
摘要: 备份和还原,为什么elasticsearch还需要备份呢,明明可以设置副本做到高可用,那怕啥呢? 其实在实际的生产环境中,一般最终的结果数据都是要备份的,这样的做的目的,就是能够以最快的速度还原数据,找回数据。明明mysql可以有主从,es有副本,备份干啥呢?不就是为了万无一失吗,生产环境有时候压力 阅读全文
posted @ 2020-09-21 11:44 一寸HUI 阅读(4098) 评论(1) 推荐(4)
摘要: 为什么要写一个jvm的工具入门呢,一是自己也不会,二是因为不会所以想学一下,还有就是这个确实很重要,对学习jvm有很多的用处,对定位问题有很大的便利,以前毕业那会我记得有个笔试,知道JAVA_HOME/bin目录的工具吗,例举下3个以上,并说说有什么用,可以怎么使用,,,,我只能说呵呵了,写代码哪里 阅读全文
posted @ 2020-09-15 20:37 一寸HUI 阅读(1090) 评论(2) 推荐(6)
摘要: 写这篇文章,主要是目前公司要把ES从2.4.1升级到最新版本7.8,不过现在是7.9了,官方的文档:https://www.elastic.co/guide/en/elasticsearch/reference/current/index.html 由于从2.4.1跨很大基本的升级,所以不能平滑的升 阅读全文
posted @ 2020-09-13 13:17 一寸HUI 阅读(8007) 评论(0) 推荐(5)
摘要: 本篇文章主要介绍elk的一些框架组成,原理和实践,采用的ELK本版为7.7.0版本 一、ELK介绍 1.1、ELK简介 ELK是Elasticsearch、Logstash、Kibana三大开源框架首字母大写简称(但是后期出现的filebeat(beats中的一种)可以用来替代logstash的数据 阅读全文
posted @ 2020-06-29 22:21 一寸HUI 阅读(64175) 评论(5) 推荐(9)
摘要: 本篇文章采用的采用的是logstash-7.7.0版本,主要从如下几个方面介绍 1、logstash是什么,可以用来干啥 2、logstash的基本原理是什么 3、怎么去玩这个elk的组件logstash 一、logstash是什么,有哪些作用 1.1、概念 官方概念:Logstash是免费且开放的 阅读全文
posted @ 2020-06-17 10:35 一寸HUI 阅读(11449) 评论(2) 推荐(6)
摘要: 本文使用的filebeat是7.7.0的版本本文从如下几个方面说明: filebeat是什么,可以用来干嘛 filebeat的原理是怎样的,怎么构成的 filebeat应该怎么玩 一、filebeat是什么 1.1、filebeat和beats的关系 首先filebeat是Beats中的一员。 Be 阅读全文
posted @ 2020-06-15 21:07 一寸HUI 阅读(118557) 评论(9) 推荐(33)
摘要: 一、简介 nginx是一款自由的、开源的、高性能的HTTP服务器和反向代理服务器;同时也是一个IMAP、POP3、SMTP代理服务器;nginx可以作为一个HTTP服务器进行网站的发布处理,另外nginx可以作为反向代理进行负载均衡的实现。 二、功能介绍 2.1、nginx负载均衡 负载均衡建立在现 阅读全文
posted @ 2020-06-07 21:59 一寸HUI 阅读(1774) 评论(0) 推荐(1)
摘要: 一、概述 1.1、概念 Java虚拟机把描述类的数据从Class文件加载到内存, 并对数据进行校验、 转换解析和初始化,将其放在运行时数据区的方法区内,然后在堆区创建一个java.lang.Class对象,用来封装类在方法区内的数据结构,最终形成可以被虚拟机直接使用的Java类型, 这个过程被称作虚 阅读全文
posted @ 2020-06-05 22:46 一寸HUI 阅读(633) 评论(0) 推荐(0)
摘要: flink从flink1.10版本对其内存结构发生改变,所以在环境配置的时候也要主要具体怎么配置比较合适。 内存结构可以看官网:https://ci.apache.org/projects/flink/flink-docs-release-1.10/ops/memory/mem_setup.html 阅读全文
posted @ 2020-05-31 15:45 一寸HUI 阅读(3155) 评论(1) 推荐(2)
摘要: 一、概述 各种不同平台的Java虚拟机, 以及所有平台都统一支持的程序存储格式——字节码(Byte Code)是构成平台无关性的基石,所以class文件主要用于解决平台无关性的中间文件。如下图所示: java虚拟机不与包括Java语言在内的任何程序语言绑定, 它只与“Class文件”这种特定的二进制 阅读全文
posted @ 2020-05-23 23:13 一寸HUI 阅读(12588) 评论(0) 推荐(0)