随笔分类 -  ELK(elasticsearch、logstash、kibana)

摘要:1:乐观锁控制 ES是分布式的,也是异步并发的,我们的复制请求是并行发送的;这就意味着请求到达目的地的顺序是不可控制的,是乱序的; 如果是乱序的方式,很有可能出现这样的一个问题,新version的文档被旧version的文档覆盖掉—-数据丢失,或者直接抛异常; 所以在分布式异步并发场景中,需要一种方 阅读全文
posted @ 2017-05-22 22:37 niutao 阅读(7668) 评论(0) 推荐(0)
摘要:5.7.1:更新整个文档 ES中并不存在所谓的更新操作,而是用新文档替换旧文档; 在内部,Elasticsearch已经标记旧文档为删除并添加了一个完整的新文档并建立索引。旧版本文档不会立即消失 ,但你也不能去访问它 5.7.2:局部更新[partial _update] 上面介绍的是更新整个文档, 阅读全文
posted @ 2017-05-22 22:28 niutao 阅读(7795) 评论(1) 推荐(0)
摘要:实际生产,对于文档的操作,偶尔会遇到这种问题: 某一个字段的类型不符合后期的业务了,但是当前的索引已经创建了,我们知道es在字段的mapping建立后就不可再次修改mapping的值 比如: 1): 2): 当前的times是text类型,但是后期想使用时间去检索数据是不可能的了,那么在实际的生产中 阅读全文
posted @ 2017-05-22 22:27 niutao 阅读(727) 评论(0) 推荐(1)
摘要:1:增加别名 为索引school添加一个别名alias1: 1.1:创建索引 1.2:添加别名 2:查询别名 查询某个index下的别名: 3:删除别名 4:修改别名 es没有修改别名的操作,只能先删除后添加 阅读全文
posted @ 2017-05-22 22:26 niutao 阅读(18498) 评论(0) 推荐(0)
摘要:1:索引的映射管理 elasticsearch中的文档等价于java中的对象 , 那么在java对象中有字段(比如string、int、long等); 同理在elasticsearch索引中的具体字段也是有类型的; 第一步:默认的插入操作: 这种操作并没有指定字段类型,那么elasticsearch 阅读全文
posted @ 2017-05-22 22:24 niutao 阅读(1539) 评论(0) 推荐(0)
摘要:1:创建索引 创建索引的时候可以通过number_of_shards和number_of_replicas来指定当前索引的分片和副本数量; 可以通过检索当前集群的索引是否存在(head)来判断当前索引是否插入成功 返回值为200表示存在,404表示不存在 2:删除索引 删除索引可以通过指定索引的名称 阅读全文
posted @ 2017-05-22 22:22 niutao 阅读(2964) 评论(0) 推荐(0)
摘要:Kibana 是一个开源的分析和可视化平台,旨在与 Elasticsearch 合作。Kibana 提供搜索、查看和与存储在 Elasticsearch 索引中的数据进行交互的功能。开发者或运维人员可以轻松地执行高级数据分析,并在各种图表、表格和地图中可视化数据。(注意,既然是可视化的平台,因此只需 阅读全文
posted @ 2017-05-22 22:18 niutao 阅读(262) 评论(0) 推荐(0)
摘要:文档介绍: 首先要讲什么是文档,我们中大多是java程序员,java是面向对象的,那么在elasticsearch看来:对象和文档是等价的。只不过这个对象是可以被序列化成key-value形式的json串 文档元数据: 文档是用来以k-v的形式存储数据的,文档的组成不单单是有数据的,还有元数据; 其 阅读全文
posted @ 2017-05-22 22:16 niutao 阅读(5280) 评论(0) 推荐(0)
摘要:在kibana提供的界面上进行操作。 3.4.1、使用match_all做查询 问题:通过match_all匹配后,会把所有的数据检索出来,但是往往真正的业务需求并非要找全部的数据,而是检索出自己想要的;并且对于es集群来说,直接检索全部的数据,很容易造成GC现象。所以,我们要学会如何进行高效的检索 阅读全文
posted @ 2017-05-22 22:00 niutao 阅读(3804) 评论(0) 推荐(0)
摘要:curl是利用URL语法在命令行方式下工作的开源文件传输工具,使用curl可以简单实现常见的get/post请求。简单的认为是可以在命令行下面访问url的一个工具。在centos的默认库里面是有curl工具的,如果没有请yum安装即可。 curl 3.1.1 创建索引 3.1.2 插入文档 前面的命 阅读全文
posted @ 2017-05-22 21:58 niutao 阅读(2311) 评论(0) 推荐(0)
摘要:2.4.1 安装nodejs Node.js是一个基于 Chrome V8 引擎的 JavaScript 运行环境。 Node.js是一个Javascript运行环境(runtime environment),发布于2009年5月,由Ryan Dahl开发,实质是对Chrome V8引擎进行了封装。 阅读全文
posted @ 2017-05-22 21:54 niutao 阅读(256) 评论(0) 推荐(0)
摘要:2.1:创建用户: (elasticsearch不能使用root用户) 2.2:解压安装包 2.3:修改配置文件 2.3.1:修改内存参数: vim /config/jvm.options 2.3.2:修改elasticsearch的集群参数 vim /config/elasticsearch.ym 阅读全文
posted @ 2017-05-22 21:53 niutao 阅读(351) 评论(0) 推荐(0)
摘要:1、ELK 1.1 集中式日志系统 日志,对于任何系统来说都是及其重要的组成部分。在计算机系统里面,更是如此。但是由于现在的计算机系统大多比较复杂,很多系统都不是在一个地方,甚至都是跨国界的;即使是在一个地方的系统,也有不同的来源,比如,操作系统,应用服务,业务逻辑等等。他们都在不停产生各种各样的日 阅读全文
posted @ 2017-05-22 21:50 niutao 阅读(343) 评论(0) 推荐(0)