Elasticsearch和Kibana安装

Elasticsearch安装

Elasticsearch 至少需要Java 8。在撰写本文时,建议你使用Oracle JDK版本1.8.0_131。Java安装因平台而异,所以在这里不再赘述。Oracle的推荐安装文档可以在Oracle的网站上找到在安装 Elasticsearch 之前,请先检查您的Java版本,然后再运行(如果需要,请相应地进行安装/升级):

java -version
echo $JAVA_HOME

安装了Java之后,下载并运行 Elasticsearch 这些二进制文件可以在www.elastic.co/downloads下载,与过去所有的所有版本一起提供。对于每个版本,您可以选择一个ziptarDEBRPM包。

为了简单起见,下载Elasticsearch 5.4.1 tar,方式如下(window用户下载Elasticsearch 5.4.1 zip)

curl -L -O https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-5.4.1.tar.gz

然后解压缩如下

tar -xvf elasticsearch-5.4.1.tar.gz

然后进入bin目录

cd elasticsearch-5.4.1 / bin

现在准备启动我们的节点和单个集群(Windows用户应该运行 Elasticsearch.bat文件)

./elasticsearch

如果一切顺利,您应该会看到一堆如下所示的消息:

[2017-06-09T12:11:37,851][INFO ][o.e.n.Node               ] [] initializing ...
[2017-06-09T12:11:38,117][INFO ][o.e.e.NodeEnvironment    ] [9fzvF2H] using [1]data paths, mounts [[(D:)]], net usable_space [111.8gb], net total_space [123.5gb], spins? [unknown], types [NTFS]
[2017-06-09T12:11:38,117][INFO ][o.e.e.NodeEnvironment    ] [9fzvF2H] heap size[1.9gb], compressed ordinary object pointers [true]
[2017-06-09T12:11:38,117][INFO ][o.e.n.Node               ] node name [9fzvF2H]derived from node ID [9fzvF2HKTverLyZwFl6w0w]; set [node.name] to override
[2017-06-09T12:11:38,117][INFO ][o.e.n.Node               ] version[5.4.1], pid[3964], build[2cfe0df/2017-05-29T16:05:51.443Z], OS[Windows 7/6.1/amd64], JVM[Oracle Corporation/Java HotSpot(TM) 64-Bit Server VM/1.8.0_131/25.131-b11]
[2017-06-09T12:11:38,117][INFO ][o.e.n.Node               ] JVM arguments [-Xms2g, -Xmx2g, -XX:+UseConcMarkSweepGC, -XX:CMSInitiatingOccupancyFraction=75, -XX:+UseCMSInitiatingOccupancyOnly, -XX:+DisableExplicitGC, -XX:+AlwaysPreTouch, -Xss1m, -Djava.awt.headless=true, -Dfile.encoding=UTF-8, -Djna.nosys=true, -Djdk.io.permissionsUseCanonicalPath=true, -Dio.netty.noUnsafe=true, -Dio.netty.noKeySetOptimization=true, -Dio.netty.recycler.maxCapacityPerThread=0, -Dlog4j.shutdownHookEnabled=false, -Dlog4j2.disable.jmx=true, -Dlog4j.skipJansi=true, -XX:+HeapDumpOnOutOfMemoryError, -Delasticsearch, -Des.path.home=D:\ProgramFiles\elasticsearch-5.4.1]
[2017-06-09T12:11:39,193][INFO ][o.e.p.PluginsService     ] [9fzvF2H] loaded module [aggs-matrix-stats]
[2017-06-09T12:11:39,193][INFO ][o.e.p.PluginsService     ] [9fzvF2H] loaded module [ingest-common]
[2017-06-09T12:11:39,209][INFO ][o.e.p.PluginsService     ] [9fzvF2H] loaded module [lang-expression]
[2017-06-09T12:11:39,209][INFO ][o.e.p.PluginsService     ] [9fzvF2H] loaded module [lang-groovy]
[2017-06-09T12:11:39,209][INFO ][o.e.p.PluginsService     ] [9fzvF2H] loaded module [lang-mustache]
[2017-06-09T12:11:39,209][INFO ][o.e.p.PluginsService     ] [9fzvF2H] loaded module [lang-painless]
[2017-06-09T12:11:39,209][INFO ][o.e.p.PluginsService     ] [9fzvF2H] loaded module [percolator]
[2017-06-09T12:11:39,209][INFO ][o.e.p.PluginsService     ] [9fzvF2H] loaded module [reindex]
[2017-06-09T12:11:39,209][INFO ][o.e.p.PluginsService     ] [9fzvF2H] loaded module [transport-netty3]
[2017-06-09T12:11:39,209][INFO ][o.e.p.PluginsService     ] [9fzvF2H] loaded module [transport-netty4]
[2017-06-09T12:11:39,209][INFO ][o.e.p.PluginsService     ] [9fzvF2H] no plugins loaded
[2017-06-09T12:11:41,471][INFO ][o.e.d.DiscoveryModule    ] [9fzvF2H] using discovery type [zen]
[2017-06-09T12:11:42,032][INFO ][o.e.n.Node               ] initialized
[2017-06-09T12:11:42,032][INFO ][o.e.n.Node               ] [9fzvF2H] starting ...
[2017-06-09T12:11:43,171][INFO ][o.e.t.TransportService   ] [9fzvF2H] publish_address {127.0.0.1:9300}, bound_addresses {127.0.0.1:9300}, {[::1]:9300}
[2017-06-09T12:11:46,248][INFO ][o.e.c.s.ClusterService   ] [9fzvF2H] new_master{9fzvF2H}{9fzvF2HKTverLyZwFl6w0w}{yMmmD0nORKqEmQ0lrqKu3Q}{127.0.0.1}{127.0.0.1:9300}, reason: zen-disco-elected-as-master ([0] nodes joined)
[2017-06-09T12:11:46,280][INFO ][o.e.g.GatewayService     ] [9fzvF2H] recovered[0] indices into cluster_state
[2017-06-09T12:11:46,919][INFO ][o.e.h.n.Netty4HttpServerTransport] [9fzvF2H] publish_address {127.0.0.1:9200}, bound_addresses {127.0.0.1:9200}, {[::1]:9200}
[2017-06-09T12:11:46,919][INFO ][o.e.n.Node               ] [9fzvF2H] started

没有太多细节,我们可以看到,我们的名为"9fzvF2H"的节点(在您的情况下将是一组不同的字符)已经启动并在单个集群中将其选为 master  。此时先不用在意 master 是什么意思。最重要的是我们已经在一个集群中启动了一个节点。

如前所述,我们可以修改集群或节点名称。这可以在启动 Elasticsearch 时从命令行完成,如下所示:

./elasticsearch -Ecluster.name = my_cluster_name -Enode.name = my_node_name

比如,  D:\ProgramFiles\elasticsearch-5.4.1\bin\elasticsearch.bat -Ecluster.name=my_cluster -Enode.name=node_1 

还要注意标有http的行,该信息提示我们的节点可以通过HTTP地址(127.0.0.1)和port(9200)被访问。默认情况下, Elasticsearch 使用端口9200来提供对其REST API的访问。如果需要,该端口是可配置的。

在浏览器中输入: http://127.0.0.1:9200/ ,返回如下信息,表示安装成功。

{
  "name" : "9fzvF2H",
  "cluster_name" : "elasticsearch",
  "cluster_uuid" : "xBoSQEYqQSaJjzzpmAj7aw",
  "version" : {
    "number" : "5.4.1",
    "build_hash" : "2cfe0df",
    "build_date" : "2017-05-29T16:05:51.443Z",
    "build_snapshot" : false,
    "lucene_version" : "6.5.1"
  },
  "tagline" : "You Know, for Search"
}

探索集群

REST API

现在我们的节点(和群集)启动并运行,接下来的步骤是了解如何与它进行通信。幸运的是, Elasticsearch 提供了一个非常全面和强大的REST API,您可以使用它来与群集进行交互。API可以完成的几件事情如下:

  • 检查您的群集,节点和索引运行状况,状态和统计信息
  • 管理您的集群,节点和索引数据和元数据
  • 执行CRUD(创建,读取,更新和删除)并针对索引进行搜索操作
  • 执行高级搜索操作,如分页,排序,过滤,脚本,聚合等等

Kibana

 Kibana 是一个开源分析和可视化平台,旨在可视化操作 Elasticsearch Kibana可以用来搜索,查看和与存储在 Elasticsearch 索引中的数据进行交互。可以轻松地进行高级数据分析,并可在各种图表,表格和地图中显示数据。

 Kibana 可以轻松理解海量数据。其简单的基于浏览器的界面使您能够快速创建和共享动态仪表板,实时显示 Elasticsearch 查询的更改。

安装Kibana简单快速。您可以安装 Kibana ,并在几分钟内开始探索您的 Elasticsearch 索引 - 不需要代码,也不需要需额外的基础架构。

安装Kibana

本节包括安装 Kinbana ,以及配置和运行

支持的平台

提供 Kibana 软件包,并针对Linux,Darwin和Windows进行测试。由于Kibana运行在Node.js上,所以我们为这些平台添加了必要的Node.js二进制文件。不支持单独维护版本的Node.js来运行Kibana。

Elasticsearch版本

应将 Kibana 配置为和 Elasticsearch 节点运行的版本相同。这是官方支持的配置。

不支持运行不同主版本的 Kibana 和 Elasticsearch (例如 Kibana 5.x 和 Elasticsearch 2.x ), Kibana 的次要版本比 Elasticsearch 的次要版本(例如 Kibana 5.1 和 Elasticsearch5.0)高也不支持。

 Elasticsearch 的次要版本比kibana的次要版本高通常会起作用,不过这样只是为了满足首先升级 Elasticsearch ,然后升级kibana的需要,(例如 Kibana 5.0 和 Elasticsearch 5.1 )。在这种配置中, Kibana 服务器启动时将会记录一个警告,因此两个版本不一致的情况只是暂时的,为了不记录警告,还得将 Kibana 升级到与 Elasticsearch 相同的版本。

一般情况下,支持运行Kibana和 Elasticsearch 的不同补丁版本(例如 Kibana 5.0.0 和 Elasticsearch 5.0.1 ),尽管我们鼓励用户下载Kibana和 Elasticsearch 的相同补丁版本。

安装包

Kibana提供以下格式的安装包:

如果您的Elasticsearch安装受X-Pack安全保护, 请参阅使用Kibana与X-Pack Security进行其他安装说明。

在windows上安装Kibana

最新的稳定版本的Kibana可以在下载Kibana页面找到 其他版本可以在过去版本页面找到 

解压缩。这将创建一个名为kibana-5.4.1-windows-x86的文件夹,我们将其称为$KIBANA_HOME在终端窗口中,CD$KIBANA_HOME目录下的bin,例如:

D:\>cd D:\ProgramFiles\kibana-5.4.1-windows-x86\bin

从命令行运行Kibana

kibana

出现以下日志

D:\ProgramFiles\kibana-5.4.1-windows-x86\bin>kibana
  log   [07:29:47.631] [info][optimize] Optimizing and caching bundles for kibana, timelion and status_page. This may take a few minutes
  log   [07:31:43.968] [info][optimize] Optimization of bundles for kibana, timelion and status_page complete in 116.34 seconds
  log   [07:31:44.030] [info][status][plugin:kibana@5.4.1] Status changed from uninitialized to green - Ready
  log   [07:31:44.124] [info][status][plugin:elasticsearch@5.4.1] Status changed from uninitialized to yellow - Waiting for Elasticsearch
  log   [07:31:44.155] [info][status][plugin:console@5.4.1] Status changed from uninitialized to green - Ready
  log   [07:31:44.170] [info][status][plugin:metrics@5.4.1] Status changed from uninitialized to green - Ready
  log   [07:31:44.373] [info][status][plugin:timelion@5.4.1] Status changed from uninitialized to green - Ready
  log   [07:31:44.389] [info][listening] Server running at http://localhost:5601
  log   [07:31:44.389] [info][status][ui settings] Status changed from uninitialized to yellow - Elasticsearch plugin is yellow
  log   [07:31:49.435] [info][status][plugin:elasticsearch@5.4.1] Status changed from yellow to yellow - No existing Kibana index found
  log   [07:31:50.000] [info][status][plugin:elasticsearch@5.4.1] Status changed from yellow to green - Kibana index ready
  log   [07:31:50.000] [info][status][ui settings] Status changed from yellow to green - Ready

在浏览器中输入: http://localhost:5601 ,出现界面表示安装成功。

集群健康

让我们先从基础的健康检查开始,我们可以使用它去了解我的集群是如何运作的。我们将会使用上面安装的kibana控制台去做这个实验,不过你也可以使用任何一个支持HTTP/REST的工具调用接口,比如curl。假如我们继续使用刚刚启动的 Elasticsearch 节点。

为了检查集群监控,我们需要使用  _cat  API。在Kibana控制台中运行命令 GET /_cat/health?v 。

返回内容如下:

epoch      timestamp cluster       status node.total node.data shards pri relo init unassign pending_tasks max_task_wait_time active_shards_percent
1496995261 16:01:01  elasticsearch yellow          1         1      1   1    0    0        1             0                  -                 50.0%

可以看到名为 elasticsearch 的集群已经处于黄色状态。 每当我们查询集群健康情况时,接口可能会返回green,yellow或red状态。green意味着一切良好(集群所有的功能都正常)。yellow意味着所有的数据都是可用的,但是一些复制分片可能没有正确分发(集群的所有功能还是正常的)。red意味着因为某些原因导致有些数据不能使用。注意,即使集群状态是red,它仍然可以运行一部分的功能。(例如,它依然可以从一些可用的分片处理搜索请求)但你应该尽快去修复它,因为这样会使搜索结果丢失一些数据。

从上面的响应中,可以看到集群名称为 elasticsearch ,只有1个节点,有1个数据,1个分片。注意,由于我们使用默认的群集名称( Elasticsearch ),并且由于 Elasticsearch 默认使用单播网络来查找同一台计算机上的其他节点,因此可能会意外启动计算机上的多个节点,并使它们都加入同一个群集。在这种情况下,您可能会在上述响应中看到超过1个节点。

也可以得到集群中节点列表,如下:

GET /_cat/nodes?v

返回内容如下:

ip heap.percent ram.percent cpu load_1m load_5m load_15m node.role master name
127.0.0.1 8 84 4 mdi * 9fzvF2H

可以看到集群中只有一个名叫"9fzvF2H"的节点。

总结

1、什么是kibana?对于目前来说,就是一个可视化界面,方便写代码对ES进行操作。

2、ES和kibana怎么安装?在windows上,直接下载压缩包,解压后进入bin目录,运行Elasticsearch.bat和kibana.bat即可。

3、快速检查集群的健康状况, GET /_cat/health?v 

4、集群的健康值理解

  • green:每个索引的primary shard和replica shard都是active状态的
  • yellow:每个索引的primary shard都是active状态的,但是部分replica shard不是active状态(比如单台机器上副本无法被分配),处于不可用的状态
  • red:不是所有索引的primary shard都是active状态的,部分索引有数据丢失了

5、查看所有节点, GET /_cat/nodes?v 

官方文档

https://www.elastic.co/guide/en/elasticsearch/reference/current/_installation.html

https://www.elastic.co/guide/en/elasticsearch/reference/current/_exploring_your_cluster.html

https://www.elastic.co/guide/en/elasticsearch/reference/current/_cluster_health.html

https://www.elastic.co/guide/en/kibana/5.4/introduction.html

https://www.elastic.co/guide/en/kibana/5.4/setup.html

https://www.elastic.co/guide/en/kibana/5.4/install.html

https://www.elastic.co/guide/en/kibana/5.4/windows.html

参考文档

https://github.com/13428282016/elasticsearch-CN/wiki/es-gettting-started

posted @ 2017-06-09 16:34  ~冰  阅读(38953)  评论(1编辑  收藏  举报