elasticsearch 了解多少,说说你们公司 es 的集群架构,索 引数据大小,分片有多少,以及一些调优手段 ?

面试官想了解应聘者之前公司接触的 ES 使用场景规模有没有做过比较大 

规模的索引设计规划调优

解答

如实结合自己的实践场景回答即可

比如:ES 集群架构 13 个节点索引根据通道不同共 20+索引根据日期每日 

递增 20+,索引:10 分片每日递增 1 亿+数据

每个通道每天索引大小控制:150GB 之内

仅索引层面调优手段

1.1、设计阶段调优 

1、根据业务增量需求采取基于日期模板创建索引通过 roll over API 滚动索 

2、使用别名进行索引管理

3、每天凌晨定时对索引做 force_merge 操作以释放空间

 81   485 4、采取冷热分离机制热数据存储到 SSD,提高检索效率冷数据定期进行 shrink

操作以缩减存储

5、采取 curator 进行索引的生命周期管理

6、仅针对需要分词的字段合理的设置分词器

7、Mapping 阶段充分结合各个字段的属性是否需要检索是否需要存储等。……..

1.2、写入调优 

1、写入前副本数设置为 0;

2、写入前关闭 refresh_interval 设置为-1,禁用刷新机制

3、写入过程中采取 bulk 批量写入

4、写入后恢复副本数和刷新间隔

5、尽量使用自动生成的 id。

1.3、查询调优 

1、禁用 wildcard;

2、禁用批量 terms(成百上千的场景);

3、充分利用倒排索引机制 keyword 类型尽量 keyword;

4、数据量大时候可以先基于时间敲定索引再检索

 82   485 5、设置合理的路由机制

1.4、其他调优 

部署调优业务调优等

上面的提及一部分面试者就基本对你之前的实践或者运维经验有所评估了

posted @ 2020-04-29 16:15  咔啡  阅读(752)  评论(0编辑  收藏  举报