随笔分类 - hadoop
摘要:创建kafka topic 注: partitions指定topic分区数,replication-factor指定topic每个分区的副本数 partitions分区数: partitions :分区数,控制topic将分片成多少个log。可以显示指定,如果不指定则会使用broker(server
阅读全文
摘要:问题导读: 1.zookeeper在kafka的作用是什么? 2.kafka中几乎不允许对消息进行“随机读写”的原因是什么? 3.kafka集群consumer和producer状态信息是如何保存的? 4.partitions设计的目的的根本原因是什么? 一、入门 1、简介 Kafka is a d
阅读全文
摘要:Ambari 常用的 REST API 介绍 Ambari 借鉴了很多成熟分布式软件的 API 设计。Rest API 就是一个很好地体现。通过 Ambari 的 Rest API,可以在脚本中通过 curl 维护整个集群。并且,我们可以用 Rest API 实现一些无法在 Ambari GUI 上
阅读全文
摘要:在生产环境中很有可能有那么几个Region比较大,但是都运行在同一个Regionserver中。 这个时候就需要手动将region移动到负载低的Regionserver中。 步骤: 1、找到要移动的region,记录红框的id值,这个是唯一的region ID 2.查看RegionServer列表,
阅读全文
摘要:zookeeper.session.timeout 默认值:3分钟(180000ms) 说明:RegionServer与Zookeeper间的连接超时时间。当超时时间到后,ReigonServer会被Zookeeper从RS集群清单中移除,HMaster收到移除通知后,会对这台server负责的re
阅读全文

浙公网安备 33010602011771号