伪分布式集群、Linux 查看历史命令

伪分布式集群

Linux 查看历史命令 history

Linux查看进程运行的状态 top ---- 也能查看集群资源

为了节省计算机的资源,我们将之前分布式的集群,改为伪分布式

伪分布式:即在一个节点上做分布式,可以节省资源

拍摄快照

在改伪分布式之前可以给我们的集群拍个快照,方便之后如果想要用回分布式集群,可以通过快照恢复

因为我们集群中的东西基本上大多都在master中,所以选择将master改为伪分布式的

为 master 增加计算资源

那么给 master 多少计算资源好呢?

尽可能多的给

在给master分配资源之前,需要先将master关机

为master分配好资源之后,我们就可以开始伪分布式的修改了(将之前所有的东西从hadoop开始改一遍配置文件)

将 hadoop 改为伪分布式

1、修改 slaves 文件

cd /usr/local/soft/hadoop-2.7.6/etc/hadoop/

vim slaves

将slaves里面的node1和node2删除,增加master

2、删除hadoop tmp目录

rm -rf /usr/local/soft/hadoop-2.7.6/tmp/

3、重新初始化hadoop

hadoop namenode -format

4、启动hadoop

start-all.sh

5、验证

http://master:8088

http://master:50070

这样就好了,我们可以通过 jps 看一下,主从节点的进程都在 master 中

将 Zookeeper 改为伪分布式

1、修改 zoo.cfg 文件

cd /usr/local/soft/zookeeper-3.4.6/conf

vim zoo.cfg

修改如下图所示

2、删除version文件

rm  -rf /usr/local/soft/zookeeper-3.4.6/data/version-2/

3、启动zk

zkServer.sh start

4、验证

zkServer.sh status

将 hive 改为伪分布式

hive本身就是单节点的,由于hadoop被重置了,hive表的数据都丢失了

1、启动hvie的元数据服务

不启动的话,hive 不能用

nohup hive --service metastore >> metastore.log 2>&1 &

将 HBase 改为伪分布式

1、修改 regionservers 文件

cd /usr/local/soft/hbase-1.4.6/conf

vim regionservers 

将 regionservers 里面的node1和node2删除,增加master

2、启动 HBase

start-hbase.sh

将 kafka 改为伪分布式

Kafka 是去中心化的架构

1、删除data目录

rm -rf  /usr/local/soft/kafka_2.11-1.0.0/data/

2、启动kafka

kafka-server-start.sh  -daemon /usr/local/soft/kafka_2.11-1.0.0/config/server.properties

3、测试

kafka-console-producer.sh --broker-list master:9092 --topic test_topic1

kafka-console-consumer.sh --bootstrap-server  master:9092 --from-beginning --topic test_topic1

将 canal 改为伪分布式

1、修改canal.properties配置文件

cd /usr/local/soft/canal/conf

vim canal.properties

修改以下配置:

canal.zkServers = master:2181

canal.mq.servers = master:9092

2、启动 canal

# 需要先启动Kafka

cd /usr/local/soft/canal/bin

./startup.sh -- 启动
posted @ 2022-04-03 16:11  赤兔胭脂小吕布  阅读(76)  评论(0)    收藏  举报