RICH-ATONE

随笔分类 -  Hadoop

上一页 1 2

Hadoop中的DataNode直接宕机(进入安全模式)或者节点再次上线造成副本过多产生的问题
摘要:HDFS如何检测并删除多余副本块 查看修复HDFS中丢失的块 &HDFS block丢失过多进入安全模式(safe mode)的解决方法 阅读全文

posted @ 2021-04-08 14:13 RICH-ATONE 阅读(343) 评论(0) 推荐(0)

Hadoop搭建配置参数调优
摘要:HDFS参数调优参考 在hdfs-site.xml里面配置: (1)dfs.namenode.handler.count=20 * log2(Cluster Size),比如集群规模为8台时,此参数设置为60 NameNode有一个工作线程池,用来处理不同DataNode的并发心跳以及客户端并发的元 阅读全文

posted @ 2021-03-26 14:57 RICH-ATONE 阅读(305) 评论(0) 推荐(0)

Hadoop集群Unhealthy Nodes导致计算能力下降解决方法 (nodemanager处于Unhealthy Nodes)
摘要:访问8088端口或者使用hdfs命令 yarn node -list -all 查看 nodemanger处于Unhealthy Nodes状态 查看Hadoop中的yarn日志如下 df -h查看磁盘剩余量,发现不到10% 把磁盘降到90%以下,问题解决 参考: https://blog.csdn 阅读全文

posted @ 2021-03-11 18:51 RICH-ATONE 阅读(400) 评论(0) 推荐(0)

查看hdfs目录占用磁盘大小
摘要:1.查看hdfs各个分目录占用大小 hdfs dfs du -h /home/xx/xx 2.查看整个目录的占用大小 hdfs dfs -du -h -s /home/xx/xx 阅读全文

posted @ 2021-02-01 10:24 RICH-ATONE 阅读(2431) 评论(0) 推荐(0)

通用数据据框架参考
摘要:大数据开源框架技术 阅读全文

posted @ 2021-01-06 14:05 RICH-ATONE 阅读(131) 评论(0) 推荐(0)

Hadoop跳过回收站删除HDFS文件
摘要:参考: https://www.cnblogs.com/luengmingbiao/p/13161039.html 阅读全文

posted @ 2021-01-05 18:20 RICH-ATONE 阅读(1672) 评论(0) 推荐(0)

hadoop安全模式解除方法和为什么会安全模式
摘要:hadoop安全模式解除方法和为什么会安全模式 阅读全文

posted @ 2021-01-05 14:19 RICH-ATONE 阅读(199) 评论(0) 推荐(0)

JournalNode的作用
摘要:官方解释: 参考:journalnode的作用 阅读全文

posted @ 2020-11-27 15:38 RICH-ATONE 阅读(538) 评论(0) 推荐(0)

SecondaryNameNode 的作用
摘要:SecondaryNameNode 的作用 阅读全文

posted @ 2020-11-27 14:52 RICH-ATONE 阅读(162) 评论(0) 推荐(0)

Hadoop中NameNode的工作机制
摘要:Hadoop中NameNode的工作机制 阅读全文

posted @ 2020-11-24 18:38 RICH-ATONE 阅读(126) 评论(0) 推荐(0)

Hadoop委任和解除节点
摘要:一.Hadoop集群重启需要注意: 方法①:直接重启集群,重启完成后,需要执行如下命令: hadoop fsck / -openforwrite | egrep -v '^\.+$' | egrep "MISSING|OPENFORWRITE" | grep -o "/[^ ]*" | sed -e 阅读全文

posted @ 2020-11-20 16:49 RICH-ATONE 阅读(171) 评论(0) 推荐(0)

Hadoop的HA的搭建
摘要:在非高可用分布的集群的基础上进行搭建: 一般使用HDFS High Availability Using the Quorum Journal Manager此方式进行搭建。 Zookeeper部署: 1.tar -zxvf zookeeper-3.4.10.tar.gz -C ./ (解压zk到当 阅读全文

posted @ 2020-11-16 00:04 RICH-ATONE 阅读(308) 评论(0) 推荐(0)

hadoop高可用参考
摘要:https://together.blog.csdn.net/article/details/102638347?utm_medium=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-2.add_param_ 阅读全文

posted @ 2020-11-03 18:43 RICH-ATONE 阅读(119) 评论(0) 推荐(0)

上一页 1 2

导航