会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
羊想云彩
博客园
首页
新随笔
联系
订阅
管理
上一页
1
2
3
2020年2月29日
HDFS客户端读写流程以及元数据、namenode和secondarynamenode checkpoint原理
摘要: 1.HDFS客户端写流程 2.HDFS客户端读流程 3. 元数据 “元数据”是Namenode的一块内存空间,记录了每个文件数据块(Block)的位置信息。Namenode主要维护两个文件,一个是fsimage,一个是edits log。 edits log :主要是在NameNode已经启动情况下
阅读全文
posted @ 2020-02-29 19:00 羊想云彩
阅读(461)
评论(1)
推荐(1)
2020年2月26日
Hadoop之纵向扩容(增加硬盘)
摘要: 1.给虚拟机增加新的硬盘 点击完成后,重启虚拟机! 2.硬盘分区 输入命令:lsblk,查看当前硬盘使用情况,我们可以看到刚才增加的硬盘 ①输入命令进行分区: fdisk /dev/sdb m可以查看帮助 m:获取帮助 n:分区 p:查看分区表 w:将分区信息写入硬盘 ②输入n开始分区 输入命令ls
阅读全文
posted @ 2020-02-26 15:17 羊想云彩
阅读(1242)
评论(0)
推荐(0)
2020年2月25日
Hadoop完全分布式搭建
摘要: 1.克隆一台虚拟机作为分布式系统的节点 2.更改克隆机的网络配置 cd /etc/sysconfig/network-scripts vi ifcfg-ens33 修改完毕后退出,重启网络: systemctl restart network 3.添加主机映射 先修改主机名:vi /etc/host
阅读全文
posted @ 2020-02-25 19:13 羊想云彩
阅读(212)
评论(1)
推荐(0)
2020年2月23日
Hadoop之HDFS的FileSystem类的使用
摘要: 1.导入jar包 解压hadoop-2.7.7.tar.gz,并在如下路径找到图中所示三个jar包 下图所示路径所有jar包 还要用到下面三个jar包 下图所示路径所有jar包 把以上jar包全部加入到项目中 2.查看文件信息 @Test public void connectHDFS() { Co
阅读全文
posted @ 2020-02-23 16:37 羊想云彩
阅读(1934)
评论(0)
推荐(0)
2020年2月21日
Hdoop HDFS基本命令
摘要: -help:查看帮助 hadoop fs -help rm -rm [-f] [-r|-R] [-skipTrash] <src> ... :Delete all files that match the specified file pattern. Equivalent to the Unixc
阅读全文
posted @ 2020-02-21 14:59 羊想云彩
阅读(288)
评论(1)
推荐(0)
2020年2月20日
Centos7.4环境下Hadoop下载与安装
摘要: 1.下载地址 https://dist.apache.org/repos/dist/release/hadoop/common/ 我们这里用的版本是:hadoop-2.7.7.tar.gz 2.创建安装目录 我们在Centos环境中的opt目录创建install文件夹(用来存放压缩包)和soft文件
阅读全文
posted @ 2020-02-20 16:48 羊想云彩
阅读(1344)
评论(2)
推荐(0)
上一页
1
2
3
公告