随笔分类 -  BigData

大数据相关技术文档
摘要:摘抄自hbase ref guide 0.94; 在写本文的时候,hbase ref guide已经更新到1.2及2.0了,但是个人感觉Thrift过滤语法部分写得都没有0.94的好,省掉了example,看起来很不方便,也不便于在hbase shell中进行调试,因而复制一份过来,以免以后找不到; 阅读全文
posted @ 2018-09-18 09:58 ZisZ 阅读(849) 评论(0) 推荐(0)
摘要:Hadoop 2.2中正式启用了hdfs nfs功能,使得hdfs的通用性迈进了一大步。在公司让小朋友搭建了一下,然后我自己进行了一点简单的试验,有一点收获,记录在此。 理论 使用hdfs nfs功能的话,数据访问路径如上图:用户或程序通过Linux自带的nfs client访问hdfs nfs服务 阅读全文
posted @ 2013-11-27 14:36 ZisZ 阅读(4772) 评论(0) 推荐(0)
摘要:描述Lease、Block Recovery、Replication、SafeMode 阅读全文
posted @ 2013-08-12 19:04 ZisZ 阅读(3231) 评论(0) 推荐(0)
摘要:描述Block Report、Checkpoint、Decommission、Heartbeat 阅读全文
posted @ 2013-08-12 18:49 ZisZ 阅读(1256) 评论(0) 推荐(0)
摘要:介绍HDFS Client的主要结构,并描述写过程的部分细节 阅读全文
posted @ 2013-08-12 17:44 ZisZ 阅读(2623) 评论(0) 推荐(0)
摘要:DataNode对ClientDatanodeProtocol、InterDatanodeProtocol两个协议接口进行了实现,通过ipc::Server向Client、其它DN提供RPC服务(参见Hadoop IPC); 同时DataNode依赖DatanodeProtocol向NN请求RPC服 阅读全文
posted @ 2013-08-12 17:27 ZisZ 阅读(487) 评论(0) 推荐(0)
摘要:NameNode对三大协议接口(NamenodeProtocol、ClientProtoco、DatanodeProtocol)进行实现,利用ipc::Server通过三个协议分别向SNN、Client、DN提供RPC服务(参考:Hadoop IPC);NameNode的核心是FSNamesysem 阅读全文
posted @ 2013-08-12 17:07 ZisZ 阅读(1859) 评论(0) 推荐(1)
摘要:因为某些原因需要把前一段时间对Hadoop(版本基于0.20.2)的学习积累搬到这里,成为一个系列。写得会很简单,只为必要时给自己提醒。 IPC框架 所有Hadoop协议接口的实现都依赖Hadoop IPC; Hadoop IPC的目标是通过RPC完成调用者(RPC::Invoker)对被调用者(R 阅读全文
posted @ 2013-08-12 16:44 ZisZ 阅读(2221) 评论(0) 推荐(0)