随笔分类 - BigData
大数据相关技术文档
摘要:摘抄自hbase ref guide 0.94; 在写本文的时候,hbase ref guide已经更新到1.2及2.0了,但是个人感觉Thrift过滤语法部分写得都没有0.94的好,省掉了example,看起来很不方便,也不便于在hbase shell中进行调试,因而复制一份过来,以免以后找不到;
阅读全文
摘要:Hadoop 2.2中正式启用了hdfs nfs功能,使得hdfs的通用性迈进了一大步。在公司让小朋友搭建了一下,然后我自己进行了一点简单的试验,有一点收获,记录在此。 理论 使用hdfs nfs功能的话,数据访问路径如上图:用户或程序通过Linux自带的nfs client访问hdfs nfs服务
阅读全文
摘要:
描述Lease、Block Recovery、Replication、SafeMode
阅读全文
描述Lease、Block Recovery、Replication、SafeMode
阅读全文
摘要:
描述Block Report、Checkpoint、Decommission、Heartbeat
阅读全文
描述Block Report、Checkpoint、Decommission、Heartbeat
阅读全文
摘要:介绍HDFS Client的主要结构,并描述写过程的部分细节
阅读全文
摘要:DataNode对ClientDatanodeProtocol、InterDatanodeProtocol两个协议接口进行了实现,通过ipc::Server向Client、其它DN提供RPC服务(参见Hadoop IPC); 同时DataNode依赖DatanodeProtocol向NN请求RPC服
阅读全文
摘要:NameNode对三大协议接口(NamenodeProtocol、ClientProtoco、DatanodeProtocol)进行实现,利用ipc::Server通过三个协议分别向SNN、Client、DN提供RPC服务(参考:Hadoop IPC);NameNode的核心是FSNamesysem
阅读全文
摘要:因为某些原因需要把前一段时间对Hadoop(版本基于0.20.2)的学习积累搬到这里,成为一个系列。写得会很简单,只为必要时给自己提醒。 IPC框架 所有Hadoop协议接口的实现都依赖Hadoop IPC; Hadoop IPC的目标是通过RPC完成调用者(RPC::Invoker)对被调用者(R
阅读全文

浙公网安备 33010602011771号