随笔分类 -  云计算

摘要:通过thrift远程调用框架,结合hadoop1.x中的thriftfs,编写了一个针对hadoop2.x的thriftfs。本文介绍了程序所需类库(boost、libthrift)的编译、thrift程序开发简单流程,同时提供thriftfs客户端和服务器端的源代码。水平有限,欢迎各位园友指正。 阅读全文
posted @ 2016-03-19 18:34 小小鸟的大梦想 阅读(1489) 评论(0) 推荐(0)
摘要:Httpfs是hadoop2.x中hdfs项目的内置应用,基于tomcat和jesery,对外提供完备HDFS操作的RESTful接口,无需安装客户端,可方便实现数据交互,如从windows访问存储在hdfs上的文件。本文通过Httpfs说明文档,实现了一个基于libcurl和jsoncpp的httpfs客户端程序(C++)。 阅读全文
posted @ 2016-03-19 08:22 小小鸟的大梦想 阅读(2518) 评论(0) 推荐(0)
摘要:参考Spark RDD资料,对RDD概念、作用、操作、处理原理等进行了整理。 阅读全文
posted @ 2016-01-24 09:19 小小鸟的大梦想 阅读(199) 评论(0) 推荐(0)