2013年12月31日

摘要: 1.关于git的书籍,英文版http://git-scm.com/book 中文版http://git-scm.com/book/zh/%E8%B5%B7%E6%AD%A5还有一个不错的学习地址https://www.atlassian.com/git/2.搭建远程gi,http://www.cnb... 阅读全文
posted @ 2013-12-31 18:37 hequn8128 阅读(180) 评论(0) 推荐(0)

2013年12月30日

摘要: 系统:centos6.4 spark版本:0.8.11.spark官方网址里面有软件下载,文档,和视频教程。官网见:猛戳此处2.spark安装centos下安装方法见参考文献1。安装后运行example出现问题:1)WARN cluster.ClusterScheduler: Initial job has not accepted any resources; check your cluster UI to ensure that workers are registered and have sufficient memory ERROR client.Client$ClientActo 阅读全文
posted @ 2013-12-30 13:24 hequn8128 阅读(2061) 评论(2) 推荐(0)

2013年12月25日

摘要: 安装环境centos6.4按照参考文献2中的方法安装,可以成功,但是有些小问题。1.安装过程全在root用户下进行。2.安装完成后,浏览器访问ganglia出现各个节点的表格显示“ganglia no matching metrics detected”。原因:/var/lib/ganglia/rrds中对各个节点相应的文件夹是小写,如果节点的hostname中包含大写字母的话,这样就发现找到数据了。解决方法:修改gmetad.conf,将case_sensitive_hostnames的值设置为1# In earlier versions of gmetad, hostnames were 阅读全文
posted @ 2013-12-25 15:37 hequn8128 阅读(2149) 评论(0) 推荐(0)

2013年12月22日

摘要: http://blog.csdn.net/bushijieinside/article/details/12618263 阅读全文
posted @ 2013-12-22 21:30 hequn8128 阅读(98) 评论(0) 推荐(0)

2013年12月20日

摘要: hadoop通过jni调用c++,出现Task process exit with nonzero status of 134错误探究。一般来说,如果不管运行什么程序都出现这种错误,应该就是库的问题,网上有说。如果运行某些程序有问题,有些没有问题,应该就是自己程序的问题。(我遇到这种情况基本都是指针操作问题,操作了一个野指针!比如下面的第二种情况)1.将jni层delete[] 注释掉,问题解决JNIEXPORT jbyteArray JNICALL Java_hequn_hadoop_image_hq_1Image_1Process_zqf_1koutu (JNIEnv *env, jcl. 阅读全文
posted @ 2013-12-20 22:02 hequn8128 阅读(508) 评论(0) 推荐(0)
摘要: http://blog.csdn.net/bebaas/article/details/5891770 阅读全文
posted @ 2013-12-20 09:19 hequn8128 阅读(85) 评论(0) 推荐(0)

2013年12月18日

摘要: package hequn.image;import java.awt.image.BufferedImage;import java.awt.image.Raster;import java.io.ByteArrayOutputStream;import java.io.File;import java.io.FileInputStream;import java.io.FileNotFoundException;import java.io.FileOutputStream;import java.io.IOException;import java.io.InputStream;impo 阅读全文
posted @ 2013-12-18 15:45 hequn8128 阅读(262) 评论(0) 推荐(0)

2013年12月17日

摘要: 1.hbase概要http://hbase.apache.org/2.hbase quick starthttp://hbase.apache.org/book/quickstart.html3.安装http://blog.csdn.net/hguisu/article/details/72444134.hbase官方文档中文版http://abloz.com/hbase/book.html#configuration 阅读全文
posted @ 2013-12-17 20:04 hequn8128 阅读(103) 评论(0) 推荐(0)

2013年12月16日

摘要: storm官网:http://storm-project.net/1.入门的最佳途径是阅读GitHub上的官方《Storm Tutorial》。其中讨论了多种Storm概念和抽象,提供了范例代码以便你可以运行一个Storm Topology。开发过程中,可以用本地模式来运行Storm,这样就能在本地开发,在进程中测试Topology。一切就绪后,以远程模式运行Storm,提交用于在集群中运行的Topology。Maven用户可以使用clojars.org提供的Storm依赖,地址是http://clojars.org/repo。要运行Storm集群,你需要Apache Zookeeper、&# 阅读全文
posted @ 2013-12-16 11:42 hequn8128 阅读(196) 评论(0) 推荐(0)

2013年12月15日

摘要: hadoop变得越来越热门,但是hadoop的设计是用来处理静态数据和批处理任务,流处理实施起来不是很方便,有些困难。而目前存在的比较普遍的分布式流处理框架有Storm和S4。两者各有特点,以下大致列出了网上对两者的比较,以便根据不同的任务或需求来选择合适的框架。1.目前主要开源大数据解决方案解决方案开发商类型描述StormTwitter流式处理Twitter 的新流式大数据分析解决方案S4Yahoo!流式处理来自 Yahoo! 的分布式流计算平台HadoopApache批处理MapReduce 范式的第一个开源实现SparkUC Berkeley AMPLab批处理支持内存中数据集和恢复能力 阅读全文
posted @ 2013-12-15 21:52 hequn8128 阅读(729) 评论(0) 推荐(0)

导航