2013年10月26日
摘要: 工作中要使用HBase,刚刚开始接触HBase,理解不深,只是记录一下 。HBase基于google的bigtable论文实现,属于nosql。 几个概念:(1)列(column):最基本单位为列(column)(2)行健(row key):一列或多列形成一行,并有唯一的行健来确定存储(3)列族(column family):一行由若干列组成,若干列又构成一个列族特色:一个单元格中可以存放多条信息即不同版本,用时间戳来标识,不用sql语句操作,而是由API提供的命令执行。存储时,先写入log,在写入内存,在写入HFile。底层需要HDFS 和 zookeeper 支持。就这些吧,只是ma... 阅读全文
posted @ 2013-10-26 23:55 道法自然smile 阅读(186) 评论(0) 推荐(0) 编辑
摘要: 前言这段时间在用hdfs,由于要处理的文件比较多,要及时产出旧文件,但是发现hdfs的blocks数一直在上涨,经分析是hdfs写入的速度较快,而block回收较慢,所以分心了一下hadoop删文件的流程,并做了调优,希望对遇到此类问题的程序猿们有帮助。正文 经分析与查看源码发现,hdfs删除文件的流程是这样的:(1)java程序中的DFSClient调用delete函数,删除文件 (2)NameNode将文件从他的namespace中删除(3)NameNode通过心跳的方式,发命令给DataNode,告诉DataNode哪些block块该删除,然后DataNode才真正将文件删除。当然这.. 阅读全文
posted @ 2013-10-26 23:32 道法自然smile 阅读(1122) 评论(0) 推荐(0) 编辑
  2013年10月9日
摘要: 如何使用 yum 安装/更新/移除 软件一、建立仓库(repository)和源a)拷贝所以相关rpm包到某个目录b)执行createrepo /目录/目录/目录/目录 注意:b)中的路径要和a)中的目录一致 完成后在该目录会产生一个 repodta的目录二、配置yuma)yum的配置文件为 /etc/yum.conf (此文件可以不用修改)b)yum下载源定义文件在/etc/yum.repos.d/中 (重要的)/etc/yum.conf 是对 yum程序的说明;/etc/yum.repos.d/目录是对你要安装|删除|更新程序的源的定义,也就是告诉yum去什么地方找东西c)在/etc/y. 阅读全文
posted @ 2013-10-09 23:07 道法自然smile 阅读(601) 评论(0) 推荐(0) 编辑
摘要: 使用yum装软件很方便,这里简单介绍一下。Yum简介Yum(全称为 Yellow dog Updater, Modified)是一个在Fedora和RedHat以及SUSE、CentOS中的Shell前端软件包管理器。基於RPM包管理,能够从指定的服务器自动下载RPM包并且安装,可以自动处理依赖性关系,并且一次安装所有依赖的软件包,无须繁琐地一次次下载、安装。常用命令行命令安装软件(以foo-x.x.x.rpm为例):yum install foo-x.x.x.rpm删除软件:yum remove foo-x.x.x.rpm或者yum erase foo-x.x.x.rpm升级软件:yum u 阅读全文
posted @ 2013-10-09 23:04 道法自然smile 阅读(706) 评论(0) 推荐(0) 编辑
摘要: 一、安装iptraf我用的是centos,切换到root用户,执行yum install -y iptraf二、使用1、直接输入iptraf,进入软件,按任意键继续2、我主要是第二项和第三项,General interface statistics,看各网卡的流量第三项为详情。 阅读全文
posted @ 2013-10-09 18:44 道法自然smile 阅读(1070) 评论(0) 推荐(0) 编辑
  2013年10月8日
摘要: spring注解方式的定时任务配置:第一步:spring配置文件 第二步:java代码import org.springframework.beans.factory.annotation.Autowired; import org.springframework.scheduling.annotation.Scheduled; import org.springframework.stereotype.Component; @Component public class Timer { @Scheduled(cron = "* 0/20 * * * ... 阅读全文
posted @ 2013-10-08 13:21 道法自然smile 阅读(391) 评论(0) 推荐(0) 编辑
  2013年10月7日
摘要: 程序员,吃什么个对身体好程序员,对脑子和眼睛消耗比较大,整天对着电脑,脑力劳动,压力还比较大,你懂得。所以吃的上面应该注意一点,无外乎就是增加蛋白质和维生素的摄入量,控制脂肪和糖类的摄入(坐的时间长了,大象腿、水桶腰)。一、建议你多吃下列食物: 1.鸡蛋:鸡蛋含有卵磷脂,还含有丰富的钙、磷、铁、维生素A、D、B族等,每天可吃1个-2个。 2.大豆:大豆含40%的优质蛋白质,脂肪中85.5%是不饱和脂肪酸,可预防高脂血症和高胆固醇,并含有丰富的维生素B2、钙、磷、铁等,这些物质对大脑的营养很重要。 3.鱼、虾、:鱼、虾含15%-20%的蛋白质,鱼脂肪为不饱和脂肪酸,鱼肉的硫氨素、... 阅读全文
posted @ 2013-10-07 20:59 道法自然smile 阅读(1515) 评论(0) 推荐(0) 编辑
  2013年10月6日
摘要: 一、新建log4j.propperties,放在工程的src目录下。#fileAppender log4j.rootCategory = DEBUG,file,consoleAppender log4j.appender.file = org.apache.log4j.DailyRollingFileAppender log4j.appender.file.File = D:/logs/TestLog/testlog log4j.appender.file.DatePattern = ' _ ' yyyy - MM - dd ' .log ' log4j.app 阅读全文
posted @ 2013-10-06 09:26 道法自然smile 阅读(183) 评论(0) 推荐(0) 编辑
  2013年10月5日
摘要: 之前工作中用到了,相信写java的都会碰到xml,这里写了两个方法,创建和解析xml,废话不多说,直接上代码package xml; import java.io.File; import java.io.FileWriter; import java.io.IOException; import java.io.Writer; import java.util.Iterator; import java.util.List; import javax.xml.parsers.DocumentBuilder; import javax.xml.parsers.DocumentBuilder.. 阅读全文
posted @ 2013-10-05 23:12 道法自然smile 阅读(234) 评论(0) 推荐(0) 编辑
摘要: Java XML解析工具 dom4j介绍及使用实例dom4j介绍 dom4j的项目地址:http://sourceforge.net/projects/dom4j/?source=directory dom4j是一个简单的开源库,用于处理XML、 XPath和XSLT,它基于Java平台,使用Java的集合框架,全面集成了DOM,SAX和JAXP。dom4j的使用 下载了dom4j项目之后,解压缩,将其jar包(我的当前版本叫做dom4j-1.6.1.jar)加入class path下面。 (Properties->Java Build Path -> Add External J 阅读全文
posted @ 2013-10-05 22:47 道法自然smile 阅读(317) 评论(0) 推荐(0) 编辑