2014年7月28日

hadoop 1.2.1 安装步骤 伪分布式

摘要: 最近在系统的学习hadoop 课程第一步是安装hadoop1.x,具体安装步骤如下: 一、系统安装 本文使用centos6.5安装,具体安装步骤省略 二、jdk安装 下载jdk1.7.0_51解压,在环境中 设置环境变量: vi /etc/profile,添加如下行: export JAVA_... 阅读全文

posted @ 2014-07-28 10:50 封起De日子 阅读(135) 评论(0) 推荐(0)

heritrix 3.2.0 -- 环境搭建

摘要: heritrix作为一个比较经典的开源爬虫,写这篇文章目的是因为,3.X之后的heritrix的介绍以及配置的文章比较少了。 heritrix 3.x 以后使用maven 2配置jar包引用,但是总是有好多包没法从maven库下载。所以,这里讲的环境搭建直接使用了编译好的工程来做,heritr... 阅读全文

posted @ 2014-07-28 10:50 封起De日子 阅读(256) 评论(0) 推荐(0)

记一次 java程序优化

摘要: 优化原因 环境中部署两个程序: web应用 tomcat 10G(webservice服务端,前端web服务)java应用 5G(webservice客户端,socket客户端) 之前的设计思路是打算web应用作为前端不做业务处理,后端使用webservice... 阅读全文

posted @ 2014-07-28 10:50 封起De日子 阅读(188) 评论(0) 推荐(0)

heritrix 3.2.0 下载

摘要: 由于archive.org屏蔽,编译完成版本 http://builds.archive.org/maven2/org/archive/heritrix/heritrix/3.2.0/ 无法下载。 现将dist版本放到github,方便大家下载学习 github地址如下: https:... 阅读全文

posted @ 2014-07-28 10:50 封起De日子 阅读(221) 评论(0) 推荐(0)

elasticsearch 性能测试

摘要: 最近花很大的经历来做性能测试,把结果整理到了ppt中,可能有个别地方不准,但是可以看看一个趋势。 主要分为两部分,一部分是写入elasticsearch性能,一部分是查询测试,elasticsearch的查询性能。 当然在elasticsearch1.3.0之后elasticsearch会提供... 阅读全文

posted @ 2014-07-28 10:50 封起De日子 阅读(2964) 评论(2) 推荐(0)

spring 4 泛型注入

摘要: 最近对系统进行改造,发现在泛型实例初始化的时候,得不到想要的泛型。或者需要强制转换。 spring 4 开始支持泛型对象初始化,初始化方法如下: 注:使用配置文件的方法暂时还没有发现,下面是使用java annotation的方法: package com.mitchz..toolkit.cha... 阅读全文

posted @ 2014-07-28 10:50 封起De日子 阅读(107) 评论(0) 推荐(0)

系统监控的工具tsar

摘要: 近期一直在折腾着elasticsearch,需要对硬件进行评估 大概几方面 内存 cpu 硬盘 网络。 iostat vmstat top 几个命令用了一堆,其实需要关注的几个点只要都列出来就可以了 [root@cloud-15 tsar-master]# tsar -l -i 1Time... 阅读全文

posted @ 2014-07-28 10:50 封起De日子 阅读(165) 评论(0) 推荐(0)

haproxy简单负载均衡搭建

摘要: 最近对负载均衡进行搭建具体方法如下:haproxy 修改部分(haproxy-cfg.cfg)global daemon maxconn 4500 defaults mode http timeout connect 5000ms time... 阅读全文

posted @ 2014-07-28 10:50 封起De日子 阅读(199) 评论(0) 推荐(0)

highchart 实现mrtg

摘要: 最近需要对流量图进行重构, 流入流出 效果如下: 大小: 25.7 KB 大小: 18.7 KB 查看图片附件 阅读全文

posted @ 2014-07-28 10:49 封起De日子 阅读(153) 评论(0) 推荐(0)

初识lucene

摘要: lucene的介绍网上有好多,再写一遍可能有点多余了。 使用lucene之前,有一系列的疑问 为什么lucene就比数据库快?倒排索引是什么,他是怎么做到的lucene的数据结构是什么样的,cpu消耗,内存消耗主要因为什么lucene的索引流程以及查询流程是什么样的 推荐两篇文章,更进一步了... 阅读全文

posted @ 2014-07-28 10:49 封起De日子 阅读(93) 评论(0) 推荐(0)

iostat 离线安装

摘要: 由于lucene需要一定的io读写顾安装iostat来对磁盘io进行监控 iostat 属于sysstat下的功能 git路径如下:https://github.com/sysstat/sysstat 第一步,需要下载该文件 http://sebastien.godard.pagesperso... 阅读全文

posted @ 2014-07-28 10:49 封起De日子 阅读(1621) 评论(0) 推荐(0)

log4j日志分模块打印,同时不打印到控制台上

摘要: 由于定时刷新程序的启用,导致catalina.out配置文件中打入大量日志,致使程序调试困难。 无法正常查看日志。所以客户要求将性能流量配置日志迁移出catalina.out目录。修改log4j配置文件后,发现 分文件中有了日志输出,但... 阅读全文

posted @ 2014-07-28 10:49 封起De日子 阅读(1111) 评论(0) 推荐(0)

ElasticSearch大批量数据入库

摘要: 最近着手处理大批量数据的任务。 现状是这样的,一个数据采集程序承载大批量数据的存储和检索。后期可能需要对大批量数据进行统计。 数据分布情况 13个点定时生成采集结果到4个文件(小文件生成周期是5分钟) 名称 ... 阅读全文

posted @ 2014-07-28 10:49 封起De日子 阅读(1171) 评论(0) 推荐(0)

dubbo初体验

摘要: 最近需要开发部门中某个大数据量的提取的功能,加到了一个ElasticSearch的群。在群里听说到一个框架叫dubbo,阿里系开源软件。听到群友谈的神乎其神的,什么什么功能切分多协议栈,高并发等等等。最最重要的一点,还有一个控制台,计数器。于是联想到了手头的一个功能的优化。现状是这样... 阅读全文

posted @ 2014-07-28 10:49 封起De日子 阅读(98) 评论(0) 推荐(0)

oracle pipelined返回值函数 针对数据汇总统计 返回结果集方法

摘要: 近期需要一个汇总统计,由于数据太多,数据量太大所以在java程序中实现比较困难。若用后台程序统计,数据不能保证实时,同时实现周期比较长。顾使用函数返回结果集的方式,在不增加临时表的情况下实时获取数据。需求为:多个端口流量每五分钟累计汇总一次。如果用程序实现则为讲所有数据取出做每五分钟统计,元数... 阅读全文

posted @ 2014-07-28 10:49 封起De日子 阅读(234) 评论(0) 推荐(0)

hadoop 2.3 集群总结

摘要: 用了近两个礼拜的摸索终于搭建好了hadoop集群,测试性能也符合预期。 centos6.4下hadoop2.3集群总结如下: 关于环境的设置: 1.关闭selinux (反复折腾了好多次) vi /etc/selinux/config ... 阅读全文

posted @ 2014-07-28 10:49 封起De日子 阅读(138) 评论(0) 推荐(0)

比较有用的log4j.properties

摘要: 转自 http://walsh.iteye.com/blog/314941 log4j.properties log4j.rootLogger=DEBUG,CONSOLE,DATABASE,FILE log4j.addivity.org.apache=true # 应用于控... 阅读全文

posted @ 2014-07-28 10:49 封起De日子 阅读(231) 评论(0) 推荐(0)

centos 6.5 hadoop 2.3 初配置

摘要: 为了安装hadoop废了好大的劲才把esxi5.5给装好。 同时装了centos6.5,由于hadoop里面有个免密码登陆所以这里讲的就是免密码登陆。 看了大家的博客文章发现转发的一部分,写ubuntu的一部分,写centos的又有一部分。 可能自己理解的程度有限,现把解决的部分问题列出来,供... 阅读全文

posted @ 2014-07-28 10:49 封起De日子 阅读(166) 评论(0) 推荐(0)

esxi5.5 安装,虚拟机复制

摘要: 尝试在vmware workstation上安装hadoop,感觉太慢了。 好在家里的台式机配置还可以,所以就想在它上面虚拟出几台服务器出来。 台式机配置如下: 虚拟出来三个应该没问题了吧。 第一步,下载esix5.5(去官网上看是需要注册,然后就是无尽的等待) 网盘地址: http://p... 阅读全文

posted @ 2014-07-28 10:49 封起De日子 阅读(231) 评论(0) 推荐(0)

总结spring下配置dbcp,c3p0,proxool数据源链接池

摘要: 转载自 http://hiok.blog.sohu.com/66253191.html applicationContext-datasource-jdbc.xml datasource ${jdbc.driverClassName} ${jdbc.url} ${jd... 阅读全文

posted @ 2014-07-28 10:48 封起De日子 阅读(123) 评论(0) 推荐(0)

centos下安装mysql步骤

摘要: 转载自http://zym820910.iteye.com/blog/671566 一、下载MySQL5.0和相关perl包 1.官网[url] http://dev.mysql.com/downloads/mysql/5.0.html[/url]下载MySQL5.0版本,这里需要注意的是下载与... 阅读全文

posted @ 2014-07-28 10:48 封起De日子 阅读(163) 评论(0) 推荐(0)

Swing透明和变换

摘要: 以前或许大家对一个UI组件是否透明没有那么关心,但是自从Vista的毛玻璃出现后,UI透明就成了大家非常关注的一个话题,于是Java阵营开始了铺天盖地的讨论如何实现透明的效果,但是很不幸的是无论组件如何透明和变换,但是能够放置于屏幕任何位置的Window一族就是没法透明和变形,原生代码的问题还是... 阅读全文

posted @ 2014-07-28 10:48 封起De日子 阅读(209) 评论(0) 推荐(0)

在Struts2中集成Spring详细讲解

摘要: Spring的官方定义是:一个轻量级的IoC和Aop容器框架,它使用了一种叫做依赖注入的技术。 所谓依赖注入,就是指将创建对象以及协议依赖对象之间合作的责任从对象自身中转移到“工厂”中去,这个“工厂”通常由IoC容器提供。 Struts2与Spring的集成要用到Spring插件包,这个包... 阅读全文

posted @ 2014-07-28 10:48 封起De日子 阅读(159) 评论(0) 推荐(0)

AJAX实例入门

摘要: 一、开门见山 这些时间,瞎子也看得见,AJAX正大踏步的朝我们走来。不管我们是拥护也好,反对也罢,还是视而不见,AJAX像一阵潮流,席转了我们所有的人。 关于AJAX的定义也好,大话也好,早有人在网上发表了汗牛充栋的文字,在这里我也不想照本宣科。 只想说说我感觉到的一些优点,对于不对,大家也可... 阅读全文

posted @ 2014-07-28 10:48 封起De日子 阅读(112) 评论(0) 推荐(0)

Redhat Enterprise Linux中如何关闭SELinux?

摘要: 转自http://www.cnitblog.com/lywaml/archive/2005/06/21/468.html 红帽企业 Linux 4 包括了一个 SELinux 的实现。SELinux 代表了用户,程序以及进程间相互交流的主要变化。在这个发行版本中,SELinux 被默认安装并被开启... 阅读全文

posted @ 2014-07-28 10:48 封起De日子 阅读(332) 评论(0) 推荐(0)

C3P0连接池详细配置

摘要: C3P0连接池详细配置 转自http://msq.javaeye.com/blog/60387 3 30 1000 false Test false 100 null false 60 3 60 15 100 3 root password ... 阅读全文

posted @ 2014-07-28 10:48 封起De日子 阅读(105) 评论(0) 推荐(0)

hibernate中load,get;find,iterator;merge,saveOrUpdate,lock的区别

摘要: hibernate中load,get;find,iterator;merge,saveOrUpdate,lock的区别 转自http://www.blogjava.net/bnlovebn/archive/2007/07/13/130025.html 一、load,get(1)当记录不存在时候,... 阅读全文

posted @ 2014-07-28 10:48 封起De日子 阅读(104) 评论(0) 推荐(0)

107个常用Javascript语句

摘要: 1.document.write( " "); 输出语句 2.JS中的注释为// 3.传统的HTML文档顺序是:document- >html- >(head,body) 4.一个浏览器窗口中的DOM顺序是:window- >(navigator,screen,history,location,... 阅读全文

posted @ 2014-07-28 10:48 封起De日子 阅读(106) 评论(0) 推荐(0)

车祸 shit

摘要: 今天上班的时候就觉得右眼在那跳,妈的,果不其然,回家路上自行车也跟人家撞上了,郁闷,裤子也坏了,腿也伤了。我还没反应过来,撞一起的是个女的,十七八岁吧,郁闷,什么破自行车。强烈呼吁不要去买小自行车了,质量太差了。链条也掉了,前轮也坏了,受不了。害的我还要去修,晚上还好找到一家还没收摊的,郁闷死我了... 阅读全文

posted @ 2014-07-28 10:48 封起De日子 阅读(77) 评论(0) 推荐(0)

JAVASCRIPT实现XML分页

摘要: 为了方便用户查看大批量数据,我们会用到动态分页,因此分页功能是我们在网站上见过的最普遍也是最常用的一个功能模块了。而以往的信息分页都是连接到数据库的,每一次点击都必须要后台数据库的支持。这样不但服务器的负担加重,而且严重的影响用户浏览的速度.试想,如果把分页的功能放到客户端,那会产生什么样的效果呢... 阅读全文

posted @ 2014-07-28 10:48 封起De日子 阅读(245) 评论(0) 推荐(0)

javabeans的运用

摘要: javabeans的运用 对javabean的使用我开始严重的郁闷,跟着书上说的做,但是总是不成功。后来别人说我是基础不牢靠。我觉得应该从servlet学起然后再加进入JSP学是非常快的,对于JAVABEAN在我看来和普通类差不多,只是多了一些很少的特性而已,如果学习servlet对类的调用就会... 阅读全文

posted @ 2014-07-28 10:48 封起De日子 阅读(130) 评论(0) 推荐(0)

导航