随笔分类 - Java学习
摘要:本文介绍Java中String对象的理解,以及试图探讨常量池的知识
阅读全文
摘要:作者:Ken WuEmail: ken.wug@gmail.com转载本文档请注明原文链接http://kenwublog.com/docs/java6-jvm-options-chinese-edition.htm!本文是基于最新的SUN官方文档Java SE 6 Hotspot VM Optio...
阅读全文
摘要:首先简单介绍PageRank的算法公式:(图片来源:http://en.wikipedia.org/wiki/Page_rank)PR(A)即A的PageRank值;d为阻尼因子,一般设为0.85;L(B)即B网站所有的出链数量(即B网站内的所有链接的数量)。所以公式的意义是:A的PageRank值...
阅读全文
摘要:上一篇文章浅析了FairScheduler的assignTasks()方法,介绍了FairScheduler任务调度的原理。略过了最后一步通过JobScheduler获取Task时调用JobInProgress的五个方法:obtainNewNodeLocalMapTask(),obtainNewNo...
阅读全文
摘要:首先需要了解FairScheduler是如何在各个Pool之间分配资源,以及每个Pool如何在Job之间分配资源的。FairScheduler的分配资源发生在update()方法中,而该方法由一个线程UpdateThread每隔updateInterval(由mapred.fairscheduler...
阅读全文
摘要:前两篇文章简单介绍了hadoop心跳机制的两个重要角色:JT和TT,虽然不是太详细,但是大纸业说清楚了一些事,在JT篇的最后对于JT返回TT的心跳响应中的一些命令一笔带过,这篇文章将重要介绍这些命令:ReinitTrackerAction,KillTaskAction,KillJobAction,C...
阅读全文
摘要:上一篇浅析了Hadoop心跳机制的TT(TaskTracker)方面,这一篇浅析下JT(JobTracker)方面。我们知道心跳是TT通过RPC请求调用JT的heartbeat()方法的,TT在调用JT的heartbeat回收集自身的状态信息封装到TaskTrackerStatus对象中,传递给JT...
阅读全文
摘要:在Hadoop中JT(JobTracker)与TT(TaskTracker)之间的通信是通过心跳机制完成的。JT实现InterTrackerProtocol协议,该协议定义了JT与TT之间的通信机制——心跳。心跳机制实际上就是一个RPC请求,JT作为Server,而TT作为Client,TT通过RP...
阅读全文
摘要:看到一篇文章,列出了几个使用MapReduce完成的算法(附有实现案例),但是还是想自己实现下,所以自己写了一个,后来看了下案例,不是太一样,但是我实现了,不管效果如何,或者好不好看,总之我实现了。这里就跟大家分享下,同时也希望能得到一个建议。首先介绍下我的实现思想:1.两个矩阵相乘,我们假设为a[...
阅读全文
摘要:JobTracker是hadoop的mapreduce框架中最重要的一个类,这个类负责整个集群的作业控制和资源管理。JobTracker的启动是在用户启动hadoop集群时启动的,也就是在hadoop启动完之后使用jps命令看到的jobTracker进程,启动代码是在start-mapred.sh中...
阅读全文
摘要:上一篇文章说到了jobTracker中的submitJob()方法,这个方法最终会调用listener.jobAdded(job),将Job注册到TaskScheduler中,由其进行调度。今天接着研究。hadoop中默认的TaskScheduler是JobQueueTaskScheduler,采用...
阅读全文
摘要:上一篇文章说到jobClient提交job的过程,这篇文章是接着上一篇文章继续写的。上一篇说到jobSubmitClient.submitJob( jobId, submitJobDir.toString(), jobCopy.getCredentials())这里,这里就是jobTracker进行...
阅读全文
摘要:hadoop的job提交过程相对来说还是有点复杂的,所以在学习源码的时候会显得有些乱,时常看了后面忘了前面,所以在看了多遍之后决定用文章的方式记录下来,一边自己下次再看的时候能够清晰些,同时也为初次接触这方面源码的同学提供一些帮助吧。希望自己可以写的足够详细。(本文针对hadoop1.2.1)1.j...
阅读全文
摘要:Spring RMI一开始看网上的资料感觉很简单,但一次一次的失败告诉我,那不简单,嘻嘻(当然实现之后还是蛮简单的)。首先我是使用SpringRMI实现两个Web系统之间的通信(其实也就是一个系统调用另一个系统的某个方法),这两个Web系统是部署在一个服务器上的,而且我将rmi的Spring配置文件...
阅读全文
摘要:Java内部类一、内部类概念一个类定义在另一个类的内部,这个类就叫做内部类。代码示例:public class TestClass { /*内部类,可以用private/public/protected修饰*/ private class InnerClass{ } public static vo...
阅读全文
摘要:接口和抽象类的区别abstract class和interface是Java语言中对于抽象类定义进行支持的两种机制,正是由于这两种机制的存在,才赋予了Java强大的面向对象能力。abstractclass和interface之间在对于抽象类定义的支持方面具有很大的相似性,甚至可以相互替换,因此很多开...
阅读全文
摘要:Java类加载器一、类加载器作用当JVM开始运作时需要使用当某个类时,就需要将对应类的字段吗加载到内存中,而类加载器正式负责加载这些类的工具。另外若果多次重复使用一个类的字节码时加载器不会多次加载,而是使用内存中的字节码。二、主要的类加载器我们首先看一下JVM预定义的三种类型类加载器,当一个 JVM...
阅读全文
摘要:Java类之间的关联关系UML类图中的关系分为四种:泛化、依赖、关联、实现;关联关系又可以细化为聚合和组合。一、泛化(Generalization)泛化是父类和子类之间的关系,子类继承父类的所有结构和行为。在子类中可以增加新的结构和行为,也可以覆写父类的行为。一般用一个带空心箭头的实线表示泛化关系,...
阅读全文
摘要:Session的理解一、 个人误区一开始很傻的把Session的会话与用户的登录与退出弄混淆了,实在很傻!Session的会话指的是当你打开浏览器,请求一个应用服务器时开始,直到与这个应用服务器断开连接(如关闭浏览器等)为止的一系列动作。这与用户登录完全没有关系,被弄混淆个人觉得是Session最普...
阅读全文
摘要:一、Struts 2框架整合Spring步骤1、复制文件。复制struts2-spring-plugin-x-x-x.jar和spring.jar到WEB-INF/lib目录下。其中的x对应了Spring的版本号。还需要复制commons-logging.jar文件到WEB-INF/lib目录下。2...
阅读全文

浙公网安备 33010602011771号