摘要:
Yarn是随着hadoop发展而催生的新框架,全称是Yet Another Resource Negotiator,可以翻译为“另一个资源管理器”。yarn取代了以前hadoop中jobtracker(后面简写JT)的角色,因为以前JT的 任务过重,负责任务的调度、跟踪、失败重启等过程,而且只能运行... 阅读全文
随笔分类 - Java
JAVA的内存模型
2015-05-19 10:42 by Polarisary, 482 阅读, 收藏,
摘要:
转一篇关于内存模型很好的文章【http://ifeve.com/under-the-hood-runtime-data-areas-javas-memory-model/】原文链接所有的Java开发人员可能会遇到这样的困惑?我该为堆内存设置多大空间呢?OutOfMemoryError的异常到底涉及到... 阅读全文
2014年总结
2015-01-12 20:04 by Polarisary, 204 阅读, 收藏,
摘要:
2014已经过去两周了,总结下过去一年的学习、工作和生活。首先,过去的一年里,从数据部异动到云平台,经过两次二级部门调整,现在终于算是稳定了,可谓好事多磨。遇到的两位领导也都很好,在此特别感谢锋哥和炯哥的信任。技术上,算是实现了一个大的转型。从推荐的算法转向到系统工程实现,也是从自身兴趣和其他一些因... 阅读全文
国外程序员整理的Java资源
2015-01-08 09:36 by Polarisary, 525 阅读, 收藏,
摘要:
好资料,慢慢学习。http://www.importnew.com/14429.html构建这里搜集了用来构建应用程序的工具。Apache Maven:Maven使用声明进行构建并进行依赖管理,偏向于使用约定而不是配置进行构建。Maven优于Apache Ant。后者采用了一种过程化的方式进行配置,... 阅读全文
Storm因机器断电等,启动supervisor异常
2014-08-13 10:54 by Polarisary, 360 阅读, 收藏,
摘要:
Storm因机器断电等,启动supervisor错误因机器断电或其他异常导致的supervisor意外终止,再次启动时报错:2014-08-13 10:36:03 b.s.event [ERROR] Error when processing eventjava.lang.RuntimeExcept... 阅读全文
Java中String是“引用”传递
2013-12-27 16:00 by Polarisary, 10864 阅读, 收藏,
摘要:
如题,在java中这是一个典型的问题。 在stackoverflow上已经有很多相似的问题被提问,并且有很多不正确或不完整的答案。如果你不往深处想,这是一个很简单的问题。但如果深入思考,它却很让人迷惑。1. 下面是一段很有意思并且让人迷惑的代码public static void main(String[] args) { String x = new String("ab"); change(x); System.out.println(x);} public static void change(String x) { x = "cd";}运行它将打 阅读全文
研发十大站点
2013-12-24 10:26 by Polarisary, 343 阅读, 收藏,
摘要:
1、StackoverflowStackoverflow.com可能是编程界中最流行的网站了,该网站有成千上万个好问题和答案。学习API或者编程语言,通常依赖于代码示例,stackoverflow就可以提供大量的代码片段。Stackoverflow的另一个优点在于它的社交性。你可以在一些特定的标签下查看问题,比如“Java”、“regex”,你就会看到哪些是高频问题。这对于学习,以及Java博主书写热门话题都是一种非常好的资源。网站地址:http://stackoverflow.com/2、DZone这是一个非常有趣的网站,有相当多的开发者在这个网站上分享他们博客文章。就像一场冒险一样,在这里 阅读全文
markdown
2013-11-22 10:05 by Polarisary, 167 阅读, 收藏,
摘要:
###这里写markdown文档```public class Test{ public static void main(String args[]){ System.out.print("test"); }}``` 阅读全文
线程安全且高效的单例
2013-10-29 16:15 by Polarisary, 233 阅读, 收藏,
摘要:
public class Singleton{ private static Singleton instance;//静态的实例 private Singleton(){}//私有的构造函数 public static Singleton getInstance(){ if(instance == null){ synchronized(Singleton.class){//锁住整个对象 if(instance==null){//再次判断是否为空,防止没锁对象时判断完后其他线程实例化 instance = new Singleton();... 阅读全文
hadoop作业调优参数整理及原理【转】
2013-09-25 14:23 by Polarisary, 330 阅读, 收藏,
摘要:
1 Map side tuning参数1.1 MapTask运行内部原理当map task开始运算,并产生中间数据时,其产生的中间结果并非直接就简单的写入磁盘。这中间的过程比较复杂,并且利用到了内存buffer来进行已经产生的部分结果的缓存,并在内存buffer中进行一些预排序来优化整个map的性能。如上图所示,每一个map都会对应存在一个内存buffer(MapOutputBuffer,即上图的buffer in memory),map会将已经产生的部分结果先写入到该buffer中,这个buffer默认是100MB大小,但是这个大小是可以根据job提交时的参数设定来调整的,该参数即为:io. 阅读全文
HBase ZooKeeper安装
2013-05-13 21:31 by Polarisary, 791 阅读, 收藏,
摘要:
中文文档:http://abloz.com/hbase/book.html1.下载hbase安装包http://www.apache.org/dyn/closer.cgi/hbase/2.将安装包放在/home/hbase目录解压3.修改其conf目录下的hbase-site.xml<?xmlversion="1.0"?><?xml-stylesheettype="text/xsl"href="configuration.xsl"?><configuration><property>&l 阅读全文
Java引用与地址盲点
2013-04-17 23:46 by Polarisary, 360 阅读, 收藏,
摘要:
一直以为Java中引用和地址是一个概念,容易混淆,下面的小程序让我加深了对引用的理解。public class Test{ public static void main(String[] args){ Test t = new Test(); t.amethod(); } public void amethod(){ int i=99; ValHold v = new ValHold(); v.i=30; another(v,i); System.out.println(v.... 阅读全文
浙公网安备 33010602011771号