2017年1月14日
摘要: jvm参数设置可以查看:http://www.cnblogs.com/xrq730/p/4830692.html 1、java虚拟机内存模型 主要分为:程序计数器,java虚拟机栈,本地方法栈,java堆,方法区 1.1 程序计数器(ProgramCounter Register): 一块较小的内存 阅读全文
posted @ 2017-01-14 17:12 YL10000 阅读(184) 评论(0) 推荐(0) 编辑
  2017年1月13日
摘要: 1、java中的四种引用类型(级别由高到低为:强引用,软引用,弱引用和虚引用) 1.1 强引用:默认创建的变量都是强引用,垃圾回收机制不会将其回收,当内存空 间不足,Java虚拟机宁愿抛出OutOfMemoryError错误,使程序异常终止 1.2 软引用(SoftReference):内存不足时, 阅读全文
posted @ 2017-01-13 16:40 YL10000 阅读(153) 评论(0) 推荐(0) 编辑
  2017年1月12日
摘要: 1、字符串优化处理 1.1 常量池的优化:当String对象拥有相同的值时,他们只引用常量池的同一个拷贝. 1.2 字符串截取导致内存泄露问题优化(包装类都有此问题) 在使用substring方法时,在其外面使用new String()进行处理即可解决此问题(触发垃圾回收) 1.3 对于字符串的拆分 阅读全文
posted @ 2017-01-12 17:37 YL10000 阅读(155) 评论(0) 推荐(0) 编辑
  2017年1月11日
摘要: 1、阿姆达尔定律 1.1 加速比=优化后的耗时/优化前的耗时 1.2 阿姆达尔定律 s<=1/F+(1-F)/N 其中:s为加速比,F为程序的串行化比重,n为cpu处理核数 2、调优层次(设计调优、代码调优、JVM调优、数据库调优) 2.1 设计模式 2.1.1 单列模式:常见应用spring注解, 阅读全文
posted @ 2017-01-11 16:11 YL10000 阅读(210) 评论(0) 推荐(0) 编辑
  2016年12月6日
摘要: 1、开启虚拟技术 1.1 安装virtualenv 1.1.1 在python环境中运行pip install virtualenv 出现如下信息表示安装成功 1.1.2 进入python的Script目录,运行virtualenv pyenv 创建虚拟目录 1.1.3 激活虚拟环境 2.安装pyr 阅读全文
posted @ 2016-12-06 09:52 YL10000 阅读(157) 评论(0) 推荐(0) 编辑
  2016年11月18日
摘要: 1.rdd的初始化 1.1 读取文件来初始化rdd(通过sparkContext的textFile方法) 1.1.1 读取本地文件 1.1.2 读取hdfs文件 1.2 并行化集合来初始化rdd(通过sparkContext.) 2.rdd的基本操作(分为transformation和action) 阅读全文
posted @ 2016-11-18 18:32 YL10000 阅读(275) 评论(0) 推荐(0) 编辑
  2016年9月27日
摘要: 1.grouping分组策略 stream grouping就是用来定义一个stream应该如果分配给Bolts上面的多个Tasks。 storm里面有6种类型的stream grouping: 1.1.Shuffle Grouping: 随机分组, 随机派发stream里面的tuple, 保证每个 阅读全文
posted @ 2016-09-27 20:37 YL10000 阅读(245) 评论(0) 推荐(0) 编辑
  2016年9月16日
摘要: 1.strom的安装和测试 1.1 搭建zookeeper集群 参考hadoop2.0初识1.3中的1.4配置zookeeper集群和自动故障转移 1.2 安装storm依赖的软件 sudo yum install gcc-c++ sudo yum install uuid-devel sudo y 阅读全文
posted @ 2016-09-16 11:08 YL10000 阅读(200) 评论(0) 推荐(0) 编辑
  2016年9月11日
摘要: 1.常用的调度框架 1.1 linux crontab 1.1.1 编写一个crontab,每一分钟向/opt/data/cronlogs文件中添加当前时间 crontab -e 1.1.2 查看当前所用的定时任务 crontab -l 1.1.3删除当前的定时任务 crontab -r 1.2 a 阅读全文
posted @ 2016-09-11 11:56 YL10000 阅读(400) 评论(0) 推荐(0) 编辑
  2016年9月10日
摘要: 1.flume的安装和配置 1.1 配置java_home,修改/opt/cdh/flume-1.5.0-cdh5.3.6/conf/flume-env.sh文件 1.2 配置hdfs集成 1.2.1添加hdfs的jar包到/opt/cdh/flume-1.5.0-cdh5.3.6/lib目录下 c 阅读全文
posted @ 2016-09-10 23:20 YL10000 阅读(712) 评论(0) 推荐(0) 编辑