随笔分类 - Hadoop
摘要:CDH 环境搭建配置集成搭建CM 挺费劲 CM 里面 安装和管理服务 确实方便太多
阅读全文
摘要:YARN基本架构 Yarn 搭建也采用了HA , yarn-site.xml
阅读全文
摘要:一、调优的目的 充分的利用机器的性能,更快的完成mr程序的计算任务。甚至是在有限的机器条件下,能够支持运行足够多的mr程序。二、调优的总体概述 从mr程序的内部运行机制,我们可以了解到一个mr程序由mapper和reducer两个阶段组成,其中mapper...
阅读全文
摘要:官网使用了三张图来描述shuffle 过程 ,Map 和 reduce 是我们自己写的程序,所以没有写进这三个图里面,今天主要围绕这三张图我们做一个简单的说明和复习 :第一张图,从整体上把握流程上图提供的是整个流程的一部分,全部流程应该是有 4 个 Map ,3 ...
阅读全文
摘要:Jetty 是一个开源的servlet容器,它为基于Java的web容器,例如JSP和servlet提供运行环境。Jetty是使用Java语言编写的,它的API以一组JAR包的形式发布。开发人员可以将Jetty容器实例化成一个对象,可以迅速为一些独立运行(stand-...
阅读全文
摘要:大数据技术之Hadoop-----> 未完,待续 到官网下载 hadoop-2.5.2.tar.gz ,解压到没有中文的路径下 配置环境变量 HADOOP_HOME 配置Path 路径 %HADOOP_HOME%/bin ;%HADOOP_HOME%/sbin...
阅读全文