随笔分类 -  Hadoop学习笔记

摘要:bin/hadoop命令操作:namenode -format格式化文件系统fs(缩写:FileSystem)运行一个文件系统的用户客户端bin/hadoop fs常用命令操作: -ls hdfs路径:查看hdfs结构信息. -lsr hdfs路径 递归显示(list status recur... 阅读全文
posted @ 2015-03-23 00:20 小丁子 阅读(446) 评论(0) 推荐(0)
摘要:分布式系统的大概图 服务器越来越多,客户端对服务器的管理就会越来越复杂,客户端如果是我们用户,就要去记住大量的ip. 对用户而言访问透明的就是分布式文件系统. 分布式文件系统最大的特点:数据存储在多台机器上,但是对用户透明. 为什么要出现分布式文件系统? ... 阅读全文
posted @ 2015-03-22 23:13 小丁子 阅读(707) 评论(0) 推荐(0)
摘要:Hadoop安装分为三种不同模式: 本地模式:hadoop在运行时,不使用hdfs,而是使用linux操作系统的文件系统.(默认hadoop就是本地模式) 伪分布模式:在一个节点上运行hadoop(指的是hadoop的各个进程都是在我们的一个节点上都是开启的).hadoop的"运行机制"和集... 阅读全文
posted @ 2015-03-21 01:16 小丁子 阅读(780) 评论(0) 推荐(0)
摘要:Hadoop作者:DongCutting. 受Google三篇论文的启发. 版本: Apache:官方版本 Cloudera:官方版本的封装,优化,打很多patch,商业版本 HortonWorks:基于apache的版本进行了集成hadoop是什么? ... 阅读全文
posted @ 2015-03-17 22:47 小丁子 阅读(11499) 评论(1) 推荐(1)