摘要:
一.安装Hive 下载解压重命名权限 配置环境变量 修改Hive配置文件 配置mysql驱动,下载合适版本的mysql jar包,拷贝到/usr/local/hive/lib目录下 在mysql新建hive数据库 配置mysql允许hive接入 启动Hadoop--启动Hive--退出Hive--停 阅读全文
摘要:
WordCount程序任务: 程序 WordCount 输入 一个包含大量单词的文本文件 输出 文件中每个单词及其出现次数(频数), 并按照单词字母顺序排序, 每个单词和其频数占一行,单词和频数之间有间隔 1.用你最熟悉的编程环境,编写非分布式的词频统计程序。 读文件 分词(text.split列表 阅读全文
摘要:
1.理解HBase表模型及四维坐标:行键、列族、列限定符和时间戳。 表格:数据以表格格式存储在 HBase 中。但这里的表格是面向列的格式。 行键:行键用于搜索记录,使搜索速度更快。你会很想知道怎么做吗?我将在本博客的架构部分进行解释。 列族:各种列组合在一个列族中。这些列族存储在一起,这使得搜索过 阅读全文
摘要:
1.下载压缩文件 2.解压 3.修改文件夹名 4.修改文件夹权限 5.配置环境变量 6.伪分布式配置文件 7.启动HDFS,启动Hbase 8.进入shell界面 9.停止Hbase,停止HDFS运行 阅读全文
摘要:
一、在Ubuntu系统中安装和配置Eclipse 二、利用hadoop 的java api,向HDFS写一个文件。 三、从HDFS读取一个文件的内容。 阅读全文
摘要:
1.用图文与自己的话,简要描述Hadoop起源与发展阶段。 Hadoop的起源 2003-2004年,Google公布了部分GFS和MapReduce思想的细节,受此启发的Doug Cutting等人用2年的业余时间实现了DFS和MapReduce机制,使Nutch性能飙升。然后Yahoo招安Dou 阅读全文