摘要: 一.安装Hive 下载解压重命名权 配置环境变量 $HIVE_HOME source ~/.bashrc 修改Hive配置文件 gedit cd /usr/local/hive/conf cp hive-default.xml.template hive-default.xml vim ./hive 阅读全文
posted @ 2021-12-07 11:02 少郎 阅读(18) 评论(0) 推荐(0) 编辑
摘要: WordCount程序任务: 程序 WordCount 输入 一个包含大量单词的文本文件 输出 文件中每个单词及其出现次数(频数), 并按照单词字母顺序排序, 每个单词和其频数占一行,单词和频数之间有间隔 1.用你最熟悉的编程环境,编写非分布式的词频统计程序。 读文件 分词(text.split列表 阅读全文
posted @ 2021-11-23 20:00 少郎 阅读(62) 评论(0) 推荐(0) 编辑
摘要: 1.理解HBase表模型及四维坐标:行键、列族、列限定符和时间戳。 表:HBase采用表来组织数据,表由行和列组成,列划分为若干个列族。行:每个HBase表都由若干行组成,每个行由行键(row key)来标识。列族:一个HBase表被分组成许多“列族”(Column Family)的集合,它是基本的 阅读全文
posted @ 2021-11-05 11:03 少郎 阅读(364) 评论(0) 推荐(0) 编辑
摘要: 1.下载压缩文件 在window下载hbase-1.1.5-bin.tar.gz 使用文件传输工具传到Ubuntu的/tmp目录下 2.解压 sudo tar -zxf /tmp/hbase-1.1.5-bin.tar.gz -C /usr/local 3.修改文件夹名 cd /usr/local/ 阅读全文
posted @ 2021-11-02 10:44 少郎 阅读(38) 评论(0) 推荐(0) 编辑
摘要: 一、在Ubuntu系统中安装和配置idea 去官网地址下载 https://www.jetbrains.com/idea/download/#section=linux 选择这个版本下载 把Idea放到你想要放的位置,如: sudo cp ideaIU-2021.2.3.tar.gz /usr/lo 阅读全文
posted @ 2021-10-31 02:58 少郎 阅读(108) 评论(0) 推荐(0) 编辑
摘要: 1.用图与自己的话,简要描述Hadoop起源与发展阶段。 Hadoop之父Doug Cutting Hadoop最早起源于lucene下的Nutch。Nutch的设计目标是构建一个大型的全网搜索引擎,包括网页抓取、索引、查询等功能,但随着抓取网页数量的增加,遇到了严重的可扩展性问题——如何解决数十亿 阅读全文
posted @ 2021-10-22 09:55 少郎 阅读(91) 评论(0) 推荐(0) 编辑
摘要: cd命令:切换目录 (1)切换到目录 /usr/local cd /usr/local (2)去到目前的上层目录 cd .. (3)回到自己的主文件夹 cd ~ ls命令:查看文件与目录 (4)查看目录/usr下所有的文件 ls /usr mkdir命令:新建新目录 (5)进入/tmp目录,创建一个 阅读全文
posted @ 2021-09-25 22:16 少郎 阅读(87) 评论(0) 推荐(0) 编辑
摘要: 超详细详细配置请看此链接 1、如要进行以下配置,请自行安装好ubuntu 2、安装mysql sudo apt-get update sudo apt-get install mysql-server sudo netstat -tap | grep mysql service mysql stop 阅读全文
posted @ 2021-09-24 09:24 少郎 阅读(56) 评论(0) 推荐(0) 编辑
摘要: 1.为什么产生大数据技术 对于“大数据”(Big data)研究机构Gartner给出了这样的定义。“大数据”是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力来适应海量、高增长率和多样化的信息资产。 随着云时代的来临,大数据(Big data)也吸引了越来越多的关注。分析师团队认为,大 阅读全文
posted @ 2021-09-10 00:39 少郎 阅读(334) 评论(0) 推荐(0) 编辑