12 2020 档案

摘要:一、词频统计 1、下载喜欢的电子书或大量文本数据,并保存在本地文本文件中 2、编写map与reduce函数 map函数: reduce函数: 3、本地测试map与reduce 4、将文本数据上传至HDFS上 5、用hadoop streaming提交任务 6、查看运行结果 7、计算结果取回到本地 二 阅读全文
posted @ 2020-12-25 10:14 嘛意思 阅读(56) 评论(0) 推荐(0)
摘要:使用sqoop进行将Hive 词频统计的结果数据传输到Mysql中。 测试用例 1、mysql准备接受数据的数据库与表 2、hive准备待传输的数据 3、sqoop进行数据传输 4、mysql查看传输结果 电子书 1、mysql准备接受数据的数据库与表 2、hive准备待传输的数据 3、sqoop进 阅读全文
posted @ 2020-12-12 12:13 嘛意思 阅读(71) 评论(0) 推荐(0)
摘要:一、hive用本地文件进行词频统计 1.准备本地txt文件 2.启动hadoop,启动hive 3.创建数据库,创建文本表 4.映射本地文件的数据到文本表中 5.hql语句进行词频统计交将结果保存到结果表中。 6.查看统计结果 二、hive用HDFS上的文件进行词频统计 1.准备电子书或其它大的文本 阅读全文
posted @ 2020-12-06 15:15 嘛意思 阅读(82) 评论(0) 推荐(0)