12 2020 档案
摘要:一、词频统计 1、下载喜欢的电子书或大量文本数据,并保存在本地文本文件中 2、编写map与reduce函数 map函数: reduce函数: 3、本地测试map与reduce 4、将文本数据上传至HDFS上 5、用hadoop streaming提交任务 6、查看运行结果 7、计算结果取回到本地 二
阅读全文
摘要:使用sqoop进行将Hive 词频统计的结果数据传输到Mysql中。 测试用例 1、mysql准备接受数据的数据库与表 2、hive准备待传输的数据 3、sqoop进行数据传输 4、mysql查看传输结果 电子书 1、mysql准备接受数据的数据库与表 2、hive准备待传输的数据 3、sqoop进
阅读全文
摘要:一、hive用本地文件进行词频统计 1.准备本地txt文件 2.启动hadoop,启动hive 3.创建数据库,创建文本表 4.映射本地文件的数据到文本表中 5.hql语句进行词频统计交将结果保存到结果表中。 6.查看统计结果 二、hive用HDFS上的文件进行词频统计 1.准备电子书或其它大的文本
阅读全文

浙公网安备 33010602011771号