5

一、本周完成内容与时间分配
本周学习内容:学习 MapReduce 核心原理、Shuffle 数据洗牌机制;编写并运行 WordCount 单词统计案例,完整走完 MR 程序打包、提交、日志查看流程;入门 Python 基础语法、文件读写、简单分词工具。
学习总时长:33 小时
代码实操时长:18 小时(MR 代码开发、Python 文本读取脚本)
问题排查耗时:12 小时(MR 数据倾斜、Python 分词编码报错)
二、下周计划
完成 MapReduce 气象数据分析实战案例;
深入 Python 分词、词频统计库,搭建信息化热词分析基础代码框架;
回顾 Hadoop 全生态组件:Hive、Flume、Sqoop、Zookeeper 基础作用。
三、本周遇到的问题
WordCount 运行出现数据倾斜,高频单词全部汇聚到单个 Reduce 任务,执行效率极低;
MR 程序本地测试正常,打包上传集群运行报类找不到异常;
Python 读取中文文本出现编码乱码,分词库无法识别中文词汇。

posted @ 2026-08-15 15:04  闫子的打火石  阅读(4)  评论(0)    收藏  举报