8月1日每周总结4
本周主要学习 YARN 框架、MapReduce 编程模型,继续打磨 JavaWEB 项目,Python 开始做简单的热词统计,软件设计师持续备考。本周总学习时长 27 小时,代码编写 14 小时,调试集群、代码问题耗时 9 小时。
JavaWEB 部分,反复练习完整网站建设流程,把公文自动分配业务进一步完善,测试不同角色访问页面权限,修复数据库事务相关小 bug,刻意计时练习,努力向 2 小时完成整套业务靠拢。大数据方向,学习 YARN 核心组件 ResourceManager、NodeManager,弄懂 YARN 完整工作调度流程;学习 MapReduce 核心思想,理解 shuffle 机制,搭建 MR 开发环境,跑通 WordCount 程序,看懂代码每一步逻辑,跟着教程完成简单天气案例的初步编码。Python:对收集的信息化热词做简单词频统计,尝试简单分类,整理热词解释素材。软件设计师整理错题,复习数据库考点。
本周遇到的问题:第一,MapReduce 程序运行报错,本地和集群运行环境差异,jar 包打包出错,任务提交 YARN 直接失败;第二,YARN 调度任务内存配置不合理,运行案例直接内存溢出;第三,JavaWEB 项目多角色权限控制考虑不全,出现越界访问;第四,信息化热词分类没有明确分类标准,不知道该按照什么维度划分热词。MapReduce 代码理解难度偏大,shuffle 流程复杂,需要反复画图梳理流程。
下周计划:1. 继续 JavaWEB 项目练习,查漏补缺薄弱知识点;2. 完整实现 MapReduce 天气案例;3. 完善 Python 热词分类逻辑,扩充热词解释;4. 了解 HDFS‑HA 机制;5. 软件设计师复习软件工程章节。

浙公网安备 33010602011771号