会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
sword861417845
博客园
首页
新随笔
联系
订阅
管理
2025年9月14日
第八周
摘要: Hadoop 集群的稳定运行离不开完善的监控体系,搭建涵盖集群负载监控与日志收集的监控系统,可实时掌握集群运行状态,及时发现潜在问题。在集群负载监控方面,Ganglia 是常用的分布式监控工具,能够收集并展示集群中各节点的 CPU 使用率、内存占用量、磁盘 IO 速率、网络流量等关键指标,帮助运维人
阅读全文
posted @ 2025-09-14 19:00 sword_kong
阅读(12)
评论(0)
推荐(0)
2025年9月12日
第七周
摘要: Hive 作为 Hadoop 生态圈的数据仓库工具,基于 HDFS 存储数据,通过 SQL-like 语言(HQL)将数据查询请求转换为 MapReduce 或 Spark 任务,实现对海量数据的离线分析。在 Hive 中,表分为内部表和外部表,二者在数据管理和生命周期上存在显著区别。内部表(Man
阅读全文
posted @ 2025-09-12 20:48 sword_kong
阅读(6)
评论(0)
推荐(0)
2025年9月9日
第六周
摘要: YARN 作为 Hadoop 的资源管理与任务调度框架,其核心组件包括 ResourceManager、NodeManager 和 ApplicationMaster,它们协同工作实现集群资源的高效分配与任务管理。ResourceManager 作为 YARN 的核心,运行在主节点上,负责整个集群的
阅读全文
posted @ 2025-09-09 20:57 sword_kong
阅读(8)
评论(0)
推荐(0)
2025年9月7日
第五周
摘要: WordCount 作为 MapReduce 的经典案例,是理解分布式计算流程的入门示例,其核心是通过 Mapper 和 Reducer 类的重写实现单词计数功能。在 Mapper 类中,需继承org.apache.hadoop.mapreduce.Mapper类,并重写map方法。map方法的输入
阅读全文
posted @ 2025-09-07 21:33 sword_kong
阅读(8)
评论(0)
推荐(0)
2025年9月5日
第四周
摘要: HDFS 的设计原理围绕海量数据存储的可靠性、高效性和可扩展性展开,其中分块存储和副本机制是核心特性。HDFS 默认将文件分割为 128MB 的数据块进行存储(可通过dfs.blocksize参数调整),这一设计既避免了小文件占用过多元数据空间,又能减少磁盘寻道时间,提升数据读写效率。与传统 RAI
阅读全文
posted @ 2025-09-05 20:47 sword_kong
阅读(6)
评论(0)
推荐(0)
2025年9月3日
第三周
摘要: Hadoop 作为大数据领域的核心框架,其生态系统包含 HDFS、MapReduce 和 YARN 三大核心组件,它们协同工作实现海量数据的存储与计算。HDFS(Hadoop 分布式文件系统)负责数据存储,采用主从架构,NameNode 作为主节点管理文件系统元数据,记录文件与数据块的映射关系,Da
阅读全文
posted @ 2025-09-03 22:55 sword_kong
阅读(9)
评论(0)
推荐(0)
2025年9月1日
第二周-对于hadoop框架的大概认识
摘要: Hadoop 是一个开源的分布式计算平台,主要由 Hadoop 分布式文件系统(HDFS)和 MapReduce 计算模型两大部分组成,此外还包括 YARN 等重要组件。 HDFS 是 Hadoop 的分布式文件系统,它旨在存储海量数据。其核心特点是将大文件分割成多个数据块,并将这些数据块分布存储在
阅读全文
posted @ 2025-09-01 20:17 sword_kong
阅读(13)
评论(0)
推荐(0)
2025年8月31日
第一周-Linux系统的学习 hadoop学习的前置
摘要: 在虚拟机中打开Linux操作系统 打开 VMware Workstation,点击“创建新的虚拟机”,选择“典型(推荐)”安装类型。 选择下载好的 Ubuntu ISO 镜像文件。 设置虚拟机的名称和安装位置。 分配虚拟机的内存、磁盘空间等资源,一般建议分配 2GB 内存和 20GB 磁盘空间。 完
阅读全文
posted @ 2025-08-31 16:35 sword_kong
阅读(15)
评论(0)
推荐(0)
2025年6月4日
对于各科的复习
摘要: 对需要考试的科目进行复习,如计算机网络、概率论、工程书写。
阅读全文
posted @ 2025-06-04 23:38 sword_kong
阅读(5)
评论(0)
推荐(0)
2025年5月28日
针对vue和andorid和spring boot的开发总结
摘要: 前后端分离 后端:Spring Boot提供RESTful API(数据接口用@RestController,业务层用@Service,数据层用JPA/MyBatis)。 前端: Web端:Vue(Vue Router路由管理 + Vuex状态管理 + Axios请求封装)。 Android端:Re
阅读全文
posted @ 2025-05-28 23:21 sword_kong
阅读(27)
评论(0)
推荐(0)
下一页
公告