03 2020 档案

摘要:服务功能 ResouceManager: 1、处理客户端的请求 2、启动和监控ApplicationMaster 3、监控nodemanager 4、资源的分配和调度 Nodemanager 1、处理单个节点的资源管理 2、处理来自ResouceManager的命令 3、处理来自Applicatio 阅读全文
posted @ 2020-03-31 20:12 玩转大数据 阅读(183) 评论(0) 推荐(0)
摘要:一个系统上线之后,开发和调优将会一直伴随在系统的整个生命周期中,HBase也不例外。下面我们要学习如何进行HBase读写性能调优,以获取最大的读写效率。 HBase写入优化客户端优化批量写采用批量写,可以减少客户端到RegionServer之间的RPC的次数,提高写入性能。批量写请求要么全部成功返回 阅读全文
posted @ 2020-03-31 20:03 玩转大数据 阅读(5412) 评论(1) 推荐(1)
摘要:DataNode职责: 存储管理用户的文件块数据 定期向namenode汇报自身所持有的block信息(通过心跳信息上报) (这点很重要,因为,当集群中发生某些block副本失效时,集群如何恢复block初始副本数量的问题) 当一个datanode满足如下条件时被认为是stale了: 当一台data 阅读全文
posted @ 2020-03-31 14:33 玩转大数据 阅读(1441) 评论(0) 推荐(0)
摘要:在Yarn框架中,调度器是一块很重要的内容。有了合适的调度规则,就可以保证多个应用可以在同一时间有条不紊的工作。最原始的调度规则就是FIFO,即按照用户提交任务的时间来决定哪个任务先执行,但是这样很可能一个大任务独占资源,其他的资源需要不断的等待。也可能一堆小任务占用资源,大任务一直无法得到适当的资 阅读全文
posted @ 2020-03-31 14:14 玩转大数据 阅读(1294) 评论(0) 推荐(0)
摘要:HTTP、TCP、IP协议基本定义 HTTP: (HyperText Transport Protocol)是超文本传输协议的缩写,它用于传送WWW方式的数据,关于HTTP协议的详细内容请参考RFC2616。HTTP协议采用了请求/响应模型。 TCP: (Transmission Control P 阅读全文
posted @ 2020-03-30 10:55 玩转大数据 阅读(1516) 评论(0) 推荐(0)
摘要:1. 数据连接池的工作机制是什么? 有什么优点? J2EE 服务器启动时会建立一定数量的池连接,并一直维持不少于此数目的池连接。 客户端程序需要连接时,池驱动程序会返回一个未使用的池连接并将其表记为忙。 如果当前没有空闲连接,池驱动程序就新建一定数量的连接,新建连接的数量有配置参数决定。 当使用的池 阅读全文
posted @ 2020-03-25 14:07 玩转大数据 阅读(558) 评论(0) 推荐(0)
摘要:1、Spring是什么? Spring是一个轻量级的IoC和AOP容器框架。是为Java应用程序提供基础性服务的一套框架,目的是用于简化企业应用程序的开发,它使得开发者只需要关心业务需求。常见的配置方式有三种:基于XML的配置、基于注解的配置、基于Java的配置。 主要由以下几个模块组成: Spri 阅读全文
posted @ 2020-03-25 13:46 玩转大数据 阅读(191) 评论(0) 推荐(0)