Loading

YARN详解


返回 我的技术栈(Technology Stack)



YARN概述

image

Apache Hadoop YARN(Yet Another Resource Negotiator, 另一种资源协调者)是一种新的Hadoop资源管理器。
YARN是一个通用的资源管理系统调度平台,可以为上层应用提供统一的资源管理和调度。它的引入为集群在利用率、资源统一管理和数据共享方面带来了巨大好处。

可以把Hadoop YARN 理解为相当于一个分布式的操作系统平台,而MapReduce等计算程序则相当于运行与操作系统之上的应用程序,YARN为这些程序提供运算所需的资源(内存、CPU等)。
Hadoop能今天这个地位,YARN功不可没,因为有了YARN,更多计算框架可以接入到HDFS中,而不单单是MapReduce,正是因为YARN的包容,使得其他计算框架能专注于计算性能的提升

HDFS可能不是最优秀的大数据存储系统,但却是应用最广泛的大数据存储系统,YARN功不可没。

YARN功能说明:

  • 资源管理系统:集群的硬件资源,和程序运行相关,比如内存、CPU等
  • 调度平台:多个程序同时申请计算资源如何分配,调度额度规则(算法)
  • 通用:不仅仅支持MapReduce程序,理论上支持各种计算程序,YARN不关心你干嘛,只关心你要资源,在有的情况下给你,用完之后还我。

image

image

image

image

posted @ 2023-10-12 08:40  言非  阅读(41)  评论(0)    收藏  举报