wgcn_bj

导航

2022年1月31日

Flink源码学习笔记(3)了解Flink HA功能的实现

摘要: 使用Flink HA功能维护JobManager中组件的生命周期,可以有效的避免因为JobManager 进程失败导致任务无法恢复的情况。 接下来分享下 Flink HA功能的实现 大纲 基于Zookeeper+Hadoop HA功能的实现 HA功能的接口概述 基于Zookeeper实现的HA接口 阅读全文

posted @ 2022-01-31 19:27 wgcn_bj 阅读(591) 评论(0) 推荐(0) 编辑

Flink源码学习笔记(2) 基于Yarn的自动伸缩容实现

摘要: 1.背景介绍 随着实时计算技术在之家内部的逐步推广,Flink 任务数及计算量都在持续增长,集群规模的也在逐步增大,本着降本提效的理念,我们研发了 Flink 任务伸缩容功能: 提供自动伸缩容功能,可自动调节 Flink 任务占用的资源,让计算资源分配趋于合理化。一方面避免用户为任务配置过多资源,造 阅读全文

posted @ 2022-01-31 19:24 wgcn_bj 阅读(219) 评论(0) 推荐(0) 编辑

Flink源码学习笔记(1) Flink心跳机制的实现

摘要: 前言 开始分享第一篇flink源码的学习,诊断相关的文章仍会继续更新。先讲第一篇Flink实现的心跳机制。Flink代码版本是1.9.2 类图依赖关系 先上个心跳实现的类图 其中主要的几个接口和实现类 HeartbeatTarget : 请求回复心跳的接口,定义了requestHeartbeat ( 阅读全文

posted @ 2022-01-31 19:17 wgcn_bj 阅读(133) 评论(0) 推荐(0) 编辑