随笔分类 -  flink

摘要:1.前言 在Flink中,函数和操作符都可以是有状态的。在处理每个消息或者元素时,有状态的函数都会储存信息,使得状态成为精密操作中关键的组成部分。 为了使状态能够容错,Flink会checkpoints状态。checkpoints机制使得Flink可以恢复状态和位置,以至于流计算的应用可以提供无故障 阅读全文
posted @ 2018-08-02 07:40 boiledwater 阅读(3084) 评论(0) 推荐(0)
摘要:流计算中可能有各种方式来保存状态: 窗口操作 使用 了KV操作的函数 继承了CheckpointedFunction的函数 当开始做checkpointing的时候,状态会被持久化到checkpoints里来规避数据丢失和状态恢复。选择的状态存储策略不同,会导致状态持久化如何和checkpoints 阅读全文
posted @ 2018-08-01 18:41 boiledwater 阅读(12183) 评论(0) 推荐(0)
摘要:1.什么是状态 对于任何一个操作,都可以被看成是一个函数,比如y=f(x),如果对于同一个x的任何一次输入,得到的y都是相同的,则可以认为这个函数是无状态,否则,这个函数就是有状态的。Flink的一大特点就在于对状态的支持。 2.Keyed State和Operator State Keyed St 阅读全文
posted @ 2018-08-01 17:44 boiledwater 阅读(2626) 评论(0) 推荐(0)
摘要:history job的写入1. org.apache.flink.runtime.jobmanager,Object JobManagerrunJobManager中指定使用MemoryArchivist进行作业保存startJobManagerActors中创建了进行作业保存的actor此arc 阅读全文
posted @ 2018-07-23 16:32 boiledwater 阅读(857) 评论(0) 推荐(0)