zourui4271

博客园 首页 新随笔 联系 订阅 管理

2018年8月19日 #

摘要: checkpoint在spark中主要有两块应用:一块是在spark core中对RDD做checkpoint,可以切断做checkpoint RDD的依赖关系,将RDD数据保存到可靠存储(如HDFS)以便数据恢复;另外一块是应用在spark streaming中,使用checkpoint用来保存D 阅读全文
posted @ 2018-08-19 09:31 zourui4271 阅读(453) 评论(0) 推荐(0)