文章分类 - Flink
摘要:“数据智能” (Data Intelligence) 有一个必须且基础的环节,就是数据仓库的建设。同时数据仓库也是公司数据发展到一定规模后必然会提供的一种基础服务。从智能商业的角度来讲,数据的结果代表了用户的反馈,获取结果的及时性就显得尤为重要,快速的获取数据反馈能够帮助公司更快的做出决策,更好的进
阅读全文
摘要:什么是flink中的状态?为什么需要状态管理? flink运行计算任务的过程中,会有很多中间处理过程。在整个任务运行的过程中,中间存在着多个临时状态,比如说某些数据正在执行一个operator,但是只处理了一半数据,另一半还没来得及处理,这也是一个状态。 假设运行过程中,由于某些原因任务挂掉了,或者
阅读全文
摘要:Checkpoint是Flink实现容错机制最核心的功能,它能够根据配置周期性地基于Stream中各个Operator/task的状态来生成快照,从而将这些状态数据定期持久化存储下来,当Flink程序一旦意外崩溃时,重新运行程序时可以有选择地从这些快照进行恢复,从而修正因为故障带来的程序数据异常。
阅读全文
摘要:一、窗口 窗口是一种机制。允许许多事件按照时间或者其他特征进行分组,将每一组作为整体去分析计算。 Window就是用来对一个无限的流设置一个有限的集合,在有界的数据集上进行操作的一种机制。window又可以分为基于时间(Time-based)的window以及基于数量(Count-based)的wi
阅读全文
摘要:在 flink sql 中,对表名、字段名、函数名等是严格区分大小写的,为了兼容 hive 等其他仓库,建议建表时,表名和字段名都采用下划线连接单词的方式,以避免大小写问题。 比如 hive ,是不区分大小写的,所有大写字母最终都会被系统转化为小写字母,此时使用 flink sql 去读写 hive
阅读全文
浙公网安备 33010602011771号