2022年6月1日
摘要:
Flink 版本: 1.15.0 问题 在社区看到以下问题: 请教个问题哈,sink 到 kafka,采用默认的分区器,是不是每个并行度都会与kafka的partition维护一个连接 比如 10 个并行度,3个 partition,那么维护的连接数总共为 10*3 个 ? 是的 还是一个taskM
阅读全文
posted @ 2022-06-01 14:21
Flink菜鸟
阅读(4551)
推荐(1)
2022年5月30日
摘要:
flink 版本: 1.15.0 编译了一个 基于 flink 1.15.0 的 flink-cdc 2.2.0 flink-connector-mysql-cdc-2.2.0.jar 欢迎关注Flink菜鸟公众号,会不定期更新Flink(开发技术)相关的推文
阅读全文
posted @ 2022-05-30 16:30
Flink菜鸟
阅读(955)
推荐(2)
2022年5月13日
摘要:
Flink sql redis lookup source flink 版本: 1.14.3 redis lookup source 实现已经有一段时间了,之前实现的只能查询 string/hash 两种类型的数据,查询方式和返回结果都比较死板(hash 只能查某个key/feild 的值),对应其
阅读全文
posted @ 2022-05-13 17:34
Flink菜鸟
阅读(1040)
推荐(0)
2022年4月25日
摘要:
flink 版本: 1.14.3 注: 本文探讨 flink sql api 和 stream api 下窗口的触发机制 前几天有个同学问我这个问题,不清楚 Flink 窗口触发的机制,不知道窗口结束后还能触发几次。 先把这个问题分解成两个阶段: 窗口结束之前 窗口结束之后 预设几个窗口的场景,来说
阅读全文
posted @ 2022-04-25 22:17
Flink菜鸟
阅读(770)
推荐(1)
2022年4月18日
摘要:
Flink 实时统计 pv、uv 的博客,我已经写了三篇,最近这段时间又做了个尝试,用 sql 来计算全量数据的 pv、uv。 Stream Api 写实时、离线的 pv、uv ,除了要写代码没什么其他的障碍 SQL api 来写就有很多障碍,比如窗口没有 trigger,不能操作 状态,udf 不
阅读全文
posted @ 2022-04-18 21:22
Flink菜鸟
阅读(3894)
推荐(0)
摘要:
Flink 异步 IO 查 Redis 遇到有同学问 Flink 异步 IO 查 Redis 的问题,帮忙解决了一下,刚好水一篇(后续应该会实现 Table Source、Lookup Source) 以前写的异步 IO 查 MySQL: [Flink 异步IO访问外部数据(mysql篇)](htt
阅读全文
posted @ 2022-04-18 16:18
Flink菜鸟
阅读(1381)
推荐(0)
2022年3月24日
摘要:
Apache Atlas 安装,配置 HiveHook 下载源码 Apache Atlas 官网只提供源码包下载: Download 直接下载最新版本: 2.2.0 venn@venn git % wget https://downloads.apache.org/atlas/2.2.0/apach
阅读全文
posted @ 2022-03-24 15:41
Flink菜鸟
阅读(2249)
推荐(0)
2022年3月2日
摘要:
Flink 是否同时支持事件时间和处理时间 问题 Flink 程序是否同时支持 “事件时间窗口” 和 “处理时间窗口” ? 上周看到这个问题,当时的第一反应这人怕不是个 ** 哦! 后来越想越觉得有意思,用 Flink 这么久,任务要么是事件时间,要么处理时间,从来没遇到(想)过两种时间同时使用的情
阅读全文
posted @ 2022-03-02 17:31
Flink菜鸟
阅读(486)
推荐(0)
2022年3月1日
摘要:
Flink 编译 1.14 版本的 cdc connector Flink CDC Connectors 是一组用于 Apache Flink 的源连接器,使用变更数据捕获 (CDC) 从不同的数据库中获取变更。 Flink CDC 连接器集成了 Debezium 作为引擎来捕获数据变化。 所以它可
阅读全文
posted @ 2022-03-01 17:37
Flink菜鸟
阅读(8670)
推荐(0)
2022年2月21日
摘要:
Flink socket table source、sink,flink 自定义 table source,flink 自定义 table sink
阅读全文
posted @ 2022-02-21 11:35
Flink菜鸟
阅读(1063)
推荐(0)