摘要: 简述 CloudCanal除了提供最核心的数据迁移和同步能力以外,还提供数据校验和数据订正两种非常实用的能力。这两种功能为用户保障数据迁移同步链路的数据质量提供了非常大的便利性。例如对端数据库因为各种原因产生一些异常写入导致的数据不一致或者丢失,用户均可以使用CloudCanal提供的数据校验和数据 阅读全文
posted @ 2022-11-14 16:28 clougence 阅读(397) 评论(0) 推荐(0)
摘要: 简述 Apache Doris 是一个现代化的 MPP 分析型数据库产品,仅需 亚秒级 响应时间即可获得查询结果,能有效地支持实时数据分析。 本文主要介绍如何使用 CloudCanal 快速构建一条稳定高效运行的 PostgreSQL 到 Doris 数据同步链路。 技术点 基于 StreamLoa 阅读全文
posted @ 2022-11-04 17:01 clougence 阅读(1226) 评论(0) 推荐(0)
摘要: 背景知识 什么是地理信息数据 地理信息数据的定义主要来自于我们熟知的星球——地球。我们知道地球表面是一个凸凹不平的表面,是一个近似的椭球体。以海平面为参照已知最高点和最低点之间有接近 2 万米的差距。 珠穆朗玛峰,8848.86米含冰层(人民日报:2020年12月8日) 马里亚纳海沟,相对海平面深1 阅读全文
posted @ 2022-10-17 16:09 clougence 阅读(170) 评论(0) 推荐(0)
摘要: 简述 ClickHouse 是一种流行的列式数据库,对于计算 uv、mv、pv 等聚合类数据相当友好,所以广泛使用于各类报表场景。 本文主要介绍如何使用 CloudCanal 快速构建一条稳定高效运行的 ORACLE 到 ClickHouse 数据同步链路。 示例中 ORACLE 库为 PDB 模式 阅读全文
posted @ 2022-08-31 10:10 clougence 阅读(836) 评论(0) 推荐(0)
摘要: # 简述MongoDB 是一种广泛使用的文档型数据库,对于 schema 弱要求、可扩展性强让其在很多场景普遍适用。 本文主要介绍如何使用 CloudCanal 快速构建一条稳定高效运行的 MongoDB 到 MongoDB 数据同步链路,示例中 MongoDB 均为 ReplicationSet 阅读全文
posted @ 2022-08-30 15:58 clougence 阅读(843) 评论(0) 推荐(0)
摘要: # 为什么我们要重构 Oracle 源端数据同步?CloudCanal 早期版本即支持了 Oracle 数据库,围绕**结构迁移**、**全量迁移**、**增量同步**三个核心步骤,构建了以 Oracle 数据库为源端的实时数据体系。 但之前的版本,也存在着不少问题,功能、性能、对数据库权限的挑战等 阅读全文
posted @ 2022-08-30 15:56 clougence 阅读(169) 评论(0) 推荐(0)
摘要: - # 简述 本案例为国内某大健康领域头部公司真实案例(因用户保密要求,暂不透露用户相关信息)。希望文章内容对各位读者使用 CloudCanal 构建实时数仓带来一些帮助。 # 业务背景 大健康背景下,用户对报表和数据大屏的实时性能要求越来越高。以核酸检测为例,检测结果需要实时统计分析,并在决策大屏 阅读全文
posted @ 2022-08-30 15:55 clougence 阅读(201) 评论(0) 推荐(0)
摘要: 简述 实时数据处理领域中,使用 Flink 方式,除了从日志服务订阅埋点数据外,总离不开从关系型数据库订阅并处理相关业务数据,这时就需要监测并捕获数据库增量数据,将变更按发生的顺序写入到消息中间件以供计算(或消费)。 本文主要介绍如何通过 CloudCanal 快速构建一条高效稳定运行的 MySQL 阅读全文
posted @ 2022-08-30 15:34 clougence 阅读(737) 评论(0) 推荐(0)
摘要: # 简述 CloudCanal 2.2.0.7 版本开始支持 OceanBase 作为对端的数据迁移同步能力 本文通过 MySQL->OceanBase的数据迁移同步案例简要介绍这个源端的能力。链路特点: - 结构迁移、全量迁移、增量同步(数据)- 流程全自动化- 高度产品化:任务管理、监控、审计一 阅读全文
posted @ 2022-08-30 15:25 clougence 阅读(241) 评论(0) 推荐(0)
摘要: ## 简述 CloudCanal 2.1.0.x 版本开始支持 StarRocks 作为对端的数据迁移同步能力 本文通过 MySQL->StarRocks 的数据迁移同步案例简要介绍这个源端的能力。链路特点: - 结构迁移、全量迁移、增量同步(数据)、数据校验俱全- 流程全自动化 ## 使用须知 阅读全文
posted @ 2022-08-30 15:23 clougence 阅读(1152) 评论(0) 推荐(0)