刷新
聊聊流式数据湖Paimon(三)

博主头像 概述 如果表没有定义主键,则默认情况下它是仅追加 表类型(Append Only Table)。 根据桶(Bucket)的定义,我们有两种不同的仅追加模式:"Append For Scalable Table"和"Append For Queue";两种模式支持不同的场景,提供不同的功能。 只能向表 ...

聊聊流式数据湖Paimon(二)

博主头像 当前的问题 Apache Paimon 最典型的场景是解决了 CDC (Change Data Capture) 数据的入湖;CDC 数据来自数据库。一般来说,分析需求是不会直接查询数据库的。 容易对业务造成影响,一般分析需求会查询全表,这可能导致数据库负载过高,影响业务 分析性能不太好,业务数据库 ...

MySQL运维15-一主一从读写分离

博主头像 一、读写分离介绍 读写分离,是把数据库的读和写分开操作,以应对不同的数据库服务器。主数据库提供写操作,从数据库提供读操作,这样能有效的减轻单台数据库的压力。 二、一主一从原理 MySQL的主从复制是基于二进制(binlog)实现的 说明1:当主服务器的MySQL执行了DML,DDL语句之后,会将数据 ...

获奖名单公示|荣耀时刻,「第5届天池全球数据库大赛」决赛圆满收官

博主头像 日前,由阿里云主办、阿里云瑶池数据库和天池平台承办的“第五届天池全球数据库大赛”圆满收官。 历经过去4个多月的层层选拔,2大赛道20支队伍从7047支参赛战队中脱颖而出,成功晋级大赛决赛圈。最终,来自蔚来汽车等企业组队的「带对听花」队伍和来自北京大学&饿了么组队的「西二旗大头帮」队伍分别赢得赛道1( ...

数仓调优实践丨SQL改写消除相关子查询

博主头像 本文分享自华为云社区《【调优实践】SQL改写消除相关子查询》,作者: 门前一棵葡萄树 。 一、子查询 GaussDB(DWS)根据子查询在SQL语句中的位置把子查询分成了子查询、子链接两种形式。 子查询SubQuery:对应于查询解析树中的范围表RangeTblEntry,更通俗一些指的是出现在FR ...

聊聊流式数据湖Paimon(一)

博主头像 翻译自 Apache Paimon官方文档 概览 概述 Apache Paimon (incubating) 是一项流式数据湖存储技术,可以为用户提供高吞吐、低延迟的数据摄入、流式订阅以及实时查询能力。 简单来说,Paimon的上游是各个CDC,即changlog数据流;而其自身支持实时sink与s ...

【Redis】BigKey问题

博主头像 面试题 海量数据里查询某一固定前缀的key 生产上如何限制 keys * / flushdb / flushall 等危险命令以防止误删误用? MEMORY USAGE 命令用过吗? BigKey问题,多大算big?如何发现?如何删除?如何处理? BigKey你做过调优吗?惰性释放lazyfree了 ...

HBase Shell操作&Flink写入HBase

博主头像 一、HBase Shell操作 1、基本操作 1)进入HBase客户端命令行 [root@bigdata1 hbase]$ bin/hbase shell 2)查看帮助命令 hbase(main):001:0> help 3)查看当前数据库中有哪些表 hbase(main):002:0> list ...

掌握银行联行号查询Api接口:实现快速准确的联行号查询!

博主头像 在经济社会发展的过程中,银行的角色愈发重要。随着金融体系不断完善,各大银行之间的交流、合作也变得尤为关键。而银行之间互相识别和通信的一种方式,就是通过联行号。 联行号是指银行间互相识别的一种编码方式。每个银行都拥有一个唯一的联行号,用于区分不同的银行和分行。有了联行号,各大银行之间的交流和转账操作就 ...

聊聊Flink必知必会(七)

博主头像 What is State 虽然数据流中的许多操作一次只查看一个单独的事件(例如事件解析器),但某些操作会记住多个事件的信息(例如窗口算子)。 这些操作称为有状态的(stateful)。 有状态操作的一些示例: 当应用程序搜索某些事件模式(event patterns)时,状态(state)将存储迄 ...

聊聊Flink必知必会(六)

博主头像 Flink是一个分布式系统,需要有效地分配和管理计算资源才能执行流应用程序。它集成了所有常见的集群资源管理器,如Hadoop YARN和Kubernetes,但也可以设置为作为一个独立的集群运行,甚至作为一个库。 Flink集群的剖析 Flink运行时由两种类型的进程组成:一个JobManager和 ...

Linux服务器快速安装Redis-6.0

博主头像 最近开始体验FastGPT开源知识库问答系统,用他们试着开发调试一些小助手。这中间需要使用到Redis,就在自己服务器上进行了安装,特此记录下。 环境说明:阿里云ECS,2核8G,X86架构,CentOS 7.9操作系统。 选择版本 1.打开Redis官网下载页面,可以选择需要的版本下载。我这里选择 ...

MySQL运维13-Mycat分库分表之按月分片

博主头像 一、按照月分片 使用场景为按照自然月来分片,每个自然月为一个分片,但是一年有12个月,是不是要有12个数据节点才行呢?并不是。例如我现在只有三个分片数据库,这样就可以1月在第一个数据分片中,2月在第二个数据分片中,3月在第三个数据分片中,当来到4月的时候,就会重新开始分片,4月在第一个数据分片,5月 ...

<1···192021···50>