摘要：
云原生数据库支持DCS一是为了DCS能够支持持久化能力，二是构建一站式的云数据库服务能力。DCS原来是一个share nothing的分布式集群，有自己的通信管理，集群管理和客户端。在云原生数据库中，DCS是作为一个组件集成到整个服务中，主要提供字符串（String）、哈希（Hash）、列表（Lis 阅读全文
posted @ 2024-10-29 15:35
MySQL成长之路
阅读(15)
评论(0)
推荐(0)
摘要：
GaussDB数据库技术解读——分布式执行 分布式执行主要为分布式数据库提供一套完备的支撑数据跨节点交换，协同计算的计算框架，能够支撑位于不同地点的许多计算分片机通过网络互相连接，共同组成一个完整的、全局的逻辑上集中、物理上分布的大型数据库，数据的分布式切片方式从大的分类上有3种： （1）Share 阅读全文
posted @ 2024-10-29 10:54
MySQL成长之路
阅读(43)
评论(0)
推荐(0)
摘要：
GaussDB数据库技术解读——高性能关键技术 内容概要：本章节介绍GaussDB中实现的高性能关键技术，内容涉及优化器、执行器、分布式数据库、存储引擎等多个方面。 目的：通过对GaussDB数据库关键高性能技术的学习，能够让读者更加清晰的理解数据库内核哪些优化是性能关键点同时也为类似的应用系统实现 阅读全文
posted @ 2024-10-29 10:54
MySQL成长之路
阅读(11)
评论(0)
推荐(0)
摘要：
GaussDB介绍 华为自主创新研发的分布式关系型数据库。该产品具备企业级复杂事务混合负载能力，同时支持分布式事务，同城跨AZ部署，数据0丢失，支持1000+的扩展能力，PB级海量存储。同时拥有云上高可用，高可靠，高安全，弹性伸缩，一键部署，快速备份恢复，监控告警等关键能力，能为企业提供功能全面，稳 阅读全文
posted @ 2024-10-29 10:53
MySQL成长之路
阅读(19)
评论(0)
推荐(0)
摘要：
GaussDB Kernel V5 OM运维管理关键模块如下。 OM 运维主要功能有： 安装 升级 节点替换 扩容、缩容 自动告警 巡检 备份恢复、容灾 日志分析系统 在华为云的部署模式下，OM相关组件部署示意图如下： 图7 华为云OM运维管理 用户登录华为云Console，访问GaussDB 阅读全文
posted @ 2024-10-29 10:53
MySQL成长之路
阅读(20)
评论(0)
推荐(0)
摘要：
GaussDB Kernel V5 集群管理层关键模块如下。 图4 集群管理层组件设计图 CM 组件提供了四种服务 CM Agent, CM Server, OM Monitor, cm_ctl，与各类实例服务组件（CN, DN, GTM 等）一起构成了整个数据库集群系统。 cm_ctl 通过命令行 阅读全文
posted @ 2024-10-29 10:53
MySQL成长之路
阅读(33)
评论(0)
推荐(0)
摘要：
GTM 仅处理全局时间戳请求， 64位CSN递增，几乎都是CPU ++和消息收发操作。不是每次都写ETCD, 而是采用定期持久化到ETCD 里， 每次写ETCD的CSN要加上一个backup_step (100w), 一旦GTM故障，CSN从ETCD读取出来的值保证单调递增。当前GTM 只完成CSN 阅读全文
posted @ 2024-10-29 10:53
MySQL成长之路
阅读(24)
评论(0)
推荐(0)
摘要：
数据持久化存取层(DataNode)关键技术方案 Datanode节点主要负责数据的持久化和快速写入、读取。数据持久化采用物理日志wal，事务提交wal刷盘， 对外提供逻辑日志功能，反解析物理日志为SQL逻辑日志。 图1 datanode数据持久化 Astore：存储格式为追加写优化设计，其多版本元 阅读全文
posted @ 2024-10-29 10:52
MySQL成长之路
阅读(23)
评论(0)
推荐(0)
摘要：
华为 GaussDB 是一个企业级 AI-Native 分布式数据库。GaussDB 采用 MPP(Massive Parallel Processing)架构，支持行存储与列存储，提供 PB(Petabyte，2 的 50 次方字节)级别数据量的处理能力。 华为Gauss数据库是全球首款AI-Na 阅读全文
posted @ 2024-10-29 10:52
MySQL成长之路
阅读(26)
评论(0)
推荐(0)
摘要：
一、背景 GaussDB 是一款由华为开发的企业级分布式数据库，具有高性能、高可用、高可靠性等特点，广泛应用于各种业务场景。本指南将介绍如何在 GaussDB 中创建数据库和数据表，修改表结构，并添加约束。 二、创建数据库和数据表 创建数据库 在 GaussDB 中创建数据库可以使用 CREATE 阅读全文
posted @ 2024-10-29 10:52
MySQL成长之路
阅读(60)
评论(0)
推荐(0)
摘要：
华为GaussDB数据库包括：事务性（OLTP）数据库、分析型（OLAP）数据库和混合负载（HTAP）数据库。这里需要解释下OLTP、OLAP、HTAP之间的区别，这也是数据库最基本的内容。 据库系统一般分为两种类型：一种是面向前台应用的，应用比较简单，但是重吞吐和高并发的OLTP类型；一种是重计算 阅读全文
posted @ 2024-10-29 10:52
MySQL成长之路
阅读(60)
评论(0)
推荐(0)
摘要：
一 、前言 传统的数据库管理软件，不仅需要下载安装、功能还比较单一，而且已经滞后于云服务的发展模式。华为GaussDB云数据库提供了配套的生态工具数据管理服务DAS。 DAS通过与数据库内核的紧密结合，提供了数据库开发、运维、智能诊断一站式云上数据库管理平台，方便用户使用和运维华为云数据库。 二、D 阅读全文
posted @ 2024-10-29 09:54
MySQL成长之路
阅读(26)
评论(0)
推荐(0)
摘要：
问题描述 CPU使用率高。 问题现象 出现CPU使用率超过阈值，CPU使用率快速上涨或短时间持续较高水平等现象。 告警 CPU使用率告警。 业务影响 CPU使用率高集群响应变慢。 原因分析 期间业务压力增大导致。 出现CPU耗时较多的SQL。 处理方法 步骤 1 查看监控是某个节点的CPU高还是集群 阅读全文
posted @ 2024-10-29 09:53
MySQL成长之路
阅读(18)
评论(0)
推荐(0)
摘要：
一、前言 行存表和列存表是数据库中两种常见的数据存储方式。随着信息技术的飞速发展，数据存储和管理以及如何高效地存储和处理大量的数据已经成为了我们的一大挑战。 为了解决这个问题，行存表与列存表应运而生，它们以其独特的优势在各个场景得到了高效的应用。GaussDB支持行、列存储，本文将简单给大家介绍一下 阅读全文
posted @ 2024-10-29 09:53
MySQL成长之路
阅读(52)
评论(0)
推荐(0)
摘要：
问题描述 CPU利用率是衡量系统负载和健康度的重要指标之一，系统在运行过程中时常发生CPU利用率高的情况。在分析性能问题时，可通过火焰图查看CPU耗时，了解瓶颈在哪里。 问题现象 部分sql执行速度不符合预期。 告警 慢sql告警。 cpu使用率高告警。 数据库整体运行慢。 业务影响 业务性能差。 阅读全文
posted @ 2024-10-29 09:53
MySQL成长之路
阅读(16)
评论(0)
推荐(0)
摘要：
一、引言 事务管理是数据库系统中至关重要的一部分，它确保了数据库的一致性和可靠性。在GaussDB数据库中，事务管理不仅遵循传统的ACID特性，还提供了一些高级功能。本文将深入探讨GaussDB数据库事务管理的各个方面。 二、事务的基本概念 2.1 事务的定义 事务是数据库操作的基本单元，它是一 阅读全文
posted @ 2024-10-29 09:53
MySQL成长之路
阅读(17)
评论(0)
推荐(0)
摘要：
万物互联的态势下，数据量的激增使得“如何提升数据处理性能”成为各家数据库共同面临的挑战。作为编译优化技术的代表，基于LLVM的CodeGen技术，能为每个查询生成定制的机器码替代原本的通用函数，减少实际查询时冗余的条件逻辑判断、虚函数调用并提高数据局域性，从而达到提升查询整体性能的目的，成为数据库性 阅读全文
posted @ 2024-10-29 09:51
MySQL成长之路
阅读(32)
评论(0)
推荐(0)
摘要：
D-SMART高斯专版已经开发了几个月了，目前主要技术问题都已经解决，也能够初步看到大概的面貌了。有朋友问我，GaussDB不已经有了TPOPS了，为什么你们还要开发D-SMART高斯专版呢？ 实际上TPOPS和D-SMART虽然都可以用于Gaussdb的运维监控，不过其分工还是十分明显的。TP 阅读全文
posted @ 2024-10-29 09:51
MySQL成长之路
阅读(6)
评论(0)
推荐(0)
摘要：
背景 对数据库集群内资源管控与资源隔离一直是企业客户长久以来的诉求。华为云GaussDB作为一款企业级分布式数据库，一直致力于满足企业对大型数据库集群的管理需要。 数据库可以管理的资源有计算资源与存储资源，计算资源包括CPU、内存、IO与网络，存储资源包括数据存储空间、日志存储空间与临时文件等。 阅读全文
posted @ 2024-10-29 09:29
MySQL成长之路
阅读(32)
评论(0)
推荐(0)
摘要：
最近看到一篇《我说MySQL每张表最好不要超过2000万数据，面试官让我回去等通知》的文章，非常有趣。 文中提到，他朋友在面试的过程中说，自己的工作就是把用户操作信息存到MySQL里，因为数据量超大（5000万条左右），需要每天定时生成3张表，然后将数据取模分别存到这三张表里。 下面是两人的对话 阅读全文
posted @ 2024-10-29 09:28
MySQL成长之路
阅读(32)
评论(0)
推荐(0)
摘要：
在数据库世界里，查询重写是提升性能的关键环节。WeTune作为一款革命性工具，能自动发现新重写规则，打破现有系统依赖人工发现重写规则的局限，大幅提升数据库查询性能。 上海交通大学软件学院副院长王肇国和高斯实验室GaussDB数据库优化器专家Ethan联手开展了一场以《智能优化揭秘——GaussD 阅读全文
posted @ 2024-10-29 09:28
MySQL成长之路
阅读(27)
评论(0)
推荐(0)
摘要：
GaussDB Kernel V5 OM运维管理关键模块如下。 OM 运维主要功能有：安装升级节点替换扩容、缩容自动告警巡检备份恢复、容灾日志分析系统在华为云的部署模式下，OM相关组件部署示意图如下： 图7 华为云OM运维管理 用户登录华为云Console，访问GaussDB Kernel V5的管 阅读全文
posted @ 2024-10-29 09:27
MySQL成长之路
阅读(31)
评论(0)
推荐(0)
摘要：
前沿 SQL于关系型数据库而言，重要性不言而喻。就像一个乐团的指挥，指导着作品的正确演绎和节奏的和谐统一。华为云GaussDB作为新一代关系型分布式数据库，具备卓越的技术性能和行业竞争力。很多人对GaussDB的关键技术很好奇： GaussDB SQL语句到底是如何执行的？ GaussDB SQ 阅读全文
posted @ 2024-10-29 09:27
MySQL成长之路
阅读(56)
评论(0)
推荐(0)
摘要：
GaussDB在架构设计上，采用组件化原则，分为GaussDB Kernel内核和GaussDB Kernel OM两部分。在产品形态上，提供面向云数据库服务GaussDB的分布式安装包和集中式安装包，提供面向本地化安装的小型化安装包。根据华为云提供的调查报告，当前全球数据库市场增长超预期，云是数据 阅读全文
posted @ 2024-10-29 09:26
MySQL成长之路
阅读(24)
评论(0)
推荐(0)
摘要：
一、数据导入导出场景划分 gsql工具适用场景和使用方法 适用场景 文本格式对象定义的创建 使用方法 gsql -d db1 -p 16000 -U u1 -W Huawei@123 -f/data/table.sql 示例： ALTER SESSION SET CURRENT_SCHEMA = P 阅读全文
posted @ 2024-10-29 09:26
MySQL成长之路
阅读(121)
评论(0)
推荐(0)
摘要：
密态等值查询属于密态数据库第一阶段方案，但是遵从密态数据库总体架构。 密态数据库的总体架构示意图如下图所示。密态数据库的完整形态包括密码学方案和软硬结合方案。 图8 密态数据库总体架构 由于密态等值查询仅涉及到软件部分，仅需集成密态数据库总体架构的软件部分，其总体实现方案如下图所示。 图9 密态等值 阅读全文
posted @ 2024-10-29 09:26
MySQL成长之路
阅读(38)
评论(0)
推荐(0)
摘要：
云原生为迎接智能化提供了基础条件，智能化是GaussDB的新的牵引方向，两者相辅相成，互相促进。在智能化出现之前，数据库的运维管理主要依赖分层解耦、化繁为简方式来治理，通过人工服务对单点的业务进行管理。但在云化环境中，一个Region纳管上万实例，仅靠人工很难满足业务诉求，这就促成智能与数据库在云原 阅读全文
posted @ 2024-10-29 09:25
MySQL成长之路
阅读(59)
评论(0)
推荐(0)
摘要：
前言 本期课程将从管理平台的架构出发，结合平台的实例管理、实例升级、容灾管理和监控告警的功能和操作介绍，全面覆盖日常运维操作，带您理解并熟练运用GaussDB运维平台完成运维工作。 一、GaussDB 运维管理平台简介 开放生态层 友好Web界面，多云皮肤个性化定制 丰富的原子API 公有云、合 阅读全文
posted @ 2024-10-29 09:25
MySQL成长之路
阅读(20)
评论(0)
推荐(0)
摘要：
一、前言 GaussDB是华为自主创新研发的分布式关系型数据库，具有高性能、高安全、高可用、高弹性、高智能特点。 在这篇文章中，我们将探讨在GaussDB数据库中使用复合查询的技术。复合查询是SQL查询的一个高级特性，它允许用户通过结合多个简单查询来执行更复杂的数据检索操作。这种查询通常涉及使用UN 阅读全文
posted @ 2024-10-29 09:24
MySQL成长之路
阅读(25)
评论(0)
推荐(0)
摘要：
1.逻辑备份-gs_dump gs_dump是一款用于导出数据库相关信息的工具，支持导出完整一致的数据库对象（数据库、模式、表、视图等）数据，同时不影响用户对数据库的正常访问。 备份sql语句 gs_dump是openGauss用于导出数据库相关信息的工具，用户可以自定义导出一个数据库或其中的对 阅读全文
posted @ 2024-10-29 09:24
MySQL成长之路
阅读(56)
评论(0)
推荐(0)
摘要：
初次接触openGauss或GaussDB数据库的逻辑对象，被其中的表空间、数据库、schema和用户之间的关系，以及授权管理困惑住了，与熟悉的MySQL数据库的逻辑对象又有明显的不同。本文旨在简要梳理下GaussDB数据库逻辑对象之间的关系，以加深理解。 1、GaussDB数据库逻辑对象 1.1 阅读全文
posted @ 2024-10-29 09:23
MySQL成长之路
阅读(55)
评论(0)
推荐(0)
摘要：
智能关键技术一：自治运维系统GaussDB 自治运维系统“DBMind”的整体系统框图如下图所示，包含四个维度：数据采集层数据采集层主要功能实现指标数据采集，采集频率分为秒级采集和分钟级采集。 其中秒级采集包括操作系统资源信息采集和数据库实例信息采集，例如操作系统层面CPU、内存、IO读写、网络资源 阅读全文
posted @ 2024-10-29 09:14
MySQL成长之路
阅读(26)
评论(0)
推荐(0)
摘要：
贝叶斯网络模型原理贝叶斯网络是一种概率图模型，拓扑结构通常为一个有向无环图。 贝叶斯网络的优势在于能够利用条件独立假设对多变量数据进行建模，并且自适应变量之间的相关性，具体是指每个变量的概率分布只和与它直接连接的父亲节点有关。使用这种方法能够比基于简单的独立性假设的模型获得更高的建模准确率，也能够比 阅读全文
posted @ 2024-10-29 09:14
MySQL成长之路
阅读(17)
评论(0)
推荐(0)
摘要：
GaussDB 库内AI引擎架构如下图： 图4 DB4AI架构图用户接口层 在用户接口层，实现SQL-like语法，提供Create Model、Predict等关键字，支持AI算法训练和预测。当前支持的AI算法包括：GD（梯度下降法）、KMeans（聚类）、XGBoost、决策树等。 查询优化层查 阅读全文
posted @ 2024-10-29 09:14
MySQL成长之路
阅读(41)
评论(0)
推荐(0)
摘要：
云原生数据库SQL引擎继承原来openGauss的词法解析，语法解析，查询重写，查询优化和执行引擎的能力。 由于云原生数据库是shared disk 架构，一个事务在一个节点上执行，所以不需要原来分布式根据分布式key进行数据分布，分布式执行和分布式2PC提交的能力。为了支持数据库粒度的异地多活，云 阅读全文
posted @ 2024-10-29 09:14
MySQL成长之路
阅读(6)
评论(0)
推荐(0)
摘要：
分层原则。整体层次分为三层，分别为Application Layer，Computer Layer和Storage Layer。Application Layer应用层主要是客户端各种语言的驱动，这些驱动通过通信与计算层Computer Layer进行交互，对数据库进行操作。 下面是Computer 阅读全文
posted @ 2024-10-29 09:14
MySQL成长之路
阅读(14)
评论(0)
推荐(0)
摘要：
事务存储组件 云原生数据库支持透明多写，所有节点对等，每个计算节点都可以读写全部的数据页面，事务在本节点执行，没有分布式事务。每个计算节点都有Local buffer pool，采用Remote memory pool扩展计算节点的内存，在多个计算节点之间共享buffer地址，避免页面在多个计算节点 阅读全文
posted @ 2024-10-29 09:14
MySQL成长之路
阅读(13)
评论(0)
推荐(0)
摘要：
云原生数据库以OLTP为主，同时也支持基于OLTP数据的OLAP需求，如每日报表。在云原生数据库中，DBA可以选择为这部分表创建列存索引。创建完列存索引之后，执行器在做顺序扫描的时候，会自动选择列存索引进行数据的读取，实现快速扫描计算的能力。 云原生数据库以行存为基础，数据的增删改都先以行存的形式落 阅读全文
posted @ 2024-10-29 09:14
MySQL成长之路
阅读(11)
评论(0)
推荐(0)
摘要：
GaussDB集群管理组件 云原生数据库支持全球集群部署和区域集群部署，相应的，故障检测也分为全球集群故障检测和区域 集群内故障检测，全球集群故障主要检测区域集群网络故障、区域集群脑裂故障。区域集群内检测节点网络故障、租户节点分区、集群管理节点分区、DFV存储故障。不同的故障需要不同的心跳链路来检测 阅读全文
posted @ 2024-10-29 09:14
MySQL成长之路
阅读(16)
评论(0)
推荐(0)
摘要：
GaussDB关键技术方案_通信组件 云原生数据库采用shared disk架构，各个计算节点对等，计算节点之间通过页面交换实现缓存数据的一致性，为了提高页面传递的效率，需要利用RDMA或UB单边读写的能力；云原生数据库为了管理动态资源，需要对动态资源的owner分配进行加锁，分布式锁管理需要利用原 阅读全文
posted @ 2024-10-29 09:14
MySQL成长之路
阅读(10)
评论(0)
推荐(0)
摘要：
云原生数据库支持多租户，通过多租户资源共享，一是降低租户的成本，二是通过共享资源的池化实现租户的资源弹性，提高租户业务的可用性。 租户的资源弹性支持两种模式，Scale Up和Scale Out。Scale Up是在单个计算节点上对租户的分配资源进行弹性处理，Scale Out是在计算节点之间对租户 阅读全文
posted @ 2024-10-29 09:14
MySQL成长之路
阅读(23)
评论(0)
推荐(0)
浙公网安备 33010602011771号