了解Greenplum(1)

了解系列废话:

数据管理系统实现,以Greenplum作为课后实验,这里将实验报告贴出来,纯粹灌水。

1.Greenplum架构

 

如上图所示,GP的基本结构是单master,多slave节点,客户端连接到master节点,master节点可以配置一个备机。多个segment节点都有主备两个数据区,镜像数据区存放的的是其他segment上的数据,只是目前看来,GP允许一个segment的失效,若有多个节点失效,有可能有的数据找不到镜像。节点间并不共享使用数据,而是通过internect模块相互通信。所有的客户端都是连接到master节点上,因此为了降低master的负载,master上执行的动作不会太多,只负责执行计划生成、分发、收集结果,数据字典管理,不承担数据的处理,存放等。Segment负责业务数据的存取、执行master发送过来的sql语句,彼此间对等。

2.Greenplum基本使用

首先根据教程安装好GP系统,参考了网络上的一篇博客教程:Greenplum 源码安装教程 —— 以 CentOS 平台为例http://www.cnblogs.com/arthurqin/p/5849354.html

GP安装好,并使用gpinitsystem 命令完成初始化之后,使用 psql -d postgres 可以开始使用GP。GP有一些基本命令如下:

GP服务启停

gpstart :启动GP服务。当虚拟机关闭重新登录时需要此命令。

gpstop :关闭GP服务。

gpstop -M fast :快速关闭。

gpstop –r :重启。

gpstop –u :重新加载配置文件。

登录与退出GP客户端

    登录:

psql databasename

psql -d databasename -h hostname -p port -U gpusername

退出: \q

查看系统库版本

数据库基本操作

创建、删除数据库

GP初始化系统后,GP会自动创建出三个数据库postgre,template0,template1.

其中postgre用作系统内部数据的存放,既不要删除它,也不要修改它。template1是系统默认的数据,创建数据库时可以以template1为模板,创建新的数据库。template0数据库是创建template1的模板。

命令:CREATE DATABASE dbname ; DROP DATABASE dbname;

GP基本sql语法

创建简单的表

列出数据库中所有的表

查看查询计划

基本SQL语法查看方式,使用帮助

GP的SQL语法特殊说明:

A.Create table:

    GP的建表语句与通常的数据库语句基本一致,但是作为分布式数据库,有一些不同的地方。 1.建表时需要制定分布键distributed by,用以散列数据到不同的segment节点;2.partition by用某个字段将表建成分区表;3.like操作创建与like的表一样的结构;4.inherits可实现表的继承。

B.SELECT

   GP的select语句,与普通数据库语句一样,但是可以不指定from语句,执行函数和简单的计算。在没有添加order by子句的时候,select的结果不能保证顺序,并且两次查询的结果也不一定是一样的。

 

查看数据分布

C.INSERT、UPDATE/DELETE

与标准Sql用法相同。Insert语句分布键要为空,否则数据都被保存在一个节点上,造成数据分布不均匀。Insert采用批量操作,可以提升执行速度,如isnert into values(),(),()。Update 不能对分布键进行更新。 Delete 在4.3版本中支持设计子查询语句,且子查询的结果设计数据重分布。TRUNCATE直接删除物理文件,然后重建新数据文件,对整张表删除更快,例truncate tbname。

3.Greenplum系统表含义

 

pg_class:

    GP数据字典中最重要的一个系统表,保存着所有的表、试图、索引的元数据信息,每个DDL/DML操作都必须跟这个表发送联系。

字段

类型

引用

字段说明

oid

oid

 

pg_class中的唯一标识

relname

name

 

表、索引、视图等的名称

relnamespace

oid

pg_namespace.oid

包含这个关系的名字空间的oid

reltype

oid

pg_type.oid

对应这个表的行类型的数据类型(索引为0,没有此项)

relowner

oid

pg_authid.oid

关系的所有者

Relam

oid

pg_am.oid

索引的访问模式(B-tree/hash等)

Reltuples

float4

 

表中行的数目。估计值。

relhasindex

bool

 

是表且至少有一个索引为true

relkind

char

 

r=普通表或appendonly表,i=索引,s=序列,v=视图,c=复合类型,t=TOAST表,o=内存appendonly文件,u=未列入目录的临时表。

relnatts

Int2

 

关系中用户字段数目(除了关系中的系统字段)。

relacl

Aclitem[]

 

访问权限

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

pg_atrribute:

     这个表记录了关系的字段的内容。表中实际上有一些隐藏字段如记录; 数据保存在哪个segment上的gp_segment_id。

字段

类型

引用

字段说明

attrelid

oid

pg_class.oid

此字段所属的表

attname

name

 

字段名称

atttype

oid

pg_type.oid

此字段的数据类型

attstattarget

int4

 

控制ANALYZE为这个字段积累的统计细节的级别。0表示不收集统计信息。

attlen

Int2

 

pg_type.typlen的副本

attnum

int2

 

字段数目。从1开始计数

attisdropped

bool

 

字段删除标记

attnonull

bool

 

非空约束

attndims

int4

 

字段为数组,表示维数。

    

gp_distribution_policy:

保存着表的分布键。

字段名

引用

字段说明

localoid

pg_class.oid

表的oid

ocaloid

pg_attribute.attnum

保存分布键对应的attnum的一个数组

 

pg_stats:

    数据库中表的统计信息保存在pg_statistic,由ANALYZE创建记录。在这个表pg_statistic的上面有一个视图pg_stats;

字段

类型

引用

字段说明

schemaname

name

pg_namespace.nspname

包含此表的的模式名称(名字空间)

tablename

name

pg_class.relname

表的名称

attname

name

pg_attribute.attname

这一条记录描述的字段的名称

null_frace

real

 

记录中字段为空的百分比

avg_width

integer

 

记录以字节为单位的平均宽度

most_common_vals

anyarray

 

一个字段中最常用数值的列表。没有数值比较常见则为NULL。

4.参考

关于GP的参考资料,首先最好的当然是去官网上有详尽的资料,可以去参考doc目录下的内容,各种手册还是比较详细的。

官网: https://pivotal.io/big-data/pivotal-greenplum

另外若需要先刷一下中文资料,可以参考《Greenplum企业应用实战》。这个资料好像csdn上有,我也给分享了百度云连接。里面还有一个ppt,算是DBA培训手册。

https://pivotal.io/big-data/pivotal-greenplum

其他,阿里云栖社区,有些话题会讨论greenplum,也可以逛逛。但是我尝试里面的一篇文章,扩展segment节点,没能成功/(ㄒoㄒ)/~~。

 

posted @ 2016-11-03 15:58  孤鸿寄语  阅读(8746)  评论(0编辑  收藏  举报