GBase8a 数据的有序入库
- 有序数据入库的性能优势:
1)提升智能索引对 DC 命中率
2)大幅度提升查询性能 - 局部范围排序
数据库使用中,定期的增量数据入库,在每次增量数据批量入库前先对批量
数据做排序后入库,使数据库数据在局部范围内有序,提高读取速度 。 ?
示例:
建立日表、月表,日表数据进月表前排序,当月结束时全月数据排序。
a) 分析 SQL 找出表内主要查询过滤字段(1 个字段);
b) 将表内数据按照选出的过滤字段进行排序。
3. 排序方式:
外部排序:使用排序工具(psort)对数据文件进行排序,排序后使用加载工具加载至表内;
库内排序:创建临时表,将未排序的数据先存储进临时表,再通过 insert into select * … order by XXX 方式将临时表内数据排序后插入正式表。
注意
外部排序后,加载入库时依然可能会造成数据顺序打乱,所以推荐使用库内排序。
4. 排序方式适应场景:
1) 外部排序适合非实时加载的业务
2) 库内排序适合实时加载业务
浙公网安备 33010602011771号