Sqlite大批量导入数据提高效率的几种方式

本文为转载文章,转载地址:

  http://blog.csdn.net/majiakun1/article/details/46607163(1-5,8小结)

  http://blog.csdn.net/lijinqi1987/article/details/51852721(6-7小结)

前言

SQLite数据库由于其简单、灵活、轻量、开源,已经被越来越多的被应用到中小型应用中。甚至有人说,SQLite完全可以用来取代c语言中的文件读写操作。因此我最近编写有关遥感数据处理的程序的时候,也将SQLite引入进来,以提高数据的结构化程度,并且提高大数据的处理能力(SQLite最高支持2PB大小的数据)。但是最开始,我发现,直接使用SQL语句的插入效率简直低的令人发指的。后来不断查文档、查资料,才发现了一条快速的“数据插入”之路。本文就以插入数据为例,整合网上和资料书中的各种提高SQLite效率的方法,给出提高SQLite数据插入效率的完整方法。


1 数据

我使用的电脑是Win7 64位系统,使用VC2010编译,SQLIte版本为3.7.15.2 ,电脑CPU为二代i3处理器,内存6G。
实验之前,先建立要插入数据的表:
1     create table t1 (id integer , x integer , y integer, weight real)  
View Code

2 慢速——最粗暴的方法

SQLite的API中直接执行SQL的函数是:
1     int sqlite3_exec(  sqlite3*,    const char *sql,   int (*callback)(void*,int,char**,char**),   void *,   char **errmsg)  
View Code

直接使用INSERT语句的字符串进行插入,程序部分代码(完整代码见后文),如下:

1     for(int i=0;i<nCount;++i)  
2     {  
3         std::stringstream ssm;  
4         ssm<<"insert into t1 values("<<i<<","<<i*2<<","<<i/2<<","<<i*i<<")";  
5         sqlite3_exec(db,ssm.str().c_str(),0,0,0);  
6     }  
View Code

这个程序运行的太慢了,我已经没时间等待了,估算了一下,基本上是 7.826 条/s

3 中速——显式开启事务

所谓”事务“就是指一组SQL命令,这些命令要么一起执行,要么都不被执行。在SQLite中,每调用一次sqlite3_exec()函数,就会隐式地开启了一个事务,如果插入一条数据,就调用该函数一次,事务就会被反复地开启、关闭,会增大IO量。如果在插入数据前显式开启事务,插入后再一起提交,则会大大提高IO效率,进而加数据快插入速度。
开启事务只需在上述代码的前后各加一句开启与提交事务的命令即可:
1  sqlite3_exec(db,"begin;",0,0,0);  
2 for(int i=0;i<nCount;++i)  
3 {  
4     std::stringstream ssm;  
5     ssm<<"insert into t1 values("<<i<<","<<i*2<<","<<i/2<<","<<i*i<<")";  
6     sqlite3_exec(db,ssm.str().c_str(),0,0,0);  
7 }  
8 sqlite3_exec(db,"commit;",0,0,0); 
View Code

显式开启事务后,这个程序运行起来明显快很多,估算效率达到了34095条/s,较原始方法提升约5000倍。

4 高速——写同步(synchronous)

我要使用一个遥感处理算法处理10000*10000的影像,中间有一步需要插入100000000条数据到数据库中,如果按照开启事务后的速度34095条/s,则需要100000000÷34095 = 2932秒 = 48.9分,仍然不能够接受,所以我接着找提升速度的方法。终于,在有关讲解SQLite配置的资料中,看到了“写同步”选项。

在SQLite中,数据库配置的参数都由编译指示(pragma)来实现的,而其中synchronous选项有三种可选状态,分别是full、normal、off。这篇博客以及官方文档里面有详细讲到这三种参数的设置。简要说来,full写入速度最慢,但保证数据是安全的,不受断电、系统崩溃等影响,而off可以加速数据库的一些操作,但如果系统崩溃或断电,则数据库可能会损毁。

SQLite3中,该选项的默认值就是full,如果我们再插入数据前将其改为off,则会提高效率。如果仅仅将SQLite当做一种临时数据库的话,完全没必要设置为full。在代码中,设置方法就是在打开数据库之后,直接插入以下语句:

1 sqlite3_exec(db,"PRAGMA synchronous = OFF; ",0,0,0); 
View Code

此时,经过测试,插入速度已经变成了41851条/s,也就是说,插入100000000条数据,需要2389秒 = 39.8分

5 极速——执行准备

虽然写同步设为off后,速度又有小幅提升,但是仍然较慢。我又一次踏上了寻找提高SQLite插入效率方法的道路上。终于,我发现,SQLite执行SQL语句的时候,有两种方式:一种是使用前文提到的函数sqlite3_exec(),该函数直接调用包含SQL语句的字符串;另一种方法就是“执行准备”(类似于存储过程)操作,即先将SQL语句编译好,然后再一步一步(或一行一行)地执行。如果采用前者的话,就算开起了事务,SQLite仍然要对循环中每一句SQL语句进行“词法分析”和“语法分析”,这对于同时插入大量数据的操作来说,简直就是浪费时间。因此,要进一步提高插入效率的话,就应该使用后者。

“执行准备”主要分为三大步骤:

1.调用函数:

1 int sqlite3_prepare_v2( sqlite3 *db,  const char *zSql,  int nByte,  sqlite3_stmt **ppStmt,  const char **pzTail);
View Code

并且声明一个指向sqlite3_stmt对象的指针,该函数对参数化的SQL语句zSql进行编译,将编译后的状态存入ppStmt中。

2.调用函数 sqlite3_step() ,这个函数就是执行一步(本例中就是插入一行),如果函数返回的是SQLite_ROW则说明仍在继续执行,否则则说明已经执行完所有操作;

3.调用函数 sqlite3_finalize(),关闭语句。

关于执行准备的API的具体语法,详见官方文档。本文中执行准备的c++代码如下:

 1     sqlite3_exec(db,"begin;",0,0,0);  
 2         sqlite3_stmt *stmt;  
 3         const char* sql = "insert into t1 values(?,?,?,?)";  
 4         sqlite3_prepare_v2(db,sql,strlen(sql),&stmt,0);  
 5           
 6         for(int i=0;i<nCount;++i)  
 7         {         
 8             sqlite3_reset(stmt);  
 9             sqlite3_bind_int(stmt,1,i);  
10             sqlite3_bind_int(stmt,1,i*2);  
11             sqlite3_bind_int(stmt,1,i/2);  
12             sqlite3_bind_double(stmt,1,i*i);  
13         }  
14         sqlite3_finalize(stmt);  
15         sqlite3_exec(db,"commit;",0,0,0);  
View Code

此时测试数据插入效率为:265816条/s,也就是说,插入100000000条数据,需要376秒 = 6.27分。这个速度已经很满意了。

 

综上所述啊,SQLite插入数据效率最快的方式就是:事务+关闭写同步+执行准备(存储过程),如果对数据库安全性有要求的话,就开启写同步。

 6 使用WAL模式

   (1).WAL:Write Ahead Logging,他是数据库中用于实现原子事务的一种机制,从3.7.0版本后引入

   (2).WAL模式主要有两个优点:

      a.读写可以完全并发进行,不会互相阻塞(但是写之间仍然不能并发)

     b.WAL在大多情况下,拥有更好的性能(因为无需每次写入时都要写两个文件)

   (3).Rollback journal机制原理:在修改数据库中的数据前,先将修改所在分页中的数据备份在另一个地方,然后再将修改写入到数据中;如果事务失败,则将备份数据拷贝回来,撤销修改;如果事务成功,则删除备份,提交修改。

   (4).WAL机制原理:修改并不直接写入到数据库文件中,而是写入到另外一个称为WAL的文件中,如果事务失败,wal中的文件会被忽略,撤销修改;如果事务成功,它将在随后的某个时间被写回到数据库文件中,提交修改。

   性能差异主要源于每次事务提交,wal只需要将更新的日志写入磁盘,而delete模式首先要将原始数据拷贝到日志文件中,并进行fsync,然后将修改页写入磁盘,同时也需要fsync,确保数据落盘,并且还要清除日志文件。因此写事务在WAL模式下,只需要一次    fsync,并且是顺序写,而在delete模式下需要至少两次fsync(日志,数据),并且更新的数据离散分布在多个page中,因此可能需要多个fsync。

   WAL使用共享内存技术,因此所有读写进程必须在同一个机器上

   开启WAL模式的方法: 

1 sqlite3_exec(db, "PRAGMA journal_mode=WAL; ", 0,0,0);
View Code
1 sqlite3_exec(db, "PRAGMA journal_mode=WAL; ",   7 总

  在前面的基础上,使用WAL模式后执行5次操作平均耗时4.324秒

7.内存数据库

  另外,如果数据无需长时间保存,可以使用sqlite的内存数据库替代文件数据库

  开启sqlite内存数据库的方式:

1 sqlite3* db = NULL;  
2 rc = sqlite3_open(":memory", &db);</span> 
View Code

  执行5次平均耗时:4.052秒

  但是内存数据库存在如下缺点:

  (1).断电或者程序崩溃后数据库就会消失
  (2).在内存中的数据库不能被别的进程访问

  (3).不支持像在硬盘上的读写互斥处理,需要自己加锁

8 总结

参考资料:

1. SQLite官方文档:http://www.sqlite.org/docs.html
2.《解决sqlite3插入数据很慢的问题》:http://blog.csdn.net/victoryknight/article/details/7461703
3.《The Definitive Guide to SQLite》Apress出版:http://www.apress.com/9781430232254 (这是本好书)

附最终完整代码:

 1     #include <iostream>  
 2     #include <string>  
 3     #include <sstream>  
 4     #include <time.h>  
 5     #include "sqlite3.h"  
 6       
 7     const int nCount = 500000;  
 8           
 9     int main (int argc,char** argv)  
10     {  
11         sqlite3* db;  
12         sqlite3_open("testdb.db" ,&db);  
13         sqlite3_exec(db,"PRAGMA synchronous = OFF; ",0,0,0);  
14         sqlite3_exec(db,"drop table if exists t1",0,0,0);  
15         sqlite3_exec(db,"create table t1(id integer,x integer,y integer ,weight real)",0,0,0);  
16         clock_t t1 = clock();  
17           
18         sqlite3_exec(db,"begin;",0,0,0);  
19         sqlite3_stmt *stmt;  
20         const char* sql = "insert into t1 values(?,?,?,?)";  
21         sqlite3_prepare_v2(db,sql,strlen(sql),&stmt,0);  
22           
23         for(int i=0;i<nCount;++i)  
24         {  
25             // std::stringstream ssm;  
26             // ssm<<"insert into t1 values("<<i<<","<<i*2<<","<<i/2<<","<<i*i<<")";  
27             // sqlite3_exec(db,ssm.str().c_str(),0,0,0);  
28             sqlite3_reset(stmt);  
29             sqlite3_bind_int(stmt,1,i);  
30             sqlite3_bind_int(stmt,2,i*2);  
31             sqlite3_bind_int(stmt,3,i/2);  
32             sqlite3_bind_double(stmt,4,i*i);  
33             sqlite3_step(stmt);  
34         }  
35         sqlite3_finalize(stmt);  
36         sqlite3_exec(db,"commit;",0,0,0);  
37         clock_t t2 = clock();  
38           
39         sqlite3_close(db);  
40           
41         std::cout<<"cost tima: "<<(t2-t1)/1000.<<"s"<<std::endl;  
42           
43         return 0;  
44     }  
View Code

 

posted @ 2017-10-13 17:32  夜雨翛然  阅读(8201)  评论(2编辑  收藏  举报