Caffe代码导读（3）：LevelDB例程

Caffe代码导读（3）：LevelDB例程

Caffe自带例子Cifar10中使用leveldb存储输入数据，为此我们研究一下怎样使用它。安装步骤可以参考http://blog.csdn.net/kangqing2003/article/details/6658345

 

Leveldb库提供了一种持续的键值对存储方式。键和值可以为任意字节数组。键存储顺序可由用户定义的比较函数决定。

打开一个数据库

 

Leveldb数据库有个与文件系统目录相对应的名字。数据库的所有内容都保存在这个目录中。下面例子展示了怎样打开一个数据库，必要时创建它：

 

 

#include <assert>
#include "leveldb/db.h"

leveldb::DB* db;
leveldb::Options options;
options.create_if_missing = true;
leveldb::Status status = leveldb::DB::Open(options,"/tmp/testdb", &db);
assert(status.ok());

如果你想在数据库已经存在情况下报错，只需要在leveldb::DB::Open调用前增加以下代码

 

 

options.error_if_exists = true;

状态

 

你可能注意到了上面的leveldb::Status类型。Leveldb中大多数可能遇到错误的函数返回该类型的值。你可以检查返回值是否为ok，必要时可打印相应的错误信息：

 

leveldb::Status s = ...;
 if(!s.ok()) cerr << s.ToString() << endl;

关闭数据库

 

当你操作完一个数据库，只需delete掉数据库对象。例子：

 

...open the db as described above ...
... dosomething with db ...
deletedb;

读和写

 

数据库提供Put，Delete和Get方法来修改/检索数据库。例如，下面代码将key1键下的值value移动到key2键下：

 

std::string value;
leveldb::Status s = db->Get(leveldb::ReadOptions(), key1,&value);
 if(s.ok()) s = db->Put(leveldb::WriteOptions(), key2, value);
 if(s.ok()) s = db->Delete(leveldb::WriteOptions(), key1);

原子更新

 

注意到如果进程在key2 Put操作后、key1 delete操作前终止，那么相同的值value可能留存在多个键下。这类问题可以使用WriteBatch类避免，该类可以原子地应用一系列更新：

 

#include "leveldb/write_batch.h"
 ...
std::string value;
leveldb::Status s = db->Get(leveldb::ReadOptions(), key1,&value);
 if(s.ok()) {
  leveldb::WriteBatch batch;
  batch.Delete(key1);
  batch.Put(key2, value);
   s =db->Write(leveldb::WriteOptions(), &batch);
 }

WriteBatch持有一系列针对数据库的编辑操作，这些操作将在一个batch内顺序执行。注意到我们在Put前调用Delete，这样如果key1恰好等于key2时，最终我们不会错误地丢掉整个value。

 

除了原子操作的优点，WriteBatch也可以用于加速批量更新操作，只需要将大量独立的改动操作放到同一个batch中。

同步写

默认情况下，每次写到leveldb都是异步的：进程一旦将写操作推送给操作系统就返回。操作系统内存到非易失存储的传输将异步发生。在某次写入中可将标志位sync使能，这样会使写操作直到数据写入非易失存储后才返回。（在采用了Posix的系统中，写操作返回前调用fsync(), fdatasync(),msync(…,MS_SYNC)）。

 

leveldb::WriteOptions write_options;
write_options.sync = true;
db->Put(write_options, ...);