【CV数据集总结】face_landmark_dataset总结

前言

本文主要整理总结face landmark有关的数据集。
Face 2D Keypoint ‒ MMPose 1.1.0 documentation
https://github.com/open-mmlab/mmpose/blob/main/docs/en/dataset_zoo/2d_face_keypoint.md
关键特征点个数有5/15/68/98/106...

数据集

300W dataset

68个点，Indoor和Outdoor目录各300个人脸及其68个点的标注文件；
数据集下载
https://ibug.doc.ic.ac.uk/download/annotations/300w.zip.001
https://ibug.doc.ic.ac.uk/download/annotations/300w.zip.002
https://ibug.doc.ic.ac.uk/download/annotations/300w.zip.003
https://ibug.doc.ic.ac.uk/download/annotations/300w.zip.004
其他数据集下载链接
xm2vts: 只有2360个68点的标注文件
https://ibug.doc.ic.ac.uk/download/annotations/xm2vts.zip
frgc：只有4950个68点的标注文件
https://ibug.doc.ic.ac.uk/download/annotations/frgc.zip

lfpw：

测试和训练集共有2070/2=1035张图像及其68个点标注文件；
https://ibug.doc.ic.ac.uk/download/annotations/lfpw.zip

helen：

测试和训练集共有4660/2=2330个人脸及其68个点标注文件；
https://ibug.doc.ic.ac.uk/download/annotations/helen.zip

AFW：

674/2=337个人脸及其68个点标注文件；
https://ibug.doc.ic.ac.uk/download/annotations/afw.zip

ibug：

270/2=135个人脸及其68个点标注文件；
https://ibug.doc.ic.ac.uk/download/annotations/ibug.zip

ibug_300W_large_face_landmark_dataset.tar.gz

数据集通过以下网站找到下载链接，通过链接下载的；
https://towardsdatascience.com/face-landmarks-detection-with-pytorch-4b4852f5e9c4
http://dlib.net/files/data/ibug_300W_large_face_landmark_dataset.tar.gz
这个数据集是SDM训练需要用到的，使用xml文件表示，下载的xml文件和原代码有些微差别，调试通过即可；
通过查看原数据，发现每张图像都进行了镜像处理，也就是一张图像包括2个数据对，一个是自身，一个是镜像；
数据集目录：
input/ibug_300W_large_face_landmark_dataset
├── afw
├── helen
├── ibug
├── image_metadata_stylesheet.xsl
├── labels_ibug_300W_test.xml
├── labels_ibug_300W_train.xml
├── labels_ibug_300W.xml
└── lfpw
xml文件格式：
<images>
  <image file='helen/trainset/146827737_1.jpg' width='640' height='790'>
    <box top='224' left='70' width='295' height='295'>
      <part name='00' x='145' y='355'/>
      <part name='01' x='144' y='382'/>
      ......
      <part name='66' x='190' y='492'/>
      <part name='67' x='180' y='487'/>
    </box>
  </image>
  ......
<images>
数据集解析代码
std::vector<std::string> split(const  std::string& s, const std::string& delim)
{
    std::vector<std::string> elems;
    size_t pos = 0;
    size_t len = s.length();
    size_t delim_len = delim.length();
    if (delim_len == 0) return elems;
    while (pos < len)
    {
        int find_pos = s.find(delim, pos);
        if (find_pos < 0)
        {
            elems.push_back(s.substr(pos, len - pos));
            break;
        }
        elems.push_back(s.substr(pos, find_pos - pos));
        pos = find_pos + delim_len;
    }
    return elems;
}

void ReadLabelsFromFile(std::vector<ImageLabel> &Imagelabels, std::string Path = "labels_ibug_300W_train.xml"){
    std::string ParentPath(trainFilePath);
    std::ifstream LabelsFile(ParentPath+Path, std::ios::in);
    if(!LabelsFile.is_open()){
        return;
    }
    std::string linestr;
    while(std::getline(LabelsFile, linestr)){
        linestr = trim(linestr);
        linestr = replace(linestr, "</", "");
        linestr = replace(linestr, "/>", "");
        linestr = replace(linestr, "<", "");
        linestr = replace(linestr, ">", "");
        linestr = replace(linestr, "'", "");

        std::vector<std::string> strNodes = split(linestr, " ");
        if(!strNodes.size()) { std::cout << "line is NULL" << std::endl; continue;}
        static ImageLabel* mImageLabel = NULL;
        switch (strNodes.size()) {
        case 1:
            if(strNodes[0] == "image"){
                Imagelabels.push_back(*mImageLabel);
                delete mImageLabel;
            }
            break;
        case 4:
            if(strNodes[0] == "image"){
                mImageLabel = new ImageLabel();
                mImageLabel->imagePath = ParentPath + split(strNodes[1], "=")[1];
            }else if(strNodes[0] == "part"){
                int index = atoi(split(strNodes[1], "=")[1].data());
                mImageLabel->landmarkPos[index] = atoi(split(strNodes[2], "=")[1].data());
                mImageLabel->landmarkPos[index+LandmarkPointsNum] = atoi(split(strNodes[3], "=")[1].data());
            }
            break;
        case 5:
            if(strNodes[0] == "box"){
                mImageLabel->faceBox[0] = atoi(split(strNodes[1], "=")[1].data()); // top
                mImageLabel->faceBox[1] = atoi(split(strNodes[2], "=")[1].data()); // left
                mImageLabel->faceBox[2] = atoi(split(strNodes[3], "=")[1].data()); // width
                mImageLabel->faceBox[3] = atoi(split(strNodes[4], "=")[1].data()); // height
            }
            break;
        default:
            break;
        }
    }
    LabelsFile.close();
}
View Code
解析完成之后，训练集有6666张图像，测试集1008张图像；

WFLW dataset

Look at Boundary: A Boundary-Aware Face Alignment Algorithm
WFLW Dataset - Machine Learning Datasets
这是由商汤提供的，98个关键点，还包括occlusion, position, make-up, lighting, blur, and expression等人脸属性；训练集7500images(list_98pt_rect_attr_train.txt)，测试集2500images(list_98pt_rect_attr_test.txt)；
标签格式：196+4+6+1=207；
coordinates of 98 landmarks (196) + coordinates of upper left corner and lower right corner of detection rectangle (4) + attributes annotations (6) + image name (1)
  x0 y0 ... x97 y97 x_min_rect y_min_rect x_max_rect y_max_rect pose expression illumination make-up occlusion blur image_name
标注图像

 为什么出现两个wflw_annotations.tar文件呢？

Lapa dataset

GitHub - JDAI-CV/lapa-dataset: A large-scale dataset for face parsing (AAAI2020) 106points；
GitHub - lucia123/lapa-dataset: A large-scale dataset for face parsing (AAAI2020)
A New Dataset and Boundary-Attention Semantic Segmentation for Face Parsing

AAAI2020，京东AI-CV研究团队-LaPa-Dataset。

公开22,000多张人脸图像数据集，在表情、姿势和遮挡方面有着丰富的变化，每张LaPa图像都提供了11类像素级标签图和106点特征点，主要用于人脸解析。
LaPa数据集test2000+train18168+val2000，其中labels是像素级标签图，landmarks是106点landmarks标签；能够有效帮助降低在大姿态测试集上的loss；
LaPa-Dataset:京东人脸106特征点数据集_OneboWang的博客-CSDN博客
LaPa简介
  1. 京东训练hourglassnet作为半自动人脸标注工具；
  2. 人工后期调整少量的难例样本；
数据集组成
  1. 提供原始图像、像素级标签图以及106点landmark标签；
  2. landmark顺序需要自行调整，没有给出具体对应的脸部位置（可视化）；
  3. 像素级标签用于人脸解析，文章里在公开此数据集之外，还用此数据集进行人脸的语义分割和解析模型，因此处与日常工作无关，感兴趣的同学可以自行阅读人脸解析算法部分；
数据集目录
./LaPa
├── test
│   ├── images
│   ├── labels
│   └── landmarks
├── train
│   ├── images
│   ├── labels
│   └── landmarks
└── val
    ├── images
    ├── labels
    └── landmarks
View Code
数据集样例

 

JD-landmark

Grand Challenge of 106-p Facial Landmark Localization
https://sites.google.com/view/hailin-shi
Grand Challenge of 106-Point Facial Landmark Localization
106个关键特征点；
需要注意的是每个图仅仅标注了一张人脸关键点。需要注意的坑是其中#75和#105重合，#84和#106重合。

合并WFLW和JD-landmark两个数据集为98关键点数据集，去除JD-landmark中56/66/57/65/58/64/75/84点。
合并后数据集链接: https://pan.baidu.com/s/179crM6svNbK3w28Z0ycBHg 提取码: 7guh
 

Kaggle dataset

Facial Keypoints Detection 4+15points；

P1_Facial_Keypoints

GitHub - udacity/P1_Facial_Keypoints: First project for CVND: facial keypoint detection.
数据集在P1_Facial_Keypoints repo, in the subdirectory data；
landmarks以csv文件存储，每行内容是imgname+68*2共137列数据，也是68个关键点；
https://aistudio.baidu.com/aistudio/projectdetail/1487972

分析总结

68个关键点的数据集：

300w(600) / lfpw(1035) / helen(2330) / AFW(337) / ibug(135);
600+1035+2330+337+135=4437;
300w_name，包含indoor和outdoor；
lfpw_train/test_name，训练集和测试集的名字重名，需要区分开，直接使用train/test或者0/1指定；
helen，train/test数据集，应该没有重名的，可以直接使用，需要验证注意，因为名字没有规律；
afw，与helen相似，不知道二者有没有重复的；
ibug，有规律，但是不知道会不会和lfpw重复；
故，最好都加上原数据集的名称，然后组成新的数据集，再分割train/valid;
gen68kp.sh
#!/bin/sh
'''
generate 68 keypoints face landmark dataset from 300w/lfpw/helen/afw/ibug dataset.
300w  01_Indoor/02_Outdoor 300w_name
lfpw  trainset/testset     lfpw0/1_name
helen trainset/testset     helen_name
afw                        afw_name
ibug                       ibug_name
'''

script_path="$(pwd)"
kp68path="$script_path/68kp"
# 300w
for file in $script_path/300w/300w/01_Indoor/*; do
    echo $file
    base=$(basename $file)
    newfile=$kp68path/"300w_"$base
    cp $file $newfile
done
for file in $script_path/300w/300w/02_Outdoor/*; do
    echo $file
    base=$(basename $file)
    newfile=$kp68path/"300w_"$base
    cp $file $newfile
done
# lfpw
for file in $script_path/lfpw/trainset/*; do
    echo $file
    base=$(basename $file)
    newfile=$kp68path/"lfpw0_"$base
    cp $file $newfile
done
for file in $script_path/lfpw/testset/*; do
    echo $file
    base=$(basename $file)
    newfile=$kp68path/"lfpw1_"$base
    cp $file $newfile
done
# helen/afw/ibug
# jpg ---> png
for file in $kp68path/*.jpg; do
# for file in $script_path/aaa/*jpg; do
    pngname=${file%.jpg}.png
    # convert "$file" "${file%.jpg}.png"
    ffmpeg -pix_fmt rgb24 -i $file -pix_fmt rgb24 $pngname
    rm $file
done

# split dataset to train/valid with png/pts.
'''
.dataset68
├── train
│   ├── png
│   └── pts
└── valid
    ├── png
    └── pts
'''
dataset_path="$script_path/dataset68"
cd $script_path
find $script_path/68kp/ -name "*.png" > $script_path/image.txt
rm -r $dataset_path
mkdir $dataset_path
cd $dataset_path
mkdir train valid
cd train
mkdir png pts
cd ../valid
mkdir png pts
cd $script_path
python genpath.py  # 分割数据集
View Code

98个关键点的数据集：

wflw(10000) / JD-landmarks-98(unavaiable?)
合并WFLW和JD-landmark两个数据集为98关键点数据集，去除JD-landmark中56/66/57/65/58/64/75/84点。
二者合并之后的数据集，合并后数据集链接: https://pan.baidu.com/s/179crM6svNbK3w28Z0ycBHg 提取码: 7guh
共有25393个数据图像，也就是JD-landmarks-98数据集共有15393个数据；

106个关键点的数据集：

JD-landmark(?) / Lapa(22000)
可以先使用68个点的进行训练，后续再训练98/106的，需要预处理数据集；
 

posted on 2023-08-03 18:23  鹅要长大  阅读(112)  评论(0)  编辑  收藏  举报

导航