深度学习数据预处理

深度学习数据预处理

训练过程中有时会遇到过拟合的问题，其中一个解决方法就是对训练数据做增强，对数据进行处理得到不同的图像，从而泛化数据集。数据增强API是定义在领域目录的transofrms下，这里介绍两种使用方式，一种是基于框架内置数据集，一种是基于自定义的数据集。

一、飞桨框架内置数据集

针对飞桨框架内置图像数据集的预处理，飞桨框架将这部分API整合到paddle.vision.transforms下，你可以通过以下方式查看：

import paddle

print('数据处理方法：', paddle.vision.transforms.__all__)

数据处理方法： ['BaseTransform', 'Compose', 'Resize', 'RandomResizedCrop', 'CenterCrop', 'RandomHorizontalFlip', 'RandomVerticalFlip', 'Transpose', 'Normalize', 'BrightnessTransform', 'SaturationTransform', 'ContrastTransform', 'HueTransform', 'ColorJitter', 'RandomCrop', 'Pad', 'RandomRotation', 'Grayscale', 'ToTensor', 'to_tensor', 'hflip', 'vflip', 'resize', 'pad', 'rotate', 'to_grayscale', 'crop', 'center_crop', 'adjust_brightness', 'adjust_contrast', 'adjust_hue', 'normalize']

可以同构以下方式随机调整图像的亮度、对比度、饱和度，并调整图像的大小，对图像的其他调整，可以参考相关的API文档。

from paddle.vision.transforms import Compose, Resize, ColorJitter

 

# 定义想要使用的数据增强方式，这里包括随机调整亮度、对比度和饱和度，改变图片大小

transform = Compose([ColorJitter(), Resize(size=32)])

 

# 通过transform参数传递定义好的数据增强方法即可完成对自带数据集的增强

train_dataset = paddle.vision.datasets.MNIST(mode='train', transform=transform)

二、自定义数据集

对于自定义的数据集，可以在数据集的构造函数中进行数据增强方法的定义，之后对 __getitem__ 中返回的数据进行应用，就可以完成自定义数据增强。

import paddle

from paddle.io import Dataset

from paddle.vision.transforms import Compose, Resize

 

BATCH_SIZE = 64

BATCH_NUM = 20

 

IMAGE_SIZE = (28, 28)

CLASS_NUM = 10

 

class MyDataset(Dataset):

    def __init__(self, num_samples):

        super(MyDataset, self).__init__()

        self.num_samples = num_samples

        # 在 `__init__` 中定义数据增强方法，此处为调整图像大小

        self.transform = Compose([Resize(size=32)])

 

    def __getitem__(self, index):

        data = paddle.uniform(IMAGE_SIZE, dtype='float32')

        # 在 `__getitem__` 中对数据集使用数据增强方法

        data = self.transform(data.numpy())

 

        label = paddle.randint(0, CLASS_NUM-1, dtype='int64')

 

        return data, label

 

    def __len__(self):

        return self.num_samples

 

# 测试定义的数据集

custom_dataset = MyDataset(BATCH_SIZE * BATCH_NUM)

 

print('=============custom dataset=============')

for data, label in custom_dataset:

    print(data.shape, label.shape)

    break

=============custom dataset=============

[32, 32] [1]

可以看出，输出的形状从 [28, 28, 1] 变为了 [32, 32, 1]，证明完成了图像的大小调整。