【PyTorch】（二）加载数据集
文章目录
- 1. 创建数据集
- 1.1. 直接继承Dataset类
- 1.2. 使用TensorDataset类
- 2. 加载数据集
- 3. 将数据转移到GPU
1. 创建数据集
主要是将数据集读入内存，并用Dataset类封装。
1.1. 直接继承Dataset类
必须要重写__getitem__方法，用于根据索引获得相应样本数据。必要时还可以重写__len__方法，用于返回数据集的大小。
from torch.utils.data import Datasetclass BostonHousingDataset(Dataset):"""定义波士顿房价数据集"""def __init__(self):self.data = np.load('../dataset/boston_housing/boston_housing.npz')def __getitem__(self, index):return self.data['x'][index], self.data['y'][index]def __len__(self):return self.data['x'].shape[0]
1.2. 使用TensorDataset类
将多个张量组合成一个数据集，要保证所有张量的第一个维度相等，保证每批样本数据格式相同。
import torch
from torch.utils.data import TensorDatasetdata = np.load('../dataset/boston_housing/boston_housing.npz')
X = torch.tensor(data['x'])
y = torch.tensor(data['y'])
dataset = TensorDataset(X, y)
2. 加载数据集
使用DataLoader类将Dataset封装的数据集分成批次并进行迭代，以便于模型训练。DataLoader常用参数如下：
- dataset
要加载的数据集。 - batch_size
每个数据批次中包含的样本数。默认为1。 - shuffle
是否打乱数据集。默认为False。 - num_workers
使用几个进程来加载数据。默认为0，即在主进程中加载数据。 - drop_last
当数据集样本数不能被batch_size整除时，是否舍弃最后一个不完整的batch。默认为False。
from torch.utils.data import DataLoaderdataloader = DataLoader(dataset, batch_size=16, shuffle=True)3. 将数据转移到GPU
一般在要运算时才将数据转移到GPU，有以下两种方法：
- var.to(device)
- var.cuda()
import torchdevice = torch.device("cuda" if torch.cuda.is_available() else "cpu")
for X,y in dataloader:# 将数据转移到GPUX = X.to(device)y = y.to(device)# 也可以X = X.cuda()y = y.cuda()