如何在 PyTorch 中训练模型

PyTorch 是一个流行的开源机器学习库，广泛用于计算机视觉和自然语言处理等领域。它提供了强大的计算图功能和动态图特性，使得模型的构建和调试变得更加灵活和直观。

数据准备

在训练模型之前，首先需要准备好数据集。PyTorch 提供了 torch.utils.data.Dataset 和 torch.utils.data.DataLoader 两个类来帮助我们加载和批量处理数据。

1. 定义 Dataset

Dataset 类需要我们实现 __init__、__len__ 和 __getitem__ 三个方法。__init__ 方法用于初始化数据集，__len__ 返回数据集中的样本数量，__getitem__ 根据索引返回单个样本。

from torch.utils.data import Dataset

class CustomDataset(Dataset):
def __init__(self, data, labels):
self.data = data
self.labels = labels

def __len__(self):
return len(self.data)

def __getitem__(self, index):
data = self.data[index]
label = self.labels[index]
return data, label

2. 使用 DataLoader

DataLoader 类用于封装数据集，并提供批量加载、打乱数据和多线程加载等功能。

from torch.utils.data import DataLoader

dataset = CustomDataset(data, labels)
data_loader = DataLoader(dataset, batch_size=32, shuffle=True, num_workers=4)

模型定义

在 PyTorch 中，模型是通过继承 torch.nn.Module 类来定义的。我们需要实现 __init__ 方法来定义网络层，并实现 forward 方法来定义前向传播。

import torch.nn as nn
import torch.nn.functional as F

class MyModel(nn.Module):
def __init__(self):
super(MyModel, self).__init__()
self.fc1 = nn.Linear(784, 128) # 以 MNIST 数据集为例
self.fc2 = nn.Linear(128, 10)

def forward(self, x):
x = F.relu(self.fc1(x))
x = self.fc2(x)
return x

损失函数和优化器

1. 选择损失函数

PyTorch 提供了多种损失函数，如 nn.CrossEntropyLoss、nn.MSELoss 等。根据任务的不同，选择合适的损失函数。

criterion = nn.CrossEntropyLoss()

2. 选择优化器

PyTorch 也提供了多种优化器，如 torch.optim.SGD、torch.optim.Adam 等。优化器用于在训练过程中更新模型的权重。

optimizer = torch.optim.Adam(model.parameters(), lr=0.001)

训练循环

训练循环是模型训练的核心，它包括前向传播、计算损失、反向传播和权重更新。

model = MyModel()
num_epochs = 10

for epoch in range(num_epochs):
for data, labels in data_loader:
optimizer.zero_grad() # 清空梯度
outputs = model(data) # 前向传播
loss = criterion(outputs, labels) # 计算损失
loss.backward() # 反向传播
optimizer.step() # 更新权重
print(f'Epoch {epoch 1}, Loss: {loss.item()}')

模型评估

在训练过程中，我们还需要定期评估模型的性能，以监控训练进度和过拟合情况。

def evaluate(model, data_loader):
model.eval() # 设置为评估模式
total = 0
correct = 0
with torch.no_grad(): # 禁用梯度计算
for data, labels in data_loader:
outputs = model(data)
_, predicted = torch.max(outputs.data, 1)
total  = labels.size(0)
correct  = (predicted == labels).sum().item()
accuracy = 100 * correct / total
print(f'Accuracy: {accuracy}%')
model.train() # 恢复训练模式

• 模型 模型 关注

  关注

  1

  文章

  3103

  浏览量

  48639