微调(fine-tuning)是指利用已经训练好的模型,在新的数据集上进行重新训练的过程,以适应新的数据集。在PyTorch中,可以通过以下步骤实现微调:
- 加载预训练的模型:
import torch import torchvision.models as models model = models.resnet18(pretrained=True)
- 修改最后一层全连接层以适应新的数据集:
num_features = model.fc.in_features model.fc = torch.nn.Linear(num_features, num_classes) # num_classes为新的数据集的类别数
- 定义损失函数和优化器:
criterion = torch.nn.CrossEntropyLoss() optimizer = torch.optim.SGD(model.parameters(), lr=0.001, momentum=0.9)
- 加载新的数据集并进行训练:
# 假设 dataloaders 包含训练和验证的 DataLoader for epoch in range(num_epochs): model.train() for inputs, labels in dataloaders['train']: optimizer.zero_grad() outputs = model(inputs) loss = criterion(outputs, labels) loss.backward() optimizer.step() # 在验证集上评估模型性能 model.eval() with torch.no_grad(): for inputs, labels in dataloaders['val']: outputs = model(inputs) # 计算准确率等指标
通过以上步骤,即可完成在PyTorch中进行模型微调的过程。需要注意的是,在微调过程中,可以根据具体情况调整学习率、训练策略等参数以达到更好的效果。