这类教程最值得先看的不是它讲了多少功能而是能不能帮你把“训练、验证、日志”这套核心流程真正跑通、跑稳。很多人在学PyTorch时模型代码能写但一到自己数据集上跑训练就乱不知道数据怎么分、验证集有什么用、训练日志看哪些指标、loss不降了怎么办。这篇文章就围绕“建立完整训练流程”这个目标把训练集、验证集和训练日志这三个环节拆开告诉你每一步具体做什么、为什么这么做以及怎么从日志里发现问题。我建议你先别急着找最新版本或最复杂的模型而是用最基础的CNN比如ResNet配一个公开数据集比如CIFAR-10把整个流程走一遍。流程跑通之后你再换自己的数据、换更复杂的网络心里就有底了。下面我会按实际操作的顺序从环境准备、数据划分、训练循环、验证插入、日志记录到问题排查完整过一遍。1. 先明确“完整训练流程”到底要解决什么问题很多人以为训练流程就是写个循环把数据喂给模型然后看loss下降。这只能算跑通了前向传播和反向传播离“完整”还差得远。一个能用于实际项目迭代的流程必须能回答三个问题1模型在训练集上学得怎么样2它在没见过的数据验证集上表现如何3训练过程中发生了什么出了问题怎么查1.1 训练集、验证集、测试集分别管什么这是第一道坎。我见过不少项目把全部数据都扔进去训练最后准确率很高一上新数据就崩就是因为没搞清这三个集合的分工。训练集模型用来学习参数的数据。你的优化器如SGD、Adam根据训练集计算出的loss来更新权重。目标是在训练集上让loss尽可能降低。验证集不参与参数更新。它的作用是在训练过程中定期评估模型在“未见过的数据”上的表现。主要用来做两件事一是监控模型是否过拟合训练loss一直降验证loss反而开始升二是用来调整超参数比如学习率、网络层数、正则化强度。验证集的表现是决定是否早停、是否保存当前模型权重的关键依据。测试集在整个训练流程完全结束后包括模型架构、超参数都固定后用来最终评估模型性能的数据集。它应该只使用一次以提供一个对模型泛化能力的无偏估计。在很多课程项目或小型研究中如果没有独立的测试集人们有时会用验证集兼作测试集但这会引入一定的优化偏差需要心里有数。对于新手一个常见的划分比例是 70% (训练) : 15% (验证) : 15% (测试)或者 80:10:10。如果你的数据量很大验证和测试的比例可以更小。1.2 训练日志记录什么才有效日志不是简单地把loss打印出来。有效的日志要能帮你还原训练过程、定位问题。至少需要记录以下几类信息时间与进度当前epoch、iteration/step、耗时。损失与指标训练集的loss验证集的loss和准确率或你关心的其他指标如mAP、F1。学习率如果使用了学习率调度器记录当前学习率值。硬件状态可选但重要GPU显存占用、CPU内存占用。这在处理大模型或大数据时能帮你判断是否触及资源瓶颈。关键事件模型保存点、学习率调整点、早停触发点。把这些信息结构化的记录下来比如写到TensorBoard、WB或者一个格式清晰的文本文件你才能分析出模型是在稳步学习还是已经震荡什么时候可能过拟合调整学习率后是否有改善。2. 环境与数据准备别在第一步就卡住在开始写训练代码前先把环境和数据整理好。很多“莫名其妙”的错误都源于此。2.1 PyTorch环境搭建与验证虽然标题提到“2026最新”但PyTorch的核心API在训练流程层面是稳定的。你应该根据你的显卡和CUDA版本来选择安装命令。不要盲目追求最新版。# 示例在CUDA 11.8环境下安装PyTorch 2.x # 请始终以PyTorch官网pytorch.org提供的安装命令为准 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118安装后用一段简单代码验证环境和GPU是否可用import torch print(fPyTorch版本: {torch.__version__}) print(fCUDA是否可用: {torch.cuda.is_available()}) print(fGPU设备名称: {torch.cuda.get_device_name(0) if torch.cuda.is_available() else CPU})如果用的是AMD显卡或Mac的Metal需要寻找对应的支持版本但基本训练流程的代码逻辑是一致的。2.2 数据集的加载与划分这里以CIFAR-10为例因为它小而完整适合快速验证流程。对于你自己的数据集核心是构建一个Dataset类。import torch from torch.utils.data import DataLoader, random_split from torchvision import datasets, transforms # 1. 定义数据预处理转换 # 训练集通常需要数据增强验证/测试集则不需要或仅需标准化 train_transform transforms.Compose([ transforms.RandomHorizontalFlip(), # 随机水平翻转 transforms.RandomCrop(32, padding4), # 随机裁剪 transforms.ToTensor(), transforms.Normalize((0.4914, 0.4822, 0.4465), (0.2470, 0.2435, 0.2616)) # CIFAR-10的均值和标准差 ]) val_test_transform transforms.Compose([ transforms.ToTensor(), transforms.Normalize((0.4914, 0.4822, 0.4465), (0.2470, 0.2435, 0.2616)) ]) # 2. 下载并加载完整数据集 full_train_dataset datasets.CIFAR10(root./data, trainTrue, downloadTrue, transformtrain_transform) test_dataset datasets.CIFAR10(root./data, trainFalse, downloadTrue, transformval_test_transform) # 3. 划分训练集和验证集 train_size int(0.8 * len(full_train_dataset)) # 80% 训练 val_size len(full_train_dataset) - train_size # 20% 验证 train_dataset, val_dataset random_split(full_train_dataset, [train_size, val_size]) # 注意random_split会保留原数据集的transform。但验证集应该用val_test_transform # 这里有个小技巧我们可以重新设置验证数据集的transform val_dataset.dataset.transform val_test_transform # 4. 创建DataLoader batch_size 64 train_loader DataLoader(train_dataset, batch_sizebatch_size, shuffleTrue, num_workers2, pin_memoryTrue) val_loader DataLoader(val_dataset, batch_sizebatch_size, shuffleFalse, num_workers2, pin_memoryTrue) test_loader DataLoader(test_dataset, batch_sizebatch_size, shuffleFalse, num_workers2) print(f训练集样本数: {len(train_dataset)}) print(f验证集样本数: {len(val_dataset)}) print(f测试集样本数: {len(test_dataset)})关键点shuffleTrue只针对训练集为了让每个epoch看到的数据顺序都不同有助于模型泛化。验证和测试集不需要打乱。num_workers用于多进程数据加载可以加速。但设置过大可能导致内存问题一般设为CPU核心数左右。pin_memoryTrue在GPU训练时能提升数据从CPU到GPU的传输速度。对于你自己的数据集比如用YOLOv8、YOLOv11、DBNet训练自己的数据集你需要自己写Dataset类从文件夹或标注文件中读取图像和标签。数据划分的逻辑是一样的先拿到所有数据路径再用random_split或sklearn.model_selection.train_test_split来分。3. 构建训练循环把验证和日志嵌进去现在进入核心部分。一个基础的训练循环包括前向传播、计算损失、反向传播、参数更新。我们要在这个基础上加入验证循环和日志记录。3.1 模型、损失函数与优化器定义用一个简单的CNN为例实际中你可以替换为ResNet、Swin Transformer等。import torch.nn as nn import torch.optim as optim class SimpleCNN(nn.Module): def __init__(self, num_classes10): super(SimpleCNN, self).__init__() self.features nn.Sequential( nn.Conv2d(3, 32, kernel_size3, padding1), nn.ReLU(inplaceTrue), nn.MaxPool2d(kernel_size2, stride2), nn.Conv2d(32, 64, kernel_size3, padding1), nn.ReLU(inplaceTrue), nn.MaxPool2d(kernel_size2, stride2), ) self.classifier nn.Sequential( nn.Dropout(p0.5), nn.Linear(64 * 8 * 8, 512), nn.ReLU(inplaceTrue), nn.Dropout(p0.5), nn.Linear(512, num_classes) ) def forward(self, x): x self.features(x) x torch.flatten(x, 1) x self.classifier(x) return x device torch.device(cuda if torch.cuda.is_available() else cpu) model SimpleCNN(num_classes10).to(device) criterion nn.CrossEntropyLoss() # 分类任务常用交叉熵损失 optimizer optim.Adam(model.parameters(), lr1e-3) # 优化器 # 学习率调度器可选但推荐 scheduler optim.lr_scheduler.StepLR(optimizer, step_size10, gamma0.1)3.2 训练与验证的混合循环关键思路每个epoch内先跑完整个训练集训练循环然后跑一遍验证集验证循环。验证循环不计算梯度也不执行optimizer.step()。import time from tqdm import tqdm # 用于显示进度条非必需但很实用 def train_one_epoch(model, train_loader, criterion, optimizer, device, epoch): model.train() # 切换到训练模式影响Dropout、BatchNorm等层 running_loss 0.0 correct 0 total 0 # 使用tqdm包装数据加载器方便观察进度 pbar tqdm(train_loader, descfEpoch {epoch} [Train]) for batch_idx, (inputs, targets) in enumerate(pbar): inputs, targets inputs.to(device), targets.to(device) # 清零梯度 optimizer.zero_grad() # 前向传播 outputs model(inputs) loss criterion(outputs, targets) # 反向传播与优化 loss.backward() optimizer.step() # 统计信息 running_loss loss.item() _, predicted outputs.max(1) total targets.size(0) correct predicted.eq(targets).sum().item() # 更新进度条描述 pbar.set_postfix({Loss: running_loss/(batch_idx1), Acc: 100.*correct/total}) epoch_loss running_loss / len(train_loader) epoch_acc 100. * correct / total return epoch_loss, epoch_acc def validate(model, val_loader, criterion, device): model.eval() # 切换到评估模式 running_loss 0.0 correct 0 total 0 with torch.no_grad(): # 关键不计算梯度节省内存和计算 for inputs, targets in val_loader: inputs, targets inputs.to(device), targets.to(device) outputs model(inputs) loss criterion(outputs, targets) running_loss loss.item() _, predicted outputs.max(1) total targets.size(0) correct predicted.eq(targets).sum().item() val_loss running_loss / len(val_loader) val_acc 100. * correct / total return val_loss, val_acc3.3 集成日志记录与模型保存现在把上面的函数组合到主训练循环里并加入日志和模型保存逻辑。这里我们先用一个简单的字典列表记录日志同时打印到控制台。import os import json num_epochs 30 best_val_acc 0.0 log_history [] # 用于记录日志 checkpoint_dir ./checkpoints os.makedirs(checkpoint_dir, exist_okTrue) for epoch in range(1, num_epochs 1): epoch_start_time time.time() # 训练一个epoch train_loss, train_acc train_one_epoch(model, train_loader, criterion, optimizer, device, epoch) # 在验证集上评估 val_loss, val_acc validate(model, val_loader, criterion, device) # 调整学习率如果使用了scheduler scheduler.step() current_lr optimizer.param_groups[0][lr] # 计算epoch耗时 epoch_time time.time() - epoch_start_time # 构建日志条目 log_entry { epoch: epoch, time: epoch_time, train_loss: train_loss, train_acc: train_acc, val_loss: val_loss, val_acc: val_acc, lr: current_lr } log_history.append(log_entry) # 打印到控制台 print(fEpoch {epoch:3d} | Time: {epoch_time:.2f}s | fTrain Loss: {train_loss:.4f} | Train Acc: {train_acc:.2f}% | fVal Loss: {val_loss:.4f} | Val Acc: {val_acc:.2f}% | fLR: {current_lr:.6f}) # 根据验证集准确率保存最佳模型 if val_acc best_val_acc: best_val_acc val_acc torch.save({ epoch: epoch, model_state_dict: model.state_dict(), optimizer_state_dict: optimizer.state_dict(), scheduler_state_dict: scheduler.state_dict(), val_acc: val_acc, train_loss: train_loss, val_loss: val_loss, }, os.path.join(checkpoint_dir, best_model.pth)) print(f - 保存最佳模型验证准确率: {val_acc:.2f}%) # 定期保存检查点例如每5个epoch if epoch % 5 0: torch.save({ epoch: epoch, model_state_dict: model.state_dict(), optimizer_state_dict: optimizer.state_dict(), scheduler_state_dict: scheduler.state_dict(), val_acc: val_acc, }, os.path.join(checkpoint_dir, fcheckpoint_epoch_{epoch}.pth)) # 训练结束后将日志保存为JSON文件 with open(os.path.join(checkpoint_dir, training_log.json), w) as f: json.dump(log_history, f, indent4) print(训练完成日志已保存。)这个流程已经具备了完整性每个epoch记录训练/验证损失准确率、学习率、耗时并根据验证集性能保存最佳模型。日志保存为JSON方便后续分析或绘图。4. 使用TensorBoard进行可视化日志记录控制台打印和JSON文件是基础但对于分析训练趋势可视化工具更直观。PyTorch原生支持TensorBoard。4.1 集成TensorBoard首先安装TensorBoardpip install tensorboard。 然后在训练代码中集成from torch.utils.tensorboard import SummaryWriter # 在训练循环开始前创建Writer writer SummaryWriter(log_dir./runs/exp1) # 指定日志目录 # ... 在训练循环内部每个epoch结束后添加记录 ... for epoch in range(1, num_epochs 1): # ... 训练和验证代码 ... train_loss, train_acc ... val_loss, val_acc ... # 记录标量到TensorBoard writer.add_scalar(Loss/train, train_loss, epoch) writer.add_scalar(Loss/val, val_loss, epoch) writer.add_scalar(Accuracy/train, train_acc, epoch) writer.add_scalar(Accuracy/val, val_acc, epoch) writer.add_scalar(Learning Rate, current_lr, epoch) # 还可以记录图像、直方图等根据需要 # if epoch % 10 0: # # 记录模型某一层的权重分布 # for name, param in model.named_parameters(): # writer.add_histogram(name, param, epoch) # 训练结束后关闭Writer writer.close()4.2 启动TensorBoard查看在命令行中进入项目根目录运行tensorboard --logdir./runs然后在浏览器中打开它提供的地址通常是http://localhost:6006你就能看到损失、准确率、学习率随epoch变化的曲线图。通过对比训练和验证曲线可以轻松判断过拟合训练loss降验证loss升、欠拟合两者都高或学习率是否合适曲线震荡可能学习率太大。5. 训练流程中的关键问题排查流程跑起来只是开始更重要的是能看懂日志解决问题。下面是一些常见场景和排查思路。5.1 Loss不下降或下降缓慢这是最常见的问题。不要一上来就怀疑模型结构按以下顺序排查检查数据输入数据inputs和标签targets是否正确加载到设备GPU上了打印几个样本看看形状和值范围。对于图像输入是否归一化到了合理范围如[0,1]或[-1,1]标签是否在正确的类别范围内检查前向传播把模型切换到eval()模式用几批数据跑一次前向传播看看输出是否合理比如分类任务输出应该是每个类别的分数。检查损失函数计算出的loss值是否正常对于交叉熵损失初始值应该在-log(1/类别数)附近。如果初始loss就是0或一个极小的值可能有问题。检查梯度在loss.backward()之后打印某一层如第一个卷积层的权重梯度weight.grad看看是否非零。如果梯度全是零或接近零说明反向传播可能中断了比如某些层没参与计算。检查学习率学习率是否设置得太小可以先尝试一个较大的学习率如0.01看loss是否有剧烈变化然后再调小。也可以使用学习率查找器LR Finder等工具。检查模型初始化复杂的模型有时需要特定的初始化方式。可以尝试使用PyTorch默认的初始化或使用kaiming_normal_等。简化问题如果上述都正常尝试在极小的数据集比如几十个样本上过拟合。如果模型有能力在极小数据集上让训练loss降到接近0说明模型基本结构是能工作的问题可能出在数据或优化上。如果连小数据都过拟合不了那就要仔细检查模型结构了。5.2 训练Loss下降但验证Loss上升过拟合这是典型的过拟合信号。可以尝试增加正则化在模型中添加或增大Dropout层的丢弃概率p。在优化器中增加权重衰减weight_decay这是L2正则化的一种形式。数据增强加强训练时的数据增强如更多的随机裁剪、颜色抖动、旋转等。确保验证集不使用数据增强。早停监控验证集loss当其在连续多个epoch如patience10不再下降时停止训练并回滚到验证loss最低的模型。简化模型如果模型参数过多而数据量有限考虑减少网络层数或宽度。获取更多数据这是最根本但可能最难的方法。5.3 训练过程不稳定Loss震荡大学习率太大这是首要怀疑对象。尝试将学习率降低一个数量级例如从1e-3降到1e-4。批次大小太小小批量可能导致梯度估计噪声大。在显存允许的情况下尝试增大batch_size。数据问题检查数据中是否有异常值或错误的标签。错误标注确实会导致模型困惑loss难以稳定下降。梯度裁剪对于RNN或非常深的网络梯度爆炸可能导致震荡。可以使用torch.nn.utils.clip_grad_norm_(model.parameters(), max_norm1.0)来裁剪梯度。5.4 显存不足CUDA out of memory减小batch_size这是最直接有效的方法。减小图像分辨率或序列长度如果可能降低输入数据的尺寸。使用梯度累积如果因为batch_size太小影响训练稳定性可以使用梯度累积。例如设置batch_size4但每4个批次才更新一次参数accumulation_steps4这相当于模拟batch_size16的效果但显存占用只有batch_size4的水平。accumulation_steps 4 optimizer.zero_grad() for i, (inputs, targets) in enumerate(train_loader): outputs model(inputs) loss criterion(outputs, targets) loss loss / accumulation_steps # 损失归一化 loss.backward() if (i1) % accumulation_steps 0: optimizer.step() optimizer.zero_grad()使用混合精度训练使用torch.cuda.amp进行自动混合精度训练可以显著减少显存占用并可能加速训练。检查内存泄漏确保在验证循环中使用了with torch.no_grad()并且没有在循环中不必要地累积张量。6. 将流程扩展到自己的项目掌握了CIFAR-10上的完整流程后应用到自己的项目如用YOLO训练自己的数据集、训练UNet、训练Transformer就主要是数据加载部分的适配。6.1 适配自定义数据集核心是创建自己的Dataset子类。假设你的图像数据放在data/train/images标签在data/train/labels.txt每行image_path label。from PIL import Image import os class CustomDataset(torch.utils.data.Dataset): def __init__(self, img_dir, label_file, transformNone): self.img_dir img_dir self.transform transform self.samples [] with open(label_file, r) as f: for line in f: img_name, label line.strip().split() self.samples.append((img_name, int(label))) def __len__(self): return len(self.samples) def __getitem__(self, idx): img_name, label self.samples[idx] img_path os.path.join(self.img_dir, img_name) image Image.open(img_path).convert(RGB) # 确保是RGB if self.transform: image self.transform(image) return image, label # 使用方式 train_dataset CustomDataset(img_dirdata/train/images, label_filedata/train/labels.txt, transformtrain_transform)6.2 适配不同的任务类型目标检测如YOLO系列数据加载会返回图像和边界框标签。损失函数变为多任务损失分类回归。验证指标可能是mAP。但训练循环的骨架训练epoch、验证epoch、记录日志、保存模型是完全一致的。语义分割如UNet数据加载返回图像和像素级掩码标签。损失函数常用Dice Loss或交叉熵。验证指标可能是IoU或mIoU。序列到序列如Transformer数据加载返回源序列和目标序列。训练循环中需要处理掩码mask和自回归生成。但model.train()/model.eval()、梯度清零、前向传播、计算损失、反向传播、优化器更新的核心步骤不变。6.3 生产环境考量当流程用于长期训练或团队协作时还需要考虑配置化管理将超参数学习率、批次大小、epoch数、模型结构参数放在配置文件如YAML、JSON中而不是硬编码在脚本里。实验跟踪使用更强大的工具如Weights Biases (WB) 或MLflow它们不仅能记录指标还能记录代码版本、数据集版本、超参数和环境信息。分布式训练如果数据量巨大或模型极大需要学习使用torch.nn.parallel.DistributedDataParallel进行多机多卡训练。自动化与流水线将数据预处理、训练、验证、测试打包成可重复执行的流水线脚本。建立完整训练流程的意义不在于写出最花哨的代码而在于搭建一个稳定、可观测、可调试的框架。这个框架能让你把注意力集中在模型改进和问题解决上而不是每次都被数据加载、日志混乱、过拟合等问题绊住。从今天这个简单的CNNCIFAR-10流程开始把它作为你的模板不断填充和修改它就能支撑你完成从入门到进阶的绝大多数深度学习项目。
PyTorch深度学习训练流程实战：从数据划分到日志监控
这类教程最值得先看的不是它讲了多少功能而是能不能帮你把“训练、验证、日志”这套核心流程真正跑通、跑稳。很多人在学PyTorch时模型代码能写但一到自己数据集上跑训练就乱不知道数据怎么分、验证集有什么用、训练日志看哪些指标、loss不降了怎么办。这篇文章就围绕“建立完整训练流程”这个目标把训练集、验证集和训练日志这三个环节拆开告诉你每一步具体做什么、为什么这么做以及怎么从日志里发现问题。我建议你先别急着找最新版本或最复杂的模型而是用最基础的CNN比如ResNet配一个公开数据集比如CIFAR-10把整个流程走一遍。流程跑通之后你再换自己的数据、换更复杂的网络心里就有底了。下面我会按实际操作的顺序从环境准备、数据划分、训练循环、验证插入、日志记录到问题排查完整过一遍。1. 先明确“完整训练流程”到底要解决什么问题很多人以为训练流程就是写个循环把数据喂给模型然后看loss下降。这只能算跑通了前向传播和反向传播离“完整”还差得远。一个能用于实际项目迭代的流程必须能回答三个问题1模型在训练集上学得怎么样2它在没见过的数据验证集上表现如何3训练过程中发生了什么出了问题怎么查1.1 训练集、验证集、测试集分别管什么这是第一道坎。我见过不少项目把全部数据都扔进去训练最后准确率很高一上新数据就崩就是因为没搞清这三个集合的分工。训练集模型用来学习参数的数据。你的优化器如SGD、Adam根据训练集计算出的loss来更新权重。目标是在训练集上让loss尽可能降低。验证集不参与参数更新。它的作用是在训练过程中定期评估模型在“未见过的数据”上的表现。主要用来做两件事一是监控模型是否过拟合训练loss一直降验证loss反而开始升二是用来调整超参数比如学习率、网络层数、正则化强度。验证集的表现是决定是否早停、是否保存当前模型权重的关键依据。测试集在整个训练流程完全结束后包括模型架构、超参数都固定后用来最终评估模型性能的数据集。它应该只使用一次以提供一个对模型泛化能力的无偏估计。在很多课程项目或小型研究中如果没有独立的测试集人们有时会用验证集兼作测试集但这会引入一定的优化偏差需要心里有数。对于新手一个常见的划分比例是 70% (训练) : 15% (验证) : 15% (测试)或者 80:10:10。如果你的数据量很大验证和测试的比例可以更小。1.2 训练日志记录什么才有效日志不是简单地把loss打印出来。有效的日志要能帮你还原训练过程、定位问题。至少需要记录以下几类信息时间与进度当前epoch、iteration/step、耗时。损失与指标训练集的loss验证集的loss和准确率或你关心的其他指标如mAP、F1。学习率如果使用了学习率调度器记录当前学习率值。硬件状态可选但重要GPU显存占用、CPU内存占用。这在处理大模型或大数据时能帮你判断是否触及资源瓶颈。关键事件模型保存点、学习率调整点、早停触发点。把这些信息结构化的记录下来比如写到TensorBoard、WB或者一个格式清晰的文本文件你才能分析出模型是在稳步学习还是已经震荡什么时候可能过拟合调整学习率后是否有改善。2. 环境与数据准备别在第一步就卡住在开始写训练代码前先把环境和数据整理好。很多“莫名其妙”的错误都源于此。2.1 PyTorch环境搭建与验证虽然标题提到“2026最新”但PyTorch的核心API在训练流程层面是稳定的。你应该根据你的显卡和CUDA版本来选择安装命令。不要盲目追求最新版。# 示例在CUDA 11.8环境下安装PyTorch 2.x # 请始终以PyTorch官网pytorch.org提供的安装命令为准 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118安装后用一段简单代码验证环境和GPU是否可用import torch print(fPyTorch版本: {torch.__version__}) print(fCUDA是否可用: {torch.cuda.is_available()}) print(fGPU设备名称: {torch.cuda.get_device_name(0) if torch.cuda.is_available() else CPU})如果用的是AMD显卡或Mac的Metal需要寻找对应的支持版本但基本训练流程的代码逻辑是一致的。2.2 数据集的加载与划分这里以CIFAR-10为例因为它小而完整适合快速验证流程。对于你自己的数据集核心是构建一个Dataset类。import torch from torch.utils.data import DataLoader, random_split from torchvision import datasets, transforms # 1. 定义数据预处理转换 # 训练集通常需要数据增强验证/测试集则不需要或仅需标准化 train_transform transforms.Compose([ transforms.RandomHorizontalFlip(), # 随机水平翻转 transforms.RandomCrop(32, padding4), # 随机裁剪 transforms.ToTensor(), transforms.Normalize((0.4914, 0.4822, 0.4465), (0.2470, 0.2435, 0.2616)) # CIFAR-10的均值和标准差 ]) val_test_transform transforms.Compose([ transforms.ToTensor(), transforms.Normalize((0.4914, 0.4822, 0.4465), (0.2470, 0.2435, 0.2616)) ]) # 2. 下载并加载完整数据集 full_train_dataset datasets.CIFAR10(root./data, trainTrue, downloadTrue, transformtrain_transform) test_dataset datasets.CIFAR10(root./data, trainFalse, downloadTrue, transformval_test_transform) # 3. 划分训练集和验证集 train_size int(0.8 * len(full_train_dataset)) # 80% 训练 val_size len(full_train_dataset) - train_size # 20% 验证 train_dataset, val_dataset random_split(full_train_dataset, [train_size, val_size]) # 注意random_split会保留原数据集的transform。但验证集应该用val_test_transform # 这里有个小技巧我们可以重新设置验证数据集的transform val_dataset.dataset.transform val_test_transform # 4. 创建DataLoader batch_size 64 train_loader DataLoader(train_dataset, batch_sizebatch_size, shuffleTrue, num_workers2, pin_memoryTrue) val_loader DataLoader(val_dataset, batch_sizebatch_size, shuffleFalse, num_workers2, pin_memoryTrue) test_loader DataLoader(test_dataset, batch_sizebatch_size, shuffleFalse, num_workers2) print(f训练集样本数: {len(train_dataset)}) print(f验证集样本数: {len(val_dataset)}) print(f测试集样本数: {len(test_dataset)})关键点shuffleTrue只针对训练集为了让每个epoch看到的数据顺序都不同有助于模型泛化。验证和测试集不需要打乱。num_workers用于多进程数据加载可以加速。但设置过大可能导致内存问题一般设为CPU核心数左右。pin_memoryTrue在GPU训练时能提升数据从CPU到GPU的传输速度。对于你自己的数据集比如用YOLOv8、YOLOv11、DBNet训练自己的数据集你需要自己写Dataset类从文件夹或标注文件中读取图像和标签。数据划分的逻辑是一样的先拿到所有数据路径再用random_split或sklearn.model_selection.train_test_split来分。3. 构建训练循环把验证和日志嵌进去现在进入核心部分。一个基础的训练循环包括前向传播、计算损失、反向传播、参数更新。我们要在这个基础上加入验证循环和日志记录。3.1 模型、损失函数与优化器定义用一个简单的CNN为例实际中你可以替换为ResNet、Swin Transformer等。import torch.nn as nn import torch.optim as optim class SimpleCNN(nn.Module): def __init__(self, num_classes10): super(SimpleCNN, self).__init__() self.features nn.Sequential( nn.Conv2d(3, 32, kernel_size3, padding1), nn.ReLU(inplaceTrue), nn.MaxPool2d(kernel_size2, stride2), nn.Conv2d(32, 64, kernel_size3, padding1), nn.ReLU(inplaceTrue), nn.MaxPool2d(kernel_size2, stride2), ) self.classifier nn.Sequential( nn.Dropout(p0.5), nn.Linear(64 * 8 * 8, 512), nn.ReLU(inplaceTrue), nn.Dropout(p0.5), nn.Linear(512, num_classes) ) def forward(self, x): x self.features(x) x torch.flatten(x, 1) x self.classifier(x) return x device torch.device(cuda if torch.cuda.is_available() else cpu) model SimpleCNN(num_classes10).to(device) criterion nn.CrossEntropyLoss() # 分类任务常用交叉熵损失 optimizer optim.Adam(model.parameters(), lr1e-3) # 优化器 # 学习率调度器可选但推荐 scheduler optim.lr_scheduler.StepLR(optimizer, step_size10, gamma0.1)3.2 训练与验证的混合循环关键思路每个epoch内先跑完整个训练集训练循环然后跑一遍验证集验证循环。验证循环不计算梯度也不执行optimizer.step()。import time from tqdm import tqdm # 用于显示进度条非必需但很实用 def train_one_epoch(model, train_loader, criterion, optimizer, device, epoch): model.train() # 切换到训练模式影响Dropout、BatchNorm等层 running_loss 0.0 correct 0 total 0 # 使用tqdm包装数据加载器方便观察进度 pbar tqdm(train_loader, descfEpoch {epoch} [Train]) for batch_idx, (inputs, targets) in enumerate(pbar): inputs, targets inputs.to(device), targets.to(device) # 清零梯度 optimizer.zero_grad() # 前向传播 outputs model(inputs) loss criterion(outputs, targets) # 反向传播与优化 loss.backward() optimizer.step() # 统计信息 running_loss loss.item() _, predicted outputs.max(1) total targets.size(0) correct predicted.eq(targets).sum().item() # 更新进度条描述 pbar.set_postfix({Loss: running_loss/(batch_idx1), Acc: 100.*correct/total}) epoch_loss running_loss / len(train_loader) epoch_acc 100. * correct / total return epoch_loss, epoch_acc def validate(model, val_loader, criterion, device): model.eval() # 切换到评估模式 running_loss 0.0 correct 0 total 0 with torch.no_grad(): # 关键不计算梯度节省内存和计算 for inputs, targets in val_loader: inputs, targets inputs.to(device), targets.to(device) outputs model(inputs) loss criterion(outputs, targets) running_loss loss.item() _, predicted outputs.max(1) total targets.size(0) correct predicted.eq(targets).sum().item() val_loss running_loss / len(val_loader) val_acc 100. * correct / total return val_loss, val_acc3.3 集成日志记录与模型保存现在把上面的函数组合到主训练循环里并加入日志和模型保存逻辑。这里我们先用一个简单的字典列表记录日志同时打印到控制台。import os import json num_epochs 30 best_val_acc 0.0 log_history [] # 用于记录日志 checkpoint_dir ./checkpoints os.makedirs(checkpoint_dir, exist_okTrue) for epoch in range(1, num_epochs 1): epoch_start_time time.time() # 训练一个epoch train_loss, train_acc train_one_epoch(model, train_loader, criterion, optimizer, device, epoch) # 在验证集上评估 val_loss, val_acc validate(model, val_loader, criterion, device) # 调整学习率如果使用了scheduler scheduler.step() current_lr optimizer.param_groups[0][lr] # 计算epoch耗时 epoch_time time.time() - epoch_start_time # 构建日志条目 log_entry { epoch: epoch, time: epoch_time, train_loss: train_loss, train_acc: train_acc, val_loss: val_loss, val_acc: val_acc, lr: current_lr } log_history.append(log_entry) # 打印到控制台 print(fEpoch {epoch:3d} | Time: {epoch_time:.2f}s | fTrain Loss: {train_loss:.4f} | Train Acc: {train_acc:.2f}% | fVal Loss: {val_loss:.4f} | Val Acc: {val_acc:.2f}% | fLR: {current_lr:.6f}) # 根据验证集准确率保存最佳模型 if val_acc best_val_acc: best_val_acc val_acc torch.save({ epoch: epoch, model_state_dict: model.state_dict(), optimizer_state_dict: optimizer.state_dict(), scheduler_state_dict: scheduler.state_dict(), val_acc: val_acc, train_loss: train_loss, val_loss: val_loss, }, os.path.join(checkpoint_dir, best_model.pth)) print(f - 保存最佳模型验证准确率: {val_acc:.2f}%) # 定期保存检查点例如每5个epoch if epoch % 5 0: torch.save({ epoch: epoch, model_state_dict: model.state_dict(), optimizer_state_dict: optimizer.state_dict(), scheduler_state_dict: scheduler.state_dict(), val_acc: val_acc, }, os.path.join(checkpoint_dir, fcheckpoint_epoch_{epoch}.pth)) # 训练结束后将日志保存为JSON文件 with open(os.path.join(checkpoint_dir, training_log.json), w) as f: json.dump(log_history, f, indent4) print(训练完成日志已保存。)这个流程已经具备了完整性每个epoch记录训练/验证损失准确率、学习率、耗时并根据验证集性能保存最佳模型。日志保存为JSON方便后续分析或绘图。4. 使用TensorBoard进行可视化日志记录控制台打印和JSON文件是基础但对于分析训练趋势可视化工具更直观。PyTorch原生支持TensorBoard。4.1 集成TensorBoard首先安装TensorBoardpip install tensorboard。 然后在训练代码中集成from torch.utils.tensorboard import SummaryWriter # 在训练循环开始前创建Writer writer SummaryWriter(log_dir./runs/exp1) # 指定日志目录 # ... 在训练循环内部每个epoch结束后添加记录 ... for epoch in range(1, num_epochs 1): # ... 训练和验证代码 ... train_loss, train_acc ... val_loss, val_acc ... # 记录标量到TensorBoard writer.add_scalar(Loss/train, train_loss, epoch) writer.add_scalar(Loss/val, val_loss, epoch) writer.add_scalar(Accuracy/train, train_acc, epoch) writer.add_scalar(Accuracy/val, val_acc, epoch) writer.add_scalar(Learning Rate, current_lr, epoch) # 还可以记录图像、直方图等根据需要 # if epoch % 10 0: # # 记录模型某一层的权重分布 # for name, param in model.named_parameters(): # writer.add_histogram(name, param, epoch) # 训练结束后关闭Writer writer.close()4.2 启动TensorBoard查看在命令行中进入项目根目录运行tensorboard --logdir./runs然后在浏览器中打开它提供的地址通常是http://localhost:6006你就能看到损失、准确率、学习率随epoch变化的曲线图。通过对比训练和验证曲线可以轻松判断过拟合训练loss降验证loss升、欠拟合两者都高或学习率是否合适曲线震荡可能学习率太大。5. 训练流程中的关键问题排查流程跑起来只是开始更重要的是能看懂日志解决问题。下面是一些常见场景和排查思路。5.1 Loss不下降或下降缓慢这是最常见的问题。不要一上来就怀疑模型结构按以下顺序排查检查数据输入数据inputs和标签targets是否正确加载到设备GPU上了打印几个样本看看形状和值范围。对于图像输入是否归一化到了合理范围如[0,1]或[-1,1]标签是否在正确的类别范围内检查前向传播把模型切换到eval()模式用几批数据跑一次前向传播看看输出是否合理比如分类任务输出应该是每个类别的分数。检查损失函数计算出的loss值是否正常对于交叉熵损失初始值应该在-log(1/类别数)附近。如果初始loss就是0或一个极小的值可能有问题。检查梯度在loss.backward()之后打印某一层如第一个卷积层的权重梯度weight.grad看看是否非零。如果梯度全是零或接近零说明反向传播可能中断了比如某些层没参与计算。检查学习率学习率是否设置得太小可以先尝试一个较大的学习率如0.01看loss是否有剧烈变化然后再调小。也可以使用学习率查找器LR Finder等工具。检查模型初始化复杂的模型有时需要特定的初始化方式。可以尝试使用PyTorch默认的初始化或使用kaiming_normal_等。简化问题如果上述都正常尝试在极小的数据集比如几十个样本上过拟合。如果模型有能力在极小数据集上让训练loss降到接近0说明模型基本结构是能工作的问题可能出在数据或优化上。如果连小数据都过拟合不了那就要仔细检查模型结构了。5.2 训练Loss下降但验证Loss上升过拟合这是典型的过拟合信号。可以尝试增加正则化在模型中添加或增大Dropout层的丢弃概率p。在优化器中增加权重衰减weight_decay这是L2正则化的一种形式。数据增强加强训练时的数据增强如更多的随机裁剪、颜色抖动、旋转等。确保验证集不使用数据增强。早停监控验证集loss当其在连续多个epoch如patience10不再下降时停止训练并回滚到验证loss最低的模型。简化模型如果模型参数过多而数据量有限考虑减少网络层数或宽度。获取更多数据这是最根本但可能最难的方法。5.3 训练过程不稳定Loss震荡大学习率太大这是首要怀疑对象。尝试将学习率降低一个数量级例如从1e-3降到1e-4。批次大小太小小批量可能导致梯度估计噪声大。在显存允许的情况下尝试增大batch_size。数据问题检查数据中是否有异常值或错误的标签。错误标注确实会导致模型困惑loss难以稳定下降。梯度裁剪对于RNN或非常深的网络梯度爆炸可能导致震荡。可以使用torch.nn.utils.clip_grad_norm_(model.parameters(), max_norm1.0)来裁剪梯度。5.4 显存不足CUDA out of memory减小batch_size这是最直接有效的方法。减小图像分辨率或序列长度如果可能降低输入数据的尺寸。使用梯度累积如果因为batch_size太小影响训练稳定性可以使用梯度累积。例如设置batch_size4但每4个批次才更新一次参数accumulation_steps4这相当于模拟batch_size16的效果但显存占用只有batch_size4的水平。accumulation_steps 4 optimizer.zero_grad() for i, (inputs, targets) in enumerate(train_loader): outputs model(inputs) loss criterion(outputs, targets) loss loss / accumulation_steps # 损失归一化 loss.backward() if (i1) % accumulation_steps 0: optimizer.step() optimizer.zero_grad()使用混合精度训练使用torch.cuda.amp进行自动混合精度训练可以显著减少显存占用并可能加速训练。检查内存泄漏确保在验证循环中使用了with torch.no_grad()并且没有在循环中不必要地累积张量。6. 将流程扩展到自己的项目掌握了CIFAR-10上的完整流程后应用到自己的项目如用YOLO训练自己的数据集、训练UNet、训练Transformer就主要是数据加载部分的适配。6.1 适配自定义数据集核心是创建自己的Dataset子类。假设你的图像数据放在data/train/images标签在data/train/labels.txt每行image_path label。from PIL import Image import os class CustomDataset(torch.utils.data.Dataset): def __init__(self, img_dir, label_file, transformNone): self.img_dir img_dir self.transform transform self.samples [] with open(label_file, r) as f: for line in f: img_name, label line.strip().split() self.samples.append((img_name, int(label))) def __len__(self): return len(self.samples) def __getitem__(self, idx): img_name, label self.samples[idx] img_path os.path.join(self.img_dir, img_name) image Image.open(img_path).convert(RGB) # 确保是RGB if self.transform: image self.transform(image) return image, label # 使用方式 train_dataset CustomDataset(img_dirdata/train/images, label_filedata/train/labels.txt, transformtrain_transform)6.2 适配不同的任务类型目标检测如YOLO系列数据加载会返回图像和边界框标签。损失函数变为多任务损失分类回归。验证指标可能是mAP。但训练循环的骨架训练epoch、验证epoch、记录日志、保存模型是完全一致的。语义分割如UNet数据加载返回图像和像素级掩码标签。损失函数常用Dice Loss或交叉熵。验证指标可能是IoU或mIoU。序列到序列如Transformer数据加载返回源序列和目标序列。训练循环中需要处理掩码mask和自回归生成。但model.train()/model.eval()、梯度清零、前向传播、计算损失、反向传播、优化器更新的核心步骤不变。6.3 生产环境考量当流程用于长期训练或团队协作时还需要考虑配置化管理将超参数学习率、批次大小、epoch数、模型结构参数放在配置文件如YAML、JSON中而不是硬编码在脚本里。实验跟踪使用更强大的工具如Weights Biases (WB) 或MLflow它们不仅能记录指标还能记录代码版本、数据集版本、超参数和环境信息。分布式训练如果数据量巨大或模型极大需要学习使用torch.nn.parallel.DistributedDataParallel进行多机多卡训练。自动化与流水线将数据预处理、训练、验证、测试打包成可重复执行的流水线脚本。建立完整训练流程的意义不在于写出最花哨的代码而在于搭建一个稳定、可观测、可调试的框架。这个框架能让你把注意力集中在模型改进和问题解决上而不是每次都被数据加载、日志混乱、过拟合等问题绊住。从今天这个简单的CNNCIFAR-10流程开始把它作为你的模板不断填充和修改它就能支撑你完成从入门到进阶的绝大多数深度学习项目。
