今天在写代码时想把我的数据集按8:2划分为训练集和验证集，然后就去网上搜索PyTorch有没有现成的函数，发现PyTorch提供一个函数torch.utils.data.random_split(dataset, lengths) 可以按照给定的长度将数据集划分成没有重叠的新数据集组合。下面以CIF […]

PyTorch学习率调整策略通过torch.optim.lr_scheduler接口实现。PyTorch提供的学习率调整策略分为三大类，分别是 有序调整：等间隔调整(Step)，按需调整学习率(MultiStep)，指数衰减调整(Exponential)和 余弦退火CosineAnnealing。 […]

由于在模型训练的过程中存在大量的随机操作，使得对于同一份代码，重复运行后得到的结果不一致。因此，为了得到可重复的实验结果，我们需要对随机数生成器设置一个固定的种子。 CUDNN cudnn中对卷积操作进行了优化，牺牲了精度来换取计算效率。如果需要保证可重复性，可以使用如下设置: from torch […]