发表于2020-11-05 / 阅读550 / 评论2 / 点赞3
今天在写代码时想把我的数据集按8:2划分为训练集和验证集,然后就去网上搜索PyTorch有没有现成的函数,发现PyTorch提供一个函数torch.utils.data.random_split(dataset, lengths) 可以按照给定的长度将数据集划分成没有重叠的新数据集组合。下面以CIF […]
发表于2020-07-23 / 阅读936 / 评论0 / 点赞12
PyTorch学习率调整策略通过torch.optim.lr_scheduler接口实现。PyTorch提供的学习率调整策略分为三大类,分别是 有序调整:等间隔调整(Step),按需调整学习率(MultiStep),指数衰减调整(Exponential)和 余弦退火CosineAnnealing。 […]
发表于2020-07-22 / 阅读1,102 / 评论0 / 点赞15
由于在模型训练的过程中存在大量的随机操作,使得对于同一份代码,重复运行后得到的结果不一致。因此,为了得到可重复的实验结果,我们需要对随机数生成器设置一个固定的种子。 CUDNN cudnn中对卷积操作进行了优化,牺牲了精度来换取计算效率。如果需要保证可重复性,可以使用如下设置: from torch […]