主页 > 知识库 > 我对PyTorch dataloader里的shuffle=True的理解

我对PyTorch dataloader里的shuffle=True的理解

热门标签:沈阳外呼系统呼叫系统 富锦商家地图标注 外呼系统哪些好办 沈阳人工外呼系统价格 沈阳防封电销卡品牌 江西省地图标注 武汉外呼系统平台 池州外呼调研线路 如何申请400电话费用

对shuffle=True的理解:

之前不了解shuffle的实际效果,假设有数据a,b,c,d,不知道batch_size=2后打乱,具体是如下哪一种情况:

1.先按顺序取batch,对batch内打乱,即先取a,b,a,b进行打乱;

2.先打乱,再取batch。

证明是第二种

shuffle (bool, optional): set to ``True`` to have the data reshuffled 
at every epoch (default: ``False``).
if shuffle:
    sampler = RandomSampler(dataset) #此时得到的是索引

补充:简单测试一下pytorch dataloader里的shuffle=True是如何工作的

看代码吧~

import sys
import torch
import random
import argparse
import numpy as np
import pandas as pd
import torch.nn as nn
from torch.nn import functional as F
from torch.optim import lr_scheduler
from torchvision import datasets, transforms
from torch.utils.data import TensorDataset, DataLoader, Dataset
 
class DealDataset(Dataset):
    def __init__(self):
        xy = np.loadtxt(open('./iris.csv','rb'), delimiter=',', dtype=np.float32)
        #data = pd.read_csv("iris.csv",header=None)
        #xy = data.values
        self.x_data = torch.from_numpy(xy[:, 0:-1])
        self.y_data = torch.from_numpy(xy[:, [-1]])
        self.len = xy.shape[0]
    
    def __getitem__(self, index):
        return self.x_data[index], self.y_data[index]
 
    def __len__(self):
        return self.len
   
dealDataset = DealDataset() 
train_loader2 = DataLoader(dataset=dealDataset,
                          batch_size=2,
                          shuffle=True)
#print(dealDataset.x_data)
for i, data in enumerate(train_loader2):
    inputs, labels = data
 
    #inputs, labels = Variable(inputs), Variable(labels)
    print(inputs)
    #print("epoch:", epoch, "的第" , i, "个inputs", inputs.data.size(), "labels", labels.data.size())

简易数据集

shuffle之后的结果,每次都是随机打乱,然后分成大小为n的若干个mini-batch.

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。

您可能感兴趣的文章:
  • Pytorch dataloader在加载最后一个batch时卡死的解决
  • pytorch锁死在dataloader(训练时卡死)
  • Pytorch 如何加速Dataloader提升数据读取速度
  • pytorch DataLoader的num_workers参数与设置大小详解
  • Pytorch数据读取之Dataset和DataLoader知识总结
  • pytorch中DataLoader()过程中遇到的一些问题

标签:常德 潜江 株洲 阿里 黑龙江 吕梁 通辽 铜川

巨人网络通讯声明:本文标题《我对PyTorch dataloader里的shuffle=True的理解》,本文关键词  我对,PyTorch,dataloader,里的,;如发现本文内容存在版权问题,烦请提供相关信息告之我们,我们将及时沟通与处理。本站内容系统采集于网络,涉及言论、版权与本站无关。
  • 相关文章
  • 下面列出与本文章《我对PyTorch dataloader里的shuffle=True的理解》相关的同类信息!
  • 本页收集关于我对PyTorch dataloader里的shuffle=True的理解的相关信息资讯供网民参考!
  • 推荐文章