标签：结果 jpg 通道 复杂 plot 处理 复杂度 保存 pyplot
训练视觉相关的神经网络模型时，总是要用到图像的读写。方法有很多，比如matplotlib、cv2、PIL等。下面比较几种读写方式，旨在选出一个最快的方式，提升训练速度。
因为训练使用的框架是Pytorch，因此读取的实验标准如下：
1、读取分辨率都为1920x1080的5张图片（png格式一张，jpg格式四张）并保存到数组。
2、将读取的数组转换为维度顺序为CxHxW的Pytorch张量，并保存到显存中（我使用GPU训练），其中三个通道的顺序为RGB。
3、记录各个方法在以上操作中所耗费的时间。因为png格式的图片大小差不多是质量有微小差异的jpg格式的10倍，所以数据集通常不会用png来保存，就不比较这两种格式的读取时间差异了。
写入的实验标准如下：
1、将5张1920x1080的5张图像对应的Pytorch张量转换为对应方法可使用的数据类型数组。
2、以jpg格式保存五张图片。
3、记录各个方法保存图片所耗费的时间。
因为有GPU，所以cv2读取图片有两种方式：
1、先把图片都读取为一个numpy数组，再转换成保存在GPU中的pytorch张量。
2、初始化一个保存在GPU中的pytorch张量，然后将每张图直接复制进这个张量中。
第一种方式实验代码如下：
import os, torch import cv2 as cv import numpy as np from time import time read_path = ‘D:test‘ write_path = ‘D:test\\write\\‘ # cv2读取 1 start_t = time() imgs = np.zeros([5, 1080, 1920, 3]) for img, i in zip(os.listdir(read_path), range(5)): img = cv.imread(filename=os.path.join(read_path, img)) imgs[i] = img imgs = torch.tensor(imgs).to(‘cuda‘)[...,[2,1,0]].permute([0,3,1,2])/255 print(‘cv2 读取时间1：‘, time() - start_t) # cv2保存 start_t = time() imgs = (imgs.permute([0,2,3,1])[...,[2,1,0]]*255).cpu().numpy() for i in range(imgs.shape[0]): cv.imwrite(write_path + str(i) + ‘.jpg‘, imgs[i]) print(‘cv2 保存时间：‘, time() - start_t)
实验结果：
cv2 读取时间1： 0.39693760871887207
cv2 保存时间： 0.3560612201690674
第二种方式实验代码如下：
import os, torch import cv2 as cv import numpy as np from time import time read_path = ‘D:test‘ write_path = ‘D:test\\write\\‘ # cv2读取 2 start_t = time() imgs = torch.zeros([5, 1080, 1920, 3], device=‘cuda‘) for img, i in zip(os.listdir(read_path), range(5)): img = torch.tensor(cv.imread(filename=os.path.join(read_path, img)), device=‘cuda‘) imgs[i] = img imgs = imgs[...,[2,1,0]].permute([0,3,1,2])/255 print(‘cv2 读取时间2：‘, time() - start_t) # cv2保存 start_t = time() imgs = (imgs.permute([0,2,3,1])[...,[2,1,0]]*255).cpu().numpy() for i in range(imgs.shape[0]): cv.imwrite(write_path + str(i) + ‘.jpg‘, imgs[i]) print(‘cv2 保存时间：‘, time() - start_t)
实验结果：
cv2 读取时间2： 0.23636841773986816
cv2 保存时间： 0.3066873550415039
同样两种读取方式，第一种代码如下：
import os, torch import numpy as np import matplotlib.pyplot as plt from time import time read_path = ‘D:test‘ write_path = ‘D:test\\write\\‘ # matplotlib 读取 1 start_t = time() imgs = np.zeros([5, 1080, 1920, 3]) for img, i in zip(os.listdir(read_path), range(5)): img = plt.imread(os.path.join(read_path, img)) imgs[i] = img imgs = torch.tensor(imgs).to(‘cuda‘).permute([0,3,1,2])/255 print(‘matplotlib 读取时间1：‘, time() - start_t) # matplotlib 保存 start_t = time() imgs = (imgs.permute([0,2,3,1])).cpu().numpy() for i in range(imgs.shape[0]): plt.imsave(write_path + str(i) + ‘.jpg‘, imgs[i]) print(‘matplotlib 保存时间：‘, time() - start_t)
实验结果：
matplotlib 读取时间1： 0.45380306243896484
matplotlib 保存时间： 0.768944263458252
第二种方式实验代码：
import os, torch import numpy as np import matplotlib.pyplot as plt from time import time read_path = ‘D:test‘ write_path = ‘D:test\\write\\‘ # matplotlib 读取 2 start_t = time() imgs = torch.zeros([5, 1080, 1920, 3], device=‘cuda‘) for img, i in zip(os.listdir(read_path), range(5)): img = torch.tensor(plt.imread(os.path.join(read_path, img)), device=‘cuda‘) imgs[i] = img imgs = imgs.permute([0,3,1,2])/255 print(‘matplotlib 读取时间2：‘, time() - start_t) # matplotlib 保存 start_t = time() imgs = (imgs.permute([0,2,3,1])).cpu().numpy() for i in range(imgs.shape[0]): plt.imsave(write_path + str(i) + ‘.jpg‘, imgs[i]) print(‘matplotlib 保存时间：‘, time() - start_t)
实验结果：
matplotlib 读取时间2： 0.2044532299041748
matplotlib 保存时间： 0.4737534523010254
需要注意的是，matplotlib读取png格式图片获取的数组的数值是在$[0, 1]$范围内的浮点数，而jpg格式图片却是在$[0, 255]$范围内的整数。所以如果数据集内图片格式不一致，要注意先转换为一致再读取，否则数据集的预处理就麻烦了。
PIL的读取与写入并不能直接使用pytorch张量或numpy数组，要先转换为Image类型，所以很麻烦，时间复杂度上肯定也是占下风的，就不实验了。
torchvision提供了直接从pytorch张量保存图片的功能，和上面读取最快的matplotlib的方法结合，代码如下：
import os, torch import matplotlib.pyplot as plt from time import time from torchvision import utils read_path = ‘D:test‘ write_path = ‘D:test\\write\\‘ # matplotlib 读取 2 start_t = time() imgs = torch.zeros([5, 1080, 1920, 3], device=‘cuda‘) for img, i in zip(os.listdir(read_path), range(5)): img = torch.tensor(plt.imread(os.path.join(read_path, img)), device=‘cuda‘) imgs[i] = img imgs = imgs.permute([0,3,1,2])/255 print(‘matplotlib 读取时间2：‘, time() - start_t) # torchvision 保存 start_t = time() for i in range(imgs.shape[0]): utils.save_image(imgs[i], write_path + str(i) + ‘.jpg‘) print(‘torchvision 保存时间：‘, time() - start_t)
实验结果：
matplotlib 读取时间2： 0.15358829498291016
torchvision 保存时间： 0.14760661125183105
可以看出这两个是最快的读写方法。另外，要让图片的读写尽量不影响训练进程，我们还可以让这两个过程与训练并行。
标签：结果 jpg 通道 复杂 plot 处理 复杂度 保存 pyplot
原文地址：https://www.cnblogs.com/qizhou/p/13972783.html
