amp安装

标签：git   index   上下   模型   href   介绍   setup   --   成功   

Apex混合精度加速介绍：为了帮助提高Pytorch的训练效率，英伟达提供了混合精度训练工具Apex。号称能够在不降低性能的情况下，将模型训练的速度提升2-4倍，训练显存消耗减少为之前的一半。

该项目开源于：https://github.com/NVIDIA/apex ,文档地址是：https://nvidia.github.io/apex/index.html该工具提供了三个功能，amp、parallel和normalization。

安装步骤：

1、在github上下载apex文件到本地,下载地址 https://github.com/NVIDIA/apex

2、将下载解压好的apex文件放到anaconda创建的环境下的site-packages文件夹中。---anaconda3/envs/环境名/Lib/site-packages

3、在cmd命令窗口，进入到apex文件夹下路径，激活环境，安装requirements.txt里面依赖的包

4、开始安装apex，运行：python setup.py install

pytorch 1.2 + windows运行成功, 6.5G--->3G,显存占用大大降低.

amp安装

标签：git   index   上下   模型   href   介绍   setup   --   成功   

原文地址：https://www.cnblogs.com/Henry-ZHAO/p/14068012.html