安装Anaconda 官方下载地址:https://repo.continuum.io/archive/,下载相应版本的Anaconda,这里使用Anaconda3-4.2.0-Windows-x86_64.exe版本 …
标签:pytorch
pytorch + apex 生活变得更美好
pytorch1.0发布以后,分布式训练变得异常顺滑,虽然apex很早就放出来了,似乎也没有了使用的必要。但其实apex作为一个补丁,其实也解决了几个重要的问题,加上以后,模型的训练会更得心应手。 pytorch当前存在…
Pytorch数据读取(Dataset, DataLoader, DataLoaderIter)
的Pytorch的数据读取非常方便, 可以很容易地实现多线程数据预读. 我个人认为编程难度比TF小很多,而且灵活性也更高. (TF需要把文件名封装成list, 传入string_input_producer, 这样可以得…
PyTorch学习笔记——repeat()和expand()区别
torch.Tensor是包含一种数据类型元素的多维矩阵。 A torch.Tensor is a multi-dimensional matrix containing elements of a single dat…
【pytorch】训练集的读取
pytorch读取训练集是非常便捷的,只需要使用到2个类: (1)torch.utils.data.Dataset (2)torch.utils.data.DataLoader 常用数据集的读取 1、torchvisio…
Pytorch多机多卡分布式训练
被这东西刁难两天了,终于想办法解决掉了,来造福下人民群众。 关于Pytorch分布训练的话,大家一开始接触的往往是DataParallel,这个wrapper能够很方便的使用多张卡,而且将进程控制在一个。唯一的问题就在于…
PyTorch中的contiguous
本文讲解了pytorch中contiguous的含义、定义、实现,以及contiguous存在的原因,非contiguous时的解决办法。并对比了numpy中的contiguous。 contiguous 本身是形容词,…
【PyTorch】唯快不破:基于Apex的混合精度加速
你想获得双倍训练速度的快感吗? 你想让你的显存空间瞬间翻倍吗? 如果我告诉你只需要三行代码即可实现,你信不? 在这篇博客里,瓦砾会详解一下混合精度计算(Mixed Precision),并介绍一款Nvidia开发的基于P…
PyTorch 学习笔记(八):PyTorch的六个学习率调整方法
本文截取自《PyTorch 模型训练实用教程》,获取全文pdf请点击: tensor-yu/PyTorch_Tutorial github.com 在模型训练的优化部分,调整最多的一个参数就是学习率,合理的学习率可以使…
强推!《PyTorch中文手册》开源!附资源下载链接!
1. 推荐PyTorch 是一个深度学习框架,旨在实现简单灵活的实验。自 2017 年初首次推出,PyTorch 很快成为 AI 研究人员的热门选择并受到推崇。PyTorch 现在是 GitHub 上增长速度第二快的开源…
Win10下安装Anaconda+CUDA+TensorFlow+PyTorch+PyCharm
[Toc] 从零开始搭建Win10深度学习环境 系统:Windows10 Anaconda:Anaconda3-5.3.1 CUDA版本:CUDA 9.0 cudnn版本:cudnn-9.0-windows10-x64-…
Pytorch训练可视化(TensorboardX)
今天我们来聊一聊数据可视化的问题,在这里向大家推荐一个大佬开源的教程,我的可视化的工作也是从他的教程借鉴而来的,再次表达感谢! 开源教程地址: tensor-yu/PyTorch_Tutorial github.com…