异步多进程读取数据对于在大规模的数据集上训练模型有重要的意义。 基于PyTorch的异步多进程IO的tutorial往往基于图像做demo进行讲解，对做CV的同学相对比较友好，torchvision支持的也比较好，相比之…

在模型完成训练后，我们需要将训练好的模型保存为一个文件供测试使用，或者因为一些原因我们需要继续之前的状态训练之前保存的模型，那么如何在PyTorch中保存和恢复模型呢？ 方法一(推荐)： 第一种方法也是官方推荐的方法，只…

pytorch c++指南 之前说了这次的pytorch1.0有很多重大的更新，分布式更好用了，其实最重要的应该是c++的前端支持，部署更方便，效率更高，使得pytorch往产品化方面又迈进了坚实的一步。 在c++中加载…

背景 本文以PyTorch 1.0为基础。PyTorch的编译首先是python风格的编译，使用了python的setuptools编译系统。以最基本的编译安装命令python setup.py install 为例，这…

Pytorch学习系列（一）至（四）均摘自《深度学习框架PyTorch入门与实践》陈云 目录： 1.程序的主要功能 2.文件组织架构 3. 关于`__init__.py` 4.数据处理 5.模型定义 6.工具函数 7.配…

本文截取自《PyTorch 模型训练实用教程》，获取全文pdf请点击：https://github.com/tensor-yu/PyTorch_Tutorial 本文对transforms.py中的各个预处理方法进行介…

Pytorch的load方法和load_state_dict方法只能较为固定的读入参数文件，他们要求读入的state_dict的key和Model.state_dict()的key对应相等。 而我们在进行迁移学习的过程中…

如何在 windows 配置 libtorch c++ 前端库？ 下载 pytorch 已经编译好的库： 此库不带 gpu，主要方便演示。支持 win7 win10 系统。 下载地址：https://download.p…

因为最近的工作要和Horovod打交道，所以分析了Horovod的源码。在这里记一笔。 Horovod有几个亮点，第一，它不依托于某个框架，自己通过MPI建立了一套分布式系统，完成了allreduce, allgathe…

参考链接：https://blog.csdn.net/qq_32998593/article/details/92849585 总结一下，第一是增加batch size，增加GPU的内存占用率，尽量用完内存，而不要剩一半…

pytorch入门 http://www.jianshu.com/p/5ae644748f21

max-pooling有很多种实现方式 （1）kmax-pooling 1 import torch 2 def kmax_pooling(x, dim, k): 3 index = x.topk(k, dim=dim)…