pytorch 在测试阶段,进行前向推断时,显存累加溢出问题

1、问题描述:

  pytorch中,在测试阶段进行前向推断运行时,随着for循环次数的增加,显存不断累加变大,最终导致显存溢出。

2、解决方法:
    使用如下代码处理输入数据:

  假设X为模型的输入

  X = X.cuda()

  input_blobs = Variable(X, volatile=True)

  output = model(input_blobs)

  注意: 一定要设置 volatile=True 该参数,否则在for循环过程中,显存会不断累加。

    原文作者:pytorch
    原文地址: https://www.cnblogs.com/hypnus-ly/p/9910639.html
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞