查看GPU占用率的方法以及解决神经网络训练过程中GPU占用率低的问题

一、查看GPU占用率的方法

1. 使用终端命令nvidia-smi -l 3查看GPU使用情况。

《查看GPU占用率的方法以及解决神经网络训练过程中GPU占用率低的问题》
其中命令末尾的3表示3秒刷新一次,时间可自行修改。
《查看GPU占用率的方法以及解决神经网络训练过程中GPU占用率低的问题》

2. 使用任务管理器查看。

《查看GPU占用率的方法以及解决神经网络训练过程中GPU占用率低的问题》
GPU下方的选项需选择cuda才可以查看具体的GPU占用率。

二、解决神经网络训练过程中GPU占用率低的问题

GPU占用率过低可以根据自己显存的大小来调节batchsize和num_workers参数
《查看GPU占用率的方法以及解决神经网络训练过程中GPU占用率低的问题》
《查看GPU占用率的方法以及解决神经网络训练过程中GPU占用率低的问题》

博主这里通过调大workers以及batchsize的大小很好地提高了GPU的占用率,但是CPU的占用率依然是拉满,这是因为在训练神经网络的过程中在CPU主要负责对数据进行预处理以及记录训练日志,GPU主要负责进行前向传播与反向传播,CPU没有执行完步骤GPU无法开始执行任务,因此CPU总是占用率拉满而GPU无法获得很好的利用,可以通过将记录训练日志的代码注释达到释放CPU占用率从而提升训练速度的效果。

    原文作者:小破船ZAW
    原文地址: https://blog.csdn.net/weixin_55168780/article/details/123751867
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞