Cuda和pytorch内存使用情况

2024-03-22

我在用Cuda and Pytorch:1.4.0.

当我尝试增加batch_size,我遇到以下错误:

CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0; 4.00 GiB total capacity; 2.74 GiB already allocated; 7.80 MiB free; 2.96 GiB reserved in total by PyTorch)

我还没有找到任何有关 Pytorch 内存使用情况的信息。

另外,我不明白为什么我只有 7.80 mib 可用?

我应该使用性能更好的显卡,还是可以释放一些内存?仅供参考,我有 GTX 1050 TI、python 3,7 和 torch==1.4.0,我的操作系统是 Windows 10。


我遇到了同样的问题,以下内容对我有用:

torch.cuda.empty_cache()
# start training from here

即使在此之后,如果您收到错误,那么您应该减少batch_size

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

Cuda和pytorch内存使用情况 的相关文章