torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate XXX

2024-03-18 04:52
文章标签 memory torch xxx cuda outofmemoryerror allocate tried

本文主要是介绍torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate XXX，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

问题描述：torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 2.39 GiB. GPU 0 has a total capacty of 8.00 GiB of which 0 bytes is free. Of the allocated memory 9.50 GiB is allocated by PyTorch, and 2.24 GiB is reserved by PyTorch but unallocated. If reserved but unallocated memory is large try setting max_split_size_mb to avoid fragmentation.  See documentation for Memory Management and PYTORCH_CUDA_ALLOC_CONF

解决办法：调小batch或者图片大小

这篇关于torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate XXX的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/821231。

相关文章

PyInstaller问题解决 onnxruntime-gpu 使用GPU和CUDA加速模型推理

PyInstaller问题解决 onnxruntime-gpu 使用GPU和CUDA加速模型推理

前言 在模型推理时，需要使用GPU加速，相关的CUDA和CUDNN安装好后，通过onnxruntime-gpu实现。 直接运行python程序是正常使用GPU的，如果使用PyInstaller将.py文件打包为.exe，发现只能使用CPU推理了。 本文分析这个问题和提供解决方案，供大家参考。 问题分析——找不到ONNX Runtime GPU 动态库 首先直接运行python程序
阅读更多...
pytorch torch.nn.functional.one_hot函数介绍

pytorch torch.nn.functional.one_hot函数介绍

torch.nn.functional.one_hot 是 PyTorch 中用于生成独热编码（one-hot encoding）张量的函数。独热编码是一种常用的编码方式，特别适用于分类任务或对离散的类别标签进行处理。该函数将整数张量的每个元素转换为一个独热向量。 函数签名 torch.nn.functional.one_hot(tensor, num_classes=-1) 参数 t
阅读更多...
torch.nn 与 torch.nn.functional的区别？

torch.nn 与 torch.nn.functional的区别？

区别 PyTorch中torch.nn与torch.nn.functional的区别是：1.继承方式不同；2.可训练参数不同；3.实现方式不同；4.调用方式不同。 1.继承方式不同 torch.nn 中的模块大多数是通过继承torch.nn.Module 类来实现的，这些模块都是Python 类，需要进行实例化才能使用。而torch.nn.functional 中的函数是直接调用的，无需
阅读更多...
clang: error: no such file or directory: '/Users/bigxin/Desktop/not file xxx

clang: error: no such file or directory: '/Users/bigxin/Desktop/not file xxx

这样的问题，解决方法有以下几种： 第一：一般多人开发的时候会出现文件缺失的问题，遇到这个问题就根据提示找到对应的地址，然后会发现这个文件名字是红色的把红色的文件删除，然后重新addfile，然后把缺失的文件拷贝过来就可以了。。第二：如果第一种方法不行的话，可以移步到 TARGETS —-> Build Phases ——> Compile Sources（编译源） 里面来找，看有没有失效的文件
阅读更多...
CUDA：并行计算实现图像平滑去噪

CUDA：并行计算实现图像平滑去噪

阅读更多...
CUDA：用并行计算的方法对图像进行直方图均衡处理

CUDA：用并行计算的方法对图像进行直方图均衡处理

（一）目的 将所学算法运用于图像处理中。 （二）内容 用并行计算的方法对图像进行直方图均衡处理。 要求： 利用直方图均衡算法处理lena_salt图像 版本1：CPU实现 版本2：GPU实现  实验步骤一 软件设计分析: 数据类型： 根据实验要求，本实验的数据类型为一个256*256*8的整型矩阵，其中元素的值为256*256个0-255的灰度值。 存储方式： 图像在内存中
阅读更多...
ffmpeg安装测试（支持cuda支持SRT）

ffmpeg安装测试（支持cuda支持SRT）

文章目录 背景安装ffmpeg直接下载可执行文件选择版本选择对应系统版本下载测试Linux下安装 查看支持协议以及编码格式 常见错误缺少 libmvec.so.1LD_LIBRARY_PATH 错误 GPU加速测试SRT服务器搭建下载srs5.0源码解压安装配置启动 SRT推流测试SRT播放测试 背景 在音视频开发测试中，FFmpeg是一个不可或缺的工具，它以其强大的音视频处理
阅读更多...
torch.backends.cudnn.benchmark和torch.use_deterministic_algorithms总结学习记录

torch.backends.cudnn.benchmark和torch.use_deterministic_algorithms总结学习记录

经常使用PyTorch框架的应该对于torch.backends.cudnn.benchmark和torch.use_deterministic_algorithms这两个语句并不陌生，在以往开发项目的时候可能专门化花时间去了解过，也可能只是浅尝辄止简单有关注过，正好今天再次遇到了就想着总结梳理一下。 torch.backends.cudnn.benchmark 是 PyTorch 中的一个设置
阅读更多...
Learning Memory-guided Normality for Anomaly Detection——学习记忆引导的常态异常检测

Learning Memory-guided Normality for Anomaly Detection——学习记忆引导的常态异常检测

又是一篇在自编码器框架中研究使用记忆模块的论文，可以看做19年的iccv的论文的衍生，在我的博客中对19年iccv这篇论文也做了简单介绍。韩国人写的，应该是吧，这名字听起来就像。 摘要abstract 我们解决异常检测的问题，即检测视频序列中的异常事件。基于卷积神经网络的异常检测方法通常利用代理任务(如重建输入视频帧)来学习描述正常情况的模型，而在训练时看不到异常样本，并在测试时使用重建误
阅读更多...
【论文分享】GPU Memory Exploitation for Fun and Profit 24‘USENIX

【论文分享】GPU Memory Exploitation for Fun and Profit 24‘USENIX

目录 AbstractIntroductionResponsible disclosure BackgroundGPU BasicsGPU architectureGPU virtual memory management GPU Programming and ExecutionGPU programming modelGPU kernelDevice function NVIDIA
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2