在train时报错tensorflow.python.framework.errors_impl.ResourceExhaustedError: OOM when allocating tensor
显卡内存不能满足此次训练
解决思路:
要降低所需内存要求
减少批处理Batch 的大小
降低全连接层的维度
增加池化 层
缩小输入图片大小
将训练集放到CPU上训练,因为内存大于显存 os.environ["CUDA_VISIBLE_DEVICES"]="-1"
在train时报错tensorflow.python.framework.errors_impl.ResourceExhaustedError: OOM when allocating tensor
显卡内存不能满足此次训练
解决思路:
要降低所需内存要求
减少批处理Batch 的大小
降低全连接层的维度
增加池化 层
缩小输入图片大小
将训练集放到CPU上训练,因为内存大于显存 os.environ["CUDA_VISIBLE_DEVICES"]="-1"