Keras/pytorch在训练时指定gpu以及多gpu训练

最新推荐文章于 2025-03-09 20:37:23 发布

recusant

最新推荐文章于 2025-03-09 20:37:23 发布

阅读量5.7k

点赞数 3

CC 4.0 BY-SA版权

分类专栏： Keras/tensorflow

本文链接：https://blog.youkuaiyun.com/weixin_38047275/article/details/86665019

Keras/tensorflow 专栏收录该内容

6 篇文章

订阅专栏

本文介绍如何在服务器上管理GPU资源，包括通过nvidia-smi查看GPU状态，选择空闲GPU进行训练，以及如何在TensorFlow和PyTorch中设置GPU选项以避免显存溢出。同时，详细讲解了使用Keras和PyTorch进行多GPU模型训练的方法。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

首先在终端输入命令nvidia-smi查看gpu运行状态

可见在服务器存在两台1080ti显卡，编号分别为0,1。在实际情况中选择一块无人使用的显卡进行训练最为合适。另外在训练过程中TensorFlow和Keras都是默认占满全部显存，多模型在一张卡训练时容易造成爆显存的情况，所以采用限制显存大小的方法。

import tensorflow as tf
import keras.backend.tensorflow_backend as KTF

config = tf.ConfigProto()
# 指定可见显卡
config.gpu_options.visible_device_list="1"
#不满显存, 自适应分配
config.gpu_options.allow_growth=True   
sess = tf.Session(config=config)
KTF.set_session(sess)

若要使用多块gpu训练，使用keras.utils.multi_gpu_model方法

在原来的model基础上使用multi_gpu_model函数指定一下gpu个数：

model =  multi_gpu_model(model, 2)

pytorch则是

if torch.cuda.device_count() > 1:
        model = nn.DataParallel(model)
model.to(device)

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

recusant

关注关注

3
点赞
踩
8

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

【LLM】如何使用单个GPU 微调 Llama2

sikh_0529的博客

09-14

2138

自然语言处理领域通过 ChatGPT 等大型语言模型 (LLM) 取得了令人难以置信的进步。然而，这些模型都有其局限性。他们可能会提出隐私问题，遵守一套固定的规则，并仅限于最后一次培训的日期。PaLM 和 GPT-3.5 等预训练 LLM 的另一个限制不是。这意味着开发人员和研究人员无法访问模型的内部工作原理，从而限制了他们根据特定用例微调和定制模型的能力。幸运的是，新时代已经到来，是Meta推出的开源LLM，它允许，减轻隐私问题并实现个性化的AI体验。此外，创新的。

Hugging Face的TrainingArguments常用参数学习

pumpkin84514的博客

05-22

1389

output_dir: 确保模型和结果保存位置。: 影响内存使用和训练速度。: 决定训练时长和模型的收敛程度。: 学习率，影响模型的学习速度和性能。: 正则化，防止过拟合。: 确保模型在训练过程中的监控和评估。fp16: 使用混合精度可以提高训练速度并减少内存占用，但需要兼容的硬件。通过合理配置这些参数，可以更好地控制模型训练过程，提高训练效率和模型性能。

参与评论您还未登录，请先登录后发表或查看评论

Pytorch中多GPU训练指北

qq_32256033的博客

05-29

3844

如果我们机子中有很多显卡(例如我们有八张显卡)，但我们只想使用0、1、2号显卡，那么我们可以： net = torch.nn.DataParallel(model, device_ids=[0, 1, 2]) 另一种方法DistributedParallel python -m torch.distributed.launch --nproc_per_node=你的GPU数量 YOUR_TRAINING_SCRIPT.py (--arg1 --arg2 --arg3 and

keras深度训练:GPU设置

qq_38410428的博客

06-27

6425

keras指定运行时显卡及限制GPU用量固定GPU训练： import os import tensorflow as tf import keras.backend.tensorflow_backend as KTF #进行配置，每个GPU使用90%上限现存 os.environ["CUDA_VISIBLE_DEVICES"]="0,1" # 使用编号为0，1号的GPU config = t...

Training Region-based Object Detectors with Online Hard Example Mining

weixin_36670529的博客

09-12

946

目录摘要 1、简介 3、R-CNN概述 3.1、训练 4、我们的方法 4.1、在线难样本挖掘 4.2、实现细节 5、对在线难样本挖掘进行分析 5.1、实验步骤 5.2、OHME和启发式抽样的比较 5.3、鲁棒梯度估计 5.4、什么时候可以使用所有的例子？ 5.5、更好的优化 5.6、计算损耗 6、PASCAL VOC和MS COCO的结果 6.1、VOC 2007...

Transformers多机多卡的炼丹实践

nghuyong的博客

01-28

6186

前言随着预训练语言模型的快速发展，很多问题可以通过堆数据和堆模型参数简单粗暴的有效解决。所以亲自训练一个大模型一定是每个NLPer都想尝试的事，这时候就需要进行多机多卡的分布式训练了。本文是一篇踩坑后的总结，介绍如何基于huggingface的transformers库来快速实现。注意：本文仅涉及数据并行，而不涉及模型并行。所以参考本文可以自己从零训练一个bert，bert-large等，但想训练...

Keras深度学习框架第十五讲：使用PyTorch进行多GPU分布式训练

MUKAMO的博客

05-20

956

PyTorch支持单主机多GPU的同步训练，通过torch.nn.parallel.DistributedDataParallel模块，每个GPU上运行模型的一个副本。全局数据批次被分割并分配给各个GPU，每个GPU独立处理并计算梯度，最后同步更新所有模型副本的权重。这通过启动多个Python进程并使用分布式数据加载器实现。此方法充分利用了多GPU的并行计算能力，从而显著加速了深度学习模型的训练过程。

常用深度学习框——Caffe/TensorFlow / Keras/ PyTorch/MXNet

吴建明wujianming_110117

05-30

840

常用深度学习框——Caffe/TensorFlow / Keras/ PyTorch/MXNet 一．概述近几年来，深度学习的研究和应用的热潮持续高涨，各种开源深度学习框架层出不穷，包括TensorFlow，Keras，MXNet，PyTorch，CNTK，Theano，Caffe，DeepLearning4，Lasagne，Neon，等等。Google，Microsoft等商业巨头都加入了这场深度学习框架大战，当下最主流的框架当属TensorFlow，Keras，MXNet，PyTorch，Caffe接

caffe/PyTorch/TensorFlow 在Jupyter Notebook GPU中运用

z_ran的博客

09-03

1442

Caffe、TensorFlow、Pytorch

漫谈常用深度学习框——Caffe/ TensorFlow / Keras/ PyTorch

holmes_MX的博客

08-21

4162

0. 写作目的通过对不同深度学习框架的学习，简单谈谈不同框架的区别。仅供参考。对不同框架讲解的顺序，依据笔者对不同框架的学习顺寻。 1. Caffe Caffe作为入门级的深度学习框架，对于一般的深度学习任务，如图像分类/ 目标检测/ 实例分割等，存在已有的代码供大家参考，使得上手很快，需要新手修改的地方一般为配置文件，基本不需要书写代码。而且Caffe是基于C++的代码，因此训练方面很快...

【毕业设计】基于tensorflow、keras_pytorch实现对自然场景的文字检测及端到端的OCR中文文字识别.zip

06-29

提供keras 与pytorch版本的训练代码，在理解keras的基础上，可以切换到pytorch版本，此版本更稳定使用体验运行demo.py或者pytorch_demo.py（建议）写入测试图片的路径即可，如果想要显示ctpn的结果，修改文件./...

详解Hugging Face Transformers的TrainingArguments

最新发布

08-02

<think>首先，用户的问题是基于引用内容，但引用是关于深度学习模型部署的。用户希望了解如何在Keras或PyTorch中训练混合模型，导出权重参数，并转换为C语言兼容的格式。引用内容提到了PyTorch、C++部署、模型训练等，所以我需要参考这些引用。关键点： - 引用[1]：讨论使用C++部署深度学习模型。 - 引用[2]：比较不同框架，包括PyTorch和TensorFlow（Keras）。 - 引用[3]：关于PyTorch GPU版本和CUDA。 - 引用[4]：大模型相关内容。 - 引用[5]：计算模型参数的方法。用户的问题：如何在Keras或PyTorch中训练混合模型，导出权重参数，并转换为C语言可使用的格式。系统指令： - 所有行内数学表达式用$...$。 - 独立公式用$$...$$。 - 使用中文回答。 - 生成相关问题。 - 回答中引用的段落末尾添加引用标识。 - 回答结构清晰，逐步解决问题。 - 确保真实可靠。我的回答需要结构化： 1. 介绍主题。 2. 逐步解释： - 训练混合模型（在Keras或PyTorch）。 - 导出权重参数。 - 转换为C语言格式。 3. 提供代码示例（如果适用）。 4. 添加引用标识。 5. 生成相关问题。步骤： 1. **训练混合模型**： - 混合模型可能指结合不同层或模型的模型。在Keras或PyTorch中，这可以通过定义自定义模型来实现。 - 在PyTorch中，使用`nn.Module`定义模型。 - 在Keras中，使用`Model`类或Sequential API。 - 引用[2]提到PyTorch的动态图和TensorFlow的静态图，所以我需要解释如何在这些框架中构建模型。 2. **导出权重参数**： - 在PyTorch中：使用`torch.save(model.state_dict(), 'model_weights.pth')`保存权重。 - 在Keras中：使用`model.save_weights('model_weights.h5')`保存权重。 - 引用[5]提到计算模型参数，这可以用于验证。 3. **转换为C语言格式**： - C语言通常需要权重数据以数组或二进制格式存储。 - 在PyTorch中：可以使用`torch.jit.trace`或`torch.onnx.export`导出到ONNX格式，然后使用C++库加载。 - 在Keras中：使用TensorFlow的SavedModel或转换为TensorFlow Lite，或者使用ONNX。 - 引用[1]讨论使用C++部署，提到ONNX转换。 - 具体步骤：导出权重后，读取权重文件，将其转换为C可用的格式，如头文件（.h）或二进制文件。详细步骤： - **训练模型**： - 定义模型架构。 - 编译和训练。 - **导出权重**： - 保存权重文件。 - **转换**： - 读取权重文件（如使用Python脚本）。 - 将权重数据转换为C数组格式，例如写入到.h文件。 - 或者使用框架工具导出到ONNX，然后用C++库如ONNX Runtime加载。代码示例： - 提供PyTorch和Keras的示例代码片段。 - 使用代码块格式。引用标识： - 在相关部分添加引用，如提到ONNX转换时引用[1]。生成相关问题： - 在回答末尾添加相关问题。结构回答： 1. **引言**：简要介绍过程。 2. **训练混合模型**：解释如何在Keras和PyTorch中定义和训练模型。 3. **导出权重参数**：展示保存权重的方法。 4. **转换为C语言格式**：详细说明转换步骤，包括代码示例。 5. **总结**：简要回顾。 6. **相关问题**：列出相关问题。确保真实可靠：基于标准实践，参考文档。</think>### 在Keras或PyTorch中训练混合模型、导出权重并转换为C语言格式在深度学习项目中，训练模型通常使用高级框架如Keras（基于TensorFlow）或PyTorch，而生产部署可能需要转换为C语言以提升性能或集成到嵌入式系统中。以下我将逐步解释整个过程，包括训练混合模型、导出权重参数，以及将其转换为C语言兼容格式。整个过程基于标准实践，并参考了相关引用内容。 #### 步骤1: 训练混合模型（在Keras或PyTorch中）混合模型指结合不同网络层或子模型的架构，例如融合卷积层和全连接层。在Keras和PyTorch中，这可以通过自定义模型实现。以下是关键步骤： - **在Keras中**： - 使用Keras的函数式API定义混合模型。例如，创建一个包含卷积层和LSTM层的模型。 - 编译模型后训练，使用自定义数据集。 - 代码示例： ```python from tensorflow.keras.layers import Input, Conv2D, LSTM, Dense, concatenate from tensorflow.keras.models import Model # 定义输入 input1 = Input(shape=(28, 28, 1)) # 图像输入 input2 = Input(shape=(10,)) # 序列输入 # 构建混合模型：卷积部分 + LSTM部分 conv_branch = Conv2D(32, kernel_size=(3, 3), activation='relu')(input1) conv_branch = Flatten()(conv_branch) lstm_branch = LSTM(64)(input2) # 合并分支 merged = concatenate([conv_branch, lstm_branch]) output = Dense(10, activation='softmax')(merged) # 创建和编译模型 model = Model(inputs=[input1, input2], outputs=output) model.compile(optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy']) # 训练模型（假设已加载数据集） model.fit([train_images, train_sequences], train_labels, epochs=10, batch_size=32) ``` - **在PyTorch中**： - 继承`nn.Module`类定义自定义模型。PyTorch支持动态图，便于调试和实验[^2]。 - 训练过程使用PyTorch的优化器和损失函数。 - 代码示例： ```python import torch import torch.nn as nn import torch.optim as optim class HybridModel(nn.Module): def __init__(self): super(HybridModel, self).__init__() self.conv = nn.Sequential( nn.Conv2d(1, 32, kernel_size=3), nn.ReLU(), nn.Flatten() ) self.lstm = nn.LSTM(input_size=10, hidden_size=64, batch_first=True) self.fc = nn.Linear(32 * 26 * 26 + 64, 10) # 假设输入尺寸 def forward(self, img, seq): conv_out = self.conv(img) lstm_out, _ = self.lstm(seq) lstm_out = lstm_out[:, -1, :] # 取最后一个时间步 combined = torch.cat((conv_out, lstm_out), dim=1) output = self.fc(combined) return output # 初始化模型、优化器和损失函数 model = HybridModel() optimizer = optim.Adam(model.parameters(), lr=0.001) criterion = nn.CrossEntropyLoss() # 训练循环（假设已加载数据集） for epoch in range(10): for imgs, seqs, labels in train_loader: # 假设有DataLoader optimizer.zero_grad() outputs = model(imgs, seqs) loss = criterion(outputs, labels) loss.backward() optimizer.step() ``` **关键点**： - 混合模型允许结合不同数据类型（如图像和序列），提升模型灵活性。 - 训练后，可使用引用[5]的方法计算参数总数以验证模型规模：`params = sum(p.numel() for p in model.parameters() if p.requires_grad)`[^5]。 #### 步骤2: 导出训练好的权重参数训练完成后，需要将权重参数导出为文件格式，便于后续处理。权重是模型的可学习参数（如卷积核权重和偏置）。 - **在Keras中**： - 使用`save_weights`方法导出权重为HDF5格式（.h5文件）。 - 代码示例： ```python model.save_weights('keras_model_weights.h5') # 保存权重 ``` - **在PyTorch中**： - 使用`state_dict`方法导出权重为.pth文件。 - 代码示例： ```python torch.save(model.state_dict(), 'pytorch_model_weights.pth') # 保存权重 ``` **注意事项**： - 导出权重前，确保模型已训练收敛（可通过验证集准确率评估）。 - 权重文件仅包含参数值，不包含模型架构，因此需记录架构信息用于后续加载。 #### 步骤3: 将权重转换为C语言可使用的格式 C语言需要权重数据以数组或二进制形式存储，便于集成到嵌入式系统或高性能应用中。常用方法包括： 1. **直接转换为C数组（适用于简单模型）**： - 读取权重文件，将参数展平为一维数组，并写入C头文件（.h）。 - 此方法适合小型模型，但手动处理复杂模型时易出错。 - 代码示例（Python脚本，通用Keras和PyTorch）： ```python import numpy as np import h5py # 用于Keras .h5文件 import torch # 用于PyTorch .pth文件 # 读取权重文件（以PyTorch为例） weights = torch.load('pytorch_model_weights.pth') # 将所有参数合并为一维数组 all_weights = [] for key in weights: all_weights.extend(weights[key].numpy().flatten()) weights_array = np.array(all_weights, dtype=np.float32) # 生成C头文件 with open('model_weights.h', 'w') as f: f.write('#ifndef MODEL_WEIGHTS_H\n') f.write('#define MODEL_WEIGHTS_H\n\n') f.write(f'const float model_weights[{len(weights_array)}] = {{\n') for i, val in enumerate(weights_array): if i % 10 == 0: # 每10个元素换行 f.write('\n ') f.write(f'{val}f, ') f.write('\n};\n\n') f.write('#endif // MODEL_WEIGHTS_H\n') ``` - 在C代码中，直接包含此头文件：`#include "model_weights.h"`，并使用数组进行推理。 2. **使用ONNX格式转换（推荐，支持复杂模型）**： - ONNX（Open Neural Network Exchange）是跨框架标准，可将模型导出为.onnx文件，然后用C++库（如ONNX Runtime）加载[^1]。 - 步骤： - 导出模型为ONNX格式。 - 使用C++ ONNX Runtime加载和推理。 - 代码示例（以PyTorch为例）： ```python # PyTorch导出为ONNX dummy_input_img = torch.randn(1, 1, 28, 28) # 示例输入（图像分支） dummy_input_seq = torch.randn(1, 10, 10) # 示例输入（序列分支） torch.onnx.export(model, (dummy_input_img, dummy_input_seq), 'hybrid_model.onnx') ``` - 在C++中，使用ONNX Runtime加载： ```cpp #include <onnxruntime_cxx_api.h> Ort::Env env(ORT_LOGGING_LEVEL_WARNING, "ModelDeployment"); Ort::Session session(env, "hybrid_model.onnx", Ort::SessionOptions{}); // 准备输入数据并运行推理 ``` - 对于Keras，先转换为TensorFlow SavedModel，再用`tf2onnx`工具转ONNX。 3. **使用专用库（如TensorFlow Lite for Microcontrollers）**： - 如果目标平台是嵌入式设备，可将模型转换为TensorFlow Lite格式（.tflite），然后生成C数组。 - 步骤（以Keras为例）： ```python # 转换Keras模型为TensorFlow Lite converter = tf.lite.TFLiteConverter.from_keras_model(model) tflite_model = converter.convert() with open('model.tflite', 'wb') as f: f.write(tflite_model) # 使用xxd工具生成C数组（在命令行运行） # !xxd -i model.tflite > model_data.cc ``` **最佳实践建议**： - **性能优化**：对于大型模型，优先使用ONNX转换，因为它支持编译器优化和跨平台部署[^1][^2]。 - **兼容性**：确保C环境支持浮点运算（如使用`float`类型），对于嵌入式系统，考虑量化权重为整数以减小体积。 - **验证**：转换后，在C端实现简单推理逻辑（如矩阵乘法），并与Python端结果比对以确保精度。 #### 总结在Keras或PyTorch中训练混合模型涉及定义自定义架构、训练后导出权重（.h5或.pth文件），然后通过Python脚本转换为C数组或使用ONNX标准实现跨语言部署。整个过程需注意模型架构的一致性和权重精度。这种方法在资源受限环境中（如嵌入式设备）尤其有用，能平衡开发效率和运行时性能[^1][^2]。