记录｜M1 Pro mps跑模型LeNet和AlexNet

原创 已于 2022-11-10 14:38:48 修改 · 1.8k 阅读 · 8 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#cnn

于 2022-10-09 23:13:33 首次发布
本文记录了使用M1Pro芯片的Macbook Pro运行PyTorch模型LeNet与AlexNet的过程。通过设置设备为mps来利用GPU资源，观察到GPU占用率逐渐升高，而CPU占用稳定。此外还分享了模型训练期间的系统资源使用情况。

记录M1 Pro芯片Macbook Pro mps跑模型

设置pytorch的模式

设置mps才会用到gpu，一般Nvidia的那种方法没用，还是run on cpu

device = torch.device("mps")

然后把device参数传进网络模型

LeNet

在这里插入图片描述

AlexNet

网络结构：
在这里插入图片描述

经历了很长一段时间才开始画图。。
风扇从过了4个epoch开始叫得有点可怕
电量也开始掉
其实看网络的情况，是比当时毕设跑的那个output10000+的好很多的
内存压力也不大，主要都被我开着的虚拟机给占了
在这里插入图片描述

最低0.47元/天 解锁文章
macbook苹果m1芯片训练机器学习、深度学习模型,resnet101在mnist手写数字识别上做加速，torch.device("mps")...
高颜值的杀生丸(此博客转载自我的博客园)
05-24 2354
apple的m1芯片比以往cpu芯片在机器学习加速上听说有15倍的提升，也就是可以使用apple mac训练深度学习pytorch模型！！！惊呆了 安装apple m1芯片版本的pytorch 然后使用chatGPT生成一个resnet101的训练代码，这里注意，如果网络特别轻的话是没有加速效果的，还没有cpu的计算来的快 这里要选择好设备不是"cuda"了，cuda是nvidia深度学习加速...
mac m1芯片 pytorch安装及gpu性能测试
weixin_42529756的博客
12-23 4952
mac pytorch安装及性能测试
M1配置GPU环境跑模型-MPS加速
最新发布
m0_63991785的博客
07-21 1492
M1的配置GPU环境跑模型，关于MPS加速的问题。
Pytorch Mac GPU 训练与测评
weixin_73136678的博客
02-01 3894
今天中午看到Pytorch的官方博客发了Apple M1 芯片 GPU加速的文章，这是我期待了很久的功能，因此很兴奋，立马进行测试，结论是在MNIST上，速度与P100差不多，相比CPU提速1.7倍。当然这只是一个最简单的例子，不能反映大部分情况。这里详细记录操作的一步步流程，如果你也感兴趣，不妨自己上手一试。
基于MacBook Pro M1芯片运行chatglm2-6b大模型
最美dee时光的博客
01-22 2776
更强大的性能。更长的上下文。更高效的推理。更开放的协议。详细介绍参考官方README介绍。
在Mac M1笔记本上跑大语言模型llama3的4个步骤？（install、pull、run、ask）
技术札记
04-23 1万+
实操下来，因为ollma非常简单，只需要3个步骤就能使用模型，更多模型只需要一个pull就搞定。一台稍微不错的笔记本+网络，就能把各种大模型都用起来，快速上手吧。
【MacOS】MacBook使用本机m1芯片GPU训练的方法（mps替代cuda）
热门推荐
wangzaiyouzr的博客
04-13 2万+
使用Mac M1芯片加速 pytorch 不需要安装 cuda后端，因为cuda是适配nvidia的GPU的，Mac M1芯片中的GPU适配的加速后端是mps，在Mac对应操作系统中已经具备，无需单独安装。只需要安装适配的pytorch即可。mps用法和cuda很像，只是将“cuda”改为“mps”
【大模型部署】mac m1本地部署 ChatGLM3-6B 超详细教程
weixin_41645791的博客
05-31 1622
在 mac m1 16G 上完全离线 的本地模型目录上，跑通官方 ChatGLM3-6B
精选资源
SiC MPS的分析设计和研制
02-03
摘要：本文介绍了具有肖特基正向特性和PN结反向特性的新型整流器－混合PiN/Schottky二极管(MPS)。理论分析了该器件的正向导通、反向阻断和击穿特性.以4HSiC材料为例模拟和优化设计了器件的外延层掺杂浓度和厚度、...
MPS和APS到底有什么区别？一篇搞懂两种计划系统的逻辑与用法！
BeWorkingMan的博客
06-17 887
MPS（主生产计划）和APS（高级计划系统）是生产计划中的两个关键工具。MPS负责制定生产大方向，确定产品种类和产量；APS则负责具体执行，精确安排设备、工序和资源。二者不是替代关系，而是协作关系：MPS提供框架，APS落实细节。
ProMPs概率运动基元JanPeters论文代码
03-08
Probabilistic movement primitives for coordination of multiple human–robot collaborative tasks基于概率运动基元的多任务人机协作论文代码，
【Pytorch】【MacOS】14.m1芯片使用mps进行深度模型训练
Elephant_King的博客
05-18 8075
我们可以看到使用GPU的速度在本模型中还是比CPU快不少的。进行验证是否可以使用mps进行训练。就可以实现m1芯片来进行gpu训练。的情况下每训练100次的时间。的情况下每训练100次的时间。然后我们需要在三处添加为。分别在上面四处进行修改。CIFAR10数据集。首先我们先要引入设备。
做大模型 千万别买苹果笔记本电脑
weixin_41046245的博客
08-29 8198
256-bit显存位宽，16GB GDDR6X显存，显存频率：22.4GHz。- 384-bit显存位宽，24GB GDDR6X显存，显存频率：21GHz。- 384-bit显存位宽，24GB GDDR6X显存，显存频率：21GHz。- 256-bit显存位宽，16GB GDDR6X显存，显存频率：23GHz。- 256-bit显存位宽，16GB GDDR6X显存，显存频率：21GHz。- 核心频率：2235MHz，加速频率：2520MHz。- 核心频率：2280MHz，加速频率：2520MHz。
深度学习系列50：苹果m1芯片加速pytorch
kittyzc的博客
08-24 4050
Apple的Metal Performance Shaders（MPS）作为PyTorch的后端来加速GPU训练。MPS后端扩展了PyTorch框架，提供了在Mac上设置和运行操作的脚本和功能。MPS通过针对每个Metal GPU系列的独特特性进行微调的内核来优化计算性能。新设备将机器学习计算图和原语映射到MPS提供的MPS Graph框架和优化内核上。使用m1 pro 16-core gpu进行测试。...
记录一下在m1pro和win10上安装torch-geometric
weixin_42632778的博客
10-29 202
m1pro和win10上安装torch-geometric，图神经网络环境搭建
Mac本地部署大模型体验AIGC能力
weixin_42907150的博客
02-03 2887
论文仅基于Transformer解码器的大模型（图中的蓝色部分），例如，OpenAI的GPT系列、Meta的LLaMa、Google的PaLM等；仅基于Transformer编码器的大模型（图中的粉丝部分），例如，Google的BERT、Meta的RoBERTa等；同时基于Transformer编码器和解码器的大模型（图中的绿色部分），例如，Meta的BART、Google的T5、清华大学的GLM/ChatGLM等。这里选择ChatGLM-6B进行本地部署，其官网。
【亲测免费】 推荐文章：LLaMA_MPS——苹果M1/M2芯片上的高效LLM推理引擎
gitblog_00013的博客
05-19 1036
推荐文章：LLaMA_MPS——苹果M1/M2芯片上的高效LLM推理引擎 项目介绍 LLaMA_MPS 是一个专为 Apple Silicon GPU 设计的工具，用于运行 LLaMA（Large Language Model）和其他大型语言模型的推理任务。通过高效的矩阵运算库 Metal Performance Shaders（MPS），它能够在 M1 和 M2 芯片上以出色的性能和低延迟运行 ...
在macos中的pytorch如何使用gpu训练模型
HeBLL的博客
09-19 1046
最近在学pytorch的过程中，看到不少的代码中含有data.cuda()等，其实就相当于将data放到GPU用于后续的计算。于是我在百度了macos如何使用cuda，最后没有解决，并且在英伟达官网也没有看到cuda支持macos，也许是cuda不支持macos？那么macos到底有没有gpu呢，应该是有的，见下图。 但是实在是没有找到使用gpu的解决办法，后来，我在网上看到了可以使用cpu代替gpu进行训练。代码如下。这里将device设置为cpu，在后续使用.cuda(
Mac启用GPU加速训练模型
qq_29402011的博客
08-04 2567
MacOS如何使用GPU加速YOLOv8训练
GOT-OCR2.0大模型部署在Mac m1pro芯片上
03-28
<think>好的，我需要帮助用户在Mac M1 Pro芯片上部署GOT-OCR2.0大模型。首先，我要查阅用户提供的引用内容，看看是否有相关的部署信息。引用[2]提到GOT-OCR2.0是基于QWen0.5B大模型，并且给出了GitHub仓库的链接，这可能包含部署指南。引用[3]提到的是一个整合包部署教程，但路径显示是Windows系统（D盘路径），所以可能不适用于Mac。引用[4]说明GOT-OCR2.0是开源的，支持多种复杂场景，但没有具体部署步骤。 接下来，我需要考虑Mac M1 Pro的环境配置。M1芯片是ARM架构，可能需要在安装依赖时注意兼容性，比如使用conda-forge或Rosetta。Python环境方面，用户可能需要使用Python 3.10.11，如引用[3]中的版本，但需要确认是否支持M1。 然后，用户需要克隆GitHub仓库，安装依赖库。可能需要处理PyTorch在M1上的支持，比如使用MPS加速。检查仓库的requirements.txt文件，安装必要的包，如transformers、sentencepiece等。 模型下载部分，需要指导用户从Hugging Face或仓库提供的链接下载预训练模型，并正确放置到指定目录。权限问题在Mac上可能会遇到，需要提醒用户使用chmod修改执行权限。 最后，测试阶段可能需要调整代码以兼容M1的MPS后端，比如在代码中添加device='mps'。如果遇到依赖问题，可能需要使用conda或venv创建虚拟环境，并优先安装PyTorch的Mac版本。 总结步骤时，要分点清晰，注意可能的兼容性问题，并给出常见问题的解决方法。同时，根据引用[2]的GitHub链接和引用[3]的Python版本，确保用户按照正确的流程操作。</think>### 分步指南：Mac M1 Pro芯片部署GOT-OCR2.0大模型 #### 一、环境准备 1. **Python环境配置** 推荐使用 **Python 3.10.11**（兼容M1架构），可通过`conda`或`pyenv`管理： ```bash # 使用conda创建虚拟环境 conda create -n got_ocr python=3.10.11 conda activate got_ocr ``` > 注意：若使用原生ARM架构，需通过`conda-forge`渠道安装依赖；若通过Rosetta转译，需添加`arch -x86_64`前缀[^3]。 2. **PyTorch安装** M1芯片需安装支持Metal Performance Shaders (MPS)加速的PyTorch： ```bash pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/nightly/cpu ``` #### 二、代码与模型部署 1. **克隆仓库** 从GitHub获取最新代码： ```bash git clone https://github.com/Ucas-HaoranWei/GOT-OCR2.0.git cd GOT-OCR2.0 ``` 2. **安装依赖** 根据仓库`requirements.txt`安装依赖包： ```bash pip install -r requirements.txt ``` > 若出现`grpcio`等包安装失败，尝试： ```bash GRPC_PYTHON_BUILD_SYSTEM_OPENSSL=1 pip install grpcio ``` 3. **模型下载** 从Hugging Face下载预训练模型[^2]： ```bash # 下载QWen-0.5B模型权重 wget https://huggingface.co/username/model_name/resolve/main/pytorch_model.bin mv pytorch_model.bin ./pretrained_models/ ``` #### 三、配置与运行 1. **修改推理脚本** 在`inference.py`中指定MPS设备： ```python import torch device = torch.device("mps") # 替换原有cuda设备 ``` 2. **执行推理测试** 运行示例代码验证部署： ```bash python tools/infer_demo.py --image_path ./test_images/formula.png ``` > 若报错`libomp.dylib`缺失，执行： ```bash brew install libomp ``` #### 四、常见问题解决 1. **依赖冲突** 若出现`numpy`版本不兼容，尝试： ```bash pip uninstall numpy conda install numpy=1.23.5 ``` 2. **内存不足** M1 Pro统一内存限制下，可减小推理批次： ```python # 修改batch_size参数为1 model.generate(inputs, batch_size=1) ``` 3. **字体渲染问题** 安装中文字体库： ```bash brew install fontconfig fc-cache -fv ``` --- ### 技术原理 GOT-OCR2.0通过**端到端模型架构**将文本检测与识别统一（如公式：$$P(y|x) = \prod_{t=1}^T P(y_t|x, y_{<t})$$），利用Transformer的多模态融合能力处理复杂版面[^4]。在M1芯片上，Metal API的MPS后端可将矩阵运算速度提升3-5倍[^2]。
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值