本小节我们将使用 InternStudio 中的 A100(1/4) * 2 机器和 internlm-xcomposer-7b 模型部署一个图文理解创作demo
1.环境准备
首先在 InternStudio 上选择 A100(1/4)*2 的配置,详情见:轻松玩转书生·浦语大模型internlm-demo 配置验证过程-优快云博客
显卡改成:A100(1/4)*2配置
进入 conda 环境之后,使用以下命令从本地克隆一个已有的pytorch 2.0.1 的环境
/root/share/install_conda_env_internlm_base.sh xcomposer-demo
然后使用以下命令激活环境
conda activate xcomposer-demo

接下来运行以下命令,安装 transformers、gradio 等依赖包。请严格安装以下版本安装!
pip install transformers==4.33.1 timm==0.4.12 sentencepiece==0.

本文详细介绍了如何在InternStudio中使用A100显卡配置和部署InternLM-xcomposer-7b模型进行图文理解创作的Demo,包括环境设置、依赖包安装、模型下载和代码执行过程。遇到问题时,还提供了代码修改建议以确保正常运行。
最低0.47元/天 解锁文章
1555

被折叠的 条评论
为什么被折叠?



