进阶4-InternVL 多模态模型部署微调实践

⭐大模型训练营官方文档 链接

1 环境配置

1.1 训练环境配置

创建环境

conda create --name xtuner-env python=3.10 -y
conda activate xtuner-env

安装包

pip install -U 'xtuner[deepspeed]' timm==1.0.9
pip install torch==2.4.1 torchvision==0.19.1 torchaudio==2.4.1 --index-url https://download.pytorch.org/whl/cu121
pip install transformers==4.39.0

1.2.推理环境配置

安装环境

conda create -n lmdeploy python=3.10 -y
conda activate lmdeploy

安装包

pip install lmdeploy gradio==4.44.1 timm==1.0.9

2 LMDeploy部署

</