本文详细介绍了如何在本地环境中配置Llama3，包括创建conda环境，安装所需库，从OpenXLab获取或使用预训练模型，以及部署WebDemo并通过XTuner运行。还涉及了VSCode中端口转发的设置，以实现在浏览器中访问Web对话界面。
Llama3-Tutorial之Llama3本地 Web Demo部署
Llama3-Tutorial之Llama3本地Web Demo部署章节。
参考： https://github.com/SmartFlowAI/Llama3-Tutorial
1. 环境配置
conda create -n llama3 python=3.10
conda activate llama3
conda install pytorch==2.1.2 torchvision==0.16.2 torchaudio==2.1.2 pytorch-cuda=12.1 -c pytorch -c nvidia
最低0.47元/天 解锁文章
扫一扫
1万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
