写在前面:
24年五一期间,看到机智流举办的卷羊驼活动,碰巧也对其感兴趣,便以小白的身份报名参加卷军。在此感谢机智流的学习课堂以及A100的资源使用时长。
这也是我第一次写自我成长学习的博客,主要也算是对这些做一个知识总结和学习过程中的理解,欢迎一起讨论研究,争取做大做强,再创辉煌。
这里附上机智流的Llama3教程链接:
web-demo部署:
其实,按照机智流的“傻瓜”式代码部署,基本就可以运行成功,这里还是先copy一下前人的智慧,然后我再做一点补充:
conda create -n llama3 python=3.10
conda activate llama3
conda install pytorch==2.1.2 torchvision==0.16.2 torchaudio==2.1.2 pytorch-cuda=12.1 -c pytorch -c nvidia
(这里主要是用conda创建虚拟环境,并激活llama3,安装一些必要的模块。创建虚拟环境的前提是需要安装conda)
mkdir -p ~/model
cd ~/model
(创建文件夹并进入)
# 如果下面命令报错则使用 apt install git git-lfs -y
conda install git-lfs
git-lfs install
(个人感觉应该需要注意看一下linux