LLaMA-Factory微调加离线部署用ollama本地运行

运用魔塔社区的免费gpu和内网穿透工具（NATAPP-内网穿透 基于ngrok的国内高速内网映射工具）

1、Github下载LLaMA-Factory（hiyouga/LLaMA-Factory: Unified Efficient Fine-Tuning of 100+ LLMs & VLMs (ACL 2024)）

上传到实例中解压：我是用的是rar格式的压缩包，所以需要下载rar解压工具

sudo apt-get update
sudo apt-get install unrar
unrar x your_file.rar

解压完成后，cd进入LLaMA-Factory中，输入

pip install -e ".[torch,metrics]"

下载完成后：输入export USE_MODELSCOPE_HUB=1 && llamafactory-cli webui

2、进入