llama-factory+ollama【qwen2.5-7b模型使用甄嬛语录可视化微调案例】

python虚拟环境 conda安装

前人栽树，后人乘凉，参考大佬博客安装，很是详细，链接如下：https://blog.youkuaiyun.com/wh0605/article/details/142979657。

llama-factory安装

在网上找到的一些教程里面，总会出一些莫名的版本兼容错误，经过一番摸索，搞了出来，特此记录一下：

1. python虚拟环境版本为3.12 ，注意，不可使用小于3.10或大于3.12的版本，有很多包的兼容性不行；
2. 安装CUDA，从NVIDIA官网下载并安装适合显卡的CUDA版本nvidia-smi。
   这里我下载的是12.8版本的，选择适合自己显卡驱动版本的；
   安装完毕后，cmd输入nvcc -V查看是否安装成功。
3. 下载llama-factory，网页访问https://github.com/hiyouga/LLaMA-Factory； 或者用git命令下载
4. 在第一步中创建了虚拟环境，现在解压llama-factory的压缩包，进入根目录，打开cmd，输入activate XXX启动虚拟环境；
5. 在cmd中输入pip install -r requirements.txt安装必要的环境，如果遇到错误，需要切换pip源为清华或者阿里源；
6. 如果上述操作无法解决问题并且仍然报错，考虑没有安装ffmpeg库，从github上下载并使用pip安装，并配置好环境变量；
7. cmd中输入llamafactory-cli