大模型部署手记（11）LLaMa2+Chinese-LLaMA-Plus-2-7B+Windows+llama.cpp+中文对话

1.简介：

组织机构：Meta（Facebook）

代码仓：GitHub - facebookresearch/llama: Inference code for LLaMA models

模型：LIama-2-7b-hf、Chinese-LLaMA-Plus-2-7B 

下载：使用huggingface.co和百度网盘下载

硬件环境：暗影精灵7Plus

Windows版本：Windows 11家庭中文版 Insider Preview 22H2

内存 32G

GPU显卡：Nvidia GTX 3080 Laptop （16G）

查看 https://github.com/ymcui/Chinese-LLaMA-Alpaca-2

新的模型出来了，可以试一试。

2.代码和模型下载：

下载Chinese-LLaMA-Alpaca-2代码仓：

d:\

git clone https://github.com/ymcui/Chinese-LLaMA-Alpaca-2

获取原版LIama-2-7b-hf模型：https://huggingface.co/meta-llama/Llama-2-7b-hf

下载所有文件，备用。

将文件下载到 d:\llama.cpp\models2的目录：

根据

直接下载完整版模型：

将下载好的文件复制到 d:\llama.cpp\models2\c