如何从Hugging face拉取模型到本地部署

目录

前言

部署操作

关于后续模型调用会出现的问题

---

前言

我这里其实查找了许多资料，其实讲的并不详细，我这里就采用比较通用的方法去教大家学会如何从hugging face网站上拉取模型到本地来。

部署操作

Hugging face官网：https://huggingface.co/

注：记得开启网络代理来进行下载，否则会失败，不过可以切换国内镜像源来进行下载，这里就不演示使用通用的教学。

这里说明我们的操作都是基于命令终端来实现的

win+r调出cmd

需要安装Hugging face包来进行仓库访问来进行模型下载

pip install huggingface_hub

运行效果

OK等它加载完就可以进行模型下载了。

模型下载指令

hf download 模型仓库id --local-dir 需要下载到文件夹地址 --local-dir-use-symlinks False

关于什么是模型仓库ID，估计一群人会懵逼，什么是模型ID

找到网址链接，我举个例子

https://huggingface.co/deepseek-ai/DeepSeek-OCR

加入这个网址链接是你需要下载的模型

那么仓库ID就是网址后面的那倒数两个斜杠，即

deepseek-ai/DeepSeek-OCR

如果下载舒畅，那就等待下载完成就行了。

不过事情应该有人会不太顺利，即图片情况

这个无法下载的情况

需要ctrt+c终止

就需要从上去查找，是哪两个文件下载失败的情况

去魔塔社区，或者Hugging face等其他有关于这个模型的社区网站去下载缺少的两个文件

然后粘贴回到目标文件夹内就行

下载后放到含有config.json文件夹路径就ok了（即你下载的文件路径就ok了）

然后继续下载就OK了

hf download 模型仓库id --local-dir 文件夹地址

到这里基本上就能完成下载了。

关于后续模型调用会出现的问题

我不知道是不是模型上传的问题，有些模型上传会进行权重切割，即一个模型文件切割为多个大文件，导致在一些框架下运行调用会出现识别不到的问题，这个目前我还没有解决，如果有解决的方法的可以告诉我，后续如果我解决这个问题的话也会分享出来。