huggingface入门:如何使用国内镜像下载huggingface中的模型

原创 已于 2025-08-24 11:09:49 修改 · 1k 阅读 · 10 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#语言模型 #人工智能 #自然语言处理

于 2025-08-23 16:45:04 首次发布

前言

在使用huggingface中的模型时很多情况下会因为网络原因无法访问，导致模型的下载失败。为了应对这种问题，最便捷的方式是下载相应的模型后使用本地调用的方式，本文将介绍使用modelscope和hf-mirror镜像网站，下载并调用模型的方式来避免受网络影响模型的下载失败问题。

镜像网站

modelscope

ModelScope 是一个由阿里巴巴达摩院推出的开源模型库和工具集，基本上能够涵盖常用的大语言模型和数据。
镜像地址：https://www.modelscope.cn/models
打开主页如下
在这里插入图片描述
查找模型
本文中以下载qwen3为例，搜索后选择模型库
在这里插入图片描述
然后找到符合自身硬件条件的模型大小，一般来讲显存要比模型大小大一些，如果要秒出结果，最好显存比模型大两倍。
在这里插入图片描述
点进去选择模型文件，然后选择下载模型
在这里插入图片描述

最低0.47元/天 解锁文章
模型仓库结构说明全解析：HuggingFace × ModelScope × 镜像加速 × 本地加载技巧
努力分享一些人工智能、计算机视觉、影像等相关的知识干货！
03-29 1462
🎯 本文目标：帮你全面掌握国产大模型的权重仓库结构与加载路径，避免下载失败、路径混乱、缓存异常等部署常见问题，做到“仓库用得明白，模型加载不踩坑”。
Transformers入门：实战Ubuntu使用huggingface上的语句情感分类模型+配环境（2024.02.20）
thestareye的博客
02-21 2864
在Ubuntu上解决使用Transformers可能会碰到的种种环境问题
HuggingFace模型下载全流程（国内源）
qq_42610612的博客
02-19 3018
服务器代理也配了，huggingface-cli 了一下午，愣是没下载成，故撰此文，以示吾之愚。国内的魔搭（ModelScope）社区作为huggingface的平替，官方给了很多下载示例，无论是python还是命令行，都是非常简单易上手，这里就不多说了。但是，相比于huggingface，魔搭还是有很多不足的，比如某个大模型的AWQ、GPTQ不同位数的量化版本等。因此，有些情况下还是不得不拥抱下脸脸。
hugging face下载模型
zhouj的博客
10-31 1187
是 Hugging Face 官方提供的命令行工具，自带完善的下载功能。（可用conda配置python环境）建议将上面这一行写入~/.bashrc。
Hugging Face 国内镜像使用
最新发布
weixin_63093667的博客
10-19 6038
《国内HuggingFace镜像使用指南》摘要：本文推荐5个主流HuggingFace国内镜像平台（HF-Mirror/阿里魔搭/GiteeAI等），重点介绍HF-Mirror的系统配置方法。涵盖环境变量设置、命令行工具使用、Python代码集成等三种方案，并提供常见问题解决方案。HF-Mirror因兼容性强、下载速度快成为首选，通过全局配置可显著提升模型下载效率，特别适合大模型场景。文末建议开发者根据实际需求选择合适方案，并提供了网络优化建议。（149字）
huggingface_hub 设置国内镜像
jasonhongcn的专栏
06-27 7117
要设置HuggingFace Hub的国内镜像，你可以按照以下步骤进行操作，以确保从国内镜像站点下载Hugging Face模型和数据集。
Huggingface 的国内镜像
xkx_07_10的博客
03-28 2041
【代码】Huggingface 的国内镜像。
hf-mirror （huggingface 的国内镜像）
热门推荐
消极的人永远是对的，积极的人选择勇往直前
07-10 13万+
官网：网站域名，用于镜像域名。作为一个公益项目，致力于帮助国内AI开发者快速、稳定的下载模型、数据集。
huggingface使用国内镜像站下载
gaoxukkk888的博客
09-29 2万+
以Qwen1.5-0.5B-chat为例，我们先进入到https://hf-mirror.com/models去搜索Qwen1.5-0.5B-chat，会跳转到下面的页面。huggingface开源的模型托管仓库，预训练模型的数量已超过30万个，并且任何模型在下载之前都可以使用huggingface提供的spaces空间去测试效果。HF-Mirror网站主页提供了几个下载方法，这里使用方法二-借助huggingface-cli，huggingface-cli。建议将上面这一行写入。
huggingface国内镜像下载模型
2301_77554343的博客
07-17 1399
摘要：在CN大陆使用huggingface-cli下载模型时，可通过设置清华大学镜像源解决连接问题。具体步骤：1）设置HF_ENDPOINT环境变量；2）使用清华源安装huggingface-hub工具；3）执行下载命令时指定本地目录。该方法可有效解决下载超时问题，支持终端、CMD和PowerShell多种环境。（94字）
[轻松加载和使用HuggingFace数据集：从入门到精通]
zjhnfmkh的博客
12-15 568
HuggingFace Hub是一个数据丰富的平台，拥有超过5000个数据集，支持100多种语言。这些数据集被广泛应用于多种任务，例如翻译、自动语音识别和图像分类。通过本文，您可以快速上手将HuggingFace数据集引入LangChain进行数据处理与分析。但是，LangChain的应用远不止这些，您可以进一步探讨如何定制化索引和搜索算法以适应具体项目需求。HuggingFace数据集文档LangChain GitHub仓库LangChain官方文档。
Huggingface 详细使用教程
l18817813618的博客
04-06 8305
Hugging face 详细使用教程
huggingface 国内镜像
乐亦亦乐的博客
02-21 607
指定临时环境变量，进行huggingface 模型下载。
配置Hugging_face国内镜像
所有专家都曾始于新手
12-16 2363
随着人工智能技术的蓬勃发展，Huggingface这一开源平台已成为研究者和开发者的宝贵资源，提供了丰富的预训练模型，助力自然语言处理任务的快速推进。然而，对于身处国内的我们而言，访问Huggingface主仓库时，网络延迟和下载速度慢的问题时常困扰着我们。幸运的是，国内网友贴心地搭建了Huggingface镜像站，如hf-mirror.com，为我们带来了福音。经常出现huggingface下载不了的问题。或者在~/.bashrc中配置。huggingface地址在。在把自己的目录替换一下。
连接国内镜像HuggingFace
qq_41886231的博客
07-17 366
在vscode终端命令行中输入：
huggingface设置国内镜像源以及登陆之后下载模型示例
m0_72806612的博客
10-27 4605
有一些较大的模型权重直接去官网下很不方便，所以找了一下设置国内镜像源并设置token登陆的方法。一般开开权限的库可以随便下载，没开开的先去库里面填个表申请，一般提交以后秒获得库的权限。后面是下载的地址，好处是这种方式可以在断掉之后用缓存接着下载。前面是设置国内镜像源，否则可能出现网络问题。1.去官网设置自己账号的token。具体在这里添加，将所有权限都开开。
从 Hugging Face 国内镜像下载模型
weixin_43828027的博客
01-31 1634
使用 huggingface-cli download 命令批量下载模型，指定 --local-dir 参数保存到本地目录。
pip用国内的源 + Hugging Face 官方国内镜像
子燕若水的博客
07-18 1217
Hugging Face 官方联合 ModelScope 提供了国内镜像，可以极大地加速和稳定访问。会自动从速度更快的国内镜像服务器下载，问题应该就解决了。： 在您的终端中执行以下命令，将其指向国内镜像地址。如果您只是想在本次安装中临时使用国内镜像源，可以在。文件中，输入以下内容。首先，您需要在您的用户主目录下创建一个名为。的默认安装源更换为国内镜像源，可以修改。：为了让这个设置永久生效，您可以将。安装包时都需要手动添加该参数。的文件夹，并在其中创建一个。中再次运行您原来的命令。参数，指定镜像源地址。
国内HuggingFace，预训练模型镜像使用
张伟的专栏
11-04 4813
Hugging Face Transformers是自然语言处理领域的重要开源项目，提供了基于通用架构（如 BERT，GPT-2，RoBERTa）的数千个预训练模型，并提供了 PyTorch 和 TensorFlow 的良好互操作性。 我们镜像了 Hugging Face Model Hub，为国内用户下载预训练模型数据提供便利。 使用方法 注意：transformers > 3.1.0的版本支持下面的mirror选项。 只需在from_pretrained函数调用中添加mi...
如何使用huggingface上的模型，不懂编程
04-02
<think>好的，我现在需要帮助用户了解如何在没有编程经验的情况下使用Hugging Face上的模型。首先，我得回顾一下用户提供的引用内容，看看里面有哪些有用的信息。引用[1]提到了使用Ollama来运行Hugging Face下载的模型，并且提到了可能需要调整Modelfile来适应中文支持。引用[2]则提到直接下载模型可能失败，建议离线部署，并访问Hugging Face官网或镜像站点下载模型文件。引用[3]涉及使用LLaMA-Factory微调模型，但用户可能暂时不需要微调，而是更基础的使用方法。 接下来，我需要将这些信息整合成一个适合初学者的教程。用户没有编程经验，所以步骤需要尽可能简单，避免涉及复杂的命令或代码。首先，应该指导用户如何访问Hugging Face网站并下载模型。可能需要解释模型库的结构，比如不同的模型类型和任务，比如文本生成、图像分类等。 然后，引用[2]提到直接下载可能失败，所以需要建议用户使用镜像站点或者手动下载。这里可能需要分步骤说明如何找到模型页面，选择正确的文件格式（比如GGUF或safetensors），以及如何下载到本地。 接下来，引用[1]中提到使用Ollama来运行模型，但Ollama通常需要命令行操作。不过用户可能不熟悉命令行，所以需要考虑是否有更简单的工具。比如，引用[3]中的LLaMA-Factory有Web UI，可能适合非编程用户，但它的主要用途是微调，可能不太适合直接运行模型。或者，是否有其他图形界面工具，比如LM Studio，可以方便用户加载模型并进行交互？ 需要确认LM Studio是否支持从本地加载Hugging Face模型，并且是否有简单的界面操作。引用[2]提到直接使用LM Studio下载模型可能会失败，所以用户需要离线下载后，通过LM Studio加载。这里可能需要指导用户如何在LM Studio中导入已下载的模型文件，并启动聊天界面。 另外，引用[1]中提到需要调整Modelfile来增加对中文的支持，比如设置TEMPLATE、SYSTEM等参数。这可能对新手来说有点复杂，但如果是通过Ollama，可能需要用户修改配置文件，不过用户可能希望避免这些步骤。是否有更简单的方法，或者推荐使用已经支持中文的模型？ 还需要考虑用户是否需要API接口，以便其他应用调用。引用[1]提到需要后台运行模型暴露API，这可能涉及到使用Ollama或其他工具的进阶步骤。但用户是入门，可能需要先掌握基础的使用，再考虑进阶内容。 总结一下，教程的大纲可能是： 1. 访问Hugging Face并下载模型（手动或镜像）。 2. 使用图形工具（如LM Studio）加载模型进行交互。 3. 可能需要调整设置支持中文（如选择合适模型或简单配置）。 4. 进阶步骤：使用Ollama运行模型并暴露API（可选，但可能复杂）。 需要确保每个步骤详细且避免专业术语，用简单的语言描述。同时，注意引用中的信息，比如推荐使用镜像站点下载，避免下载失败的问题。最后，生成相关问题，引导用户进一步学习，比如如何优化模型性能或处理中文支持的问题。</think>### 零编程使用Hugging Face模型教程 #### 1. 模型下载与准备 - **访问Hugging Face官网** 进入[Hugging Face模型库](https://huggingface.co/models)，通过左侧筛选器选择任务类型（如文本生成、图像分类）。推荐选择支持中文的模型如`Qwen`系列[^3]。 - **手动下载模型文件** 点击模型页面右侧的`Files and versions`，下载以下文件： - 模型权重文件（`.gguf`或`.safetensors`格式） - `config.json`配置文件 - `tokenizer`分词器文件 若下载失败，可使用国内镜像站点加速[^2]。 #### 2. 使用可视化工具运行模型 - **安装LM Studio工具** 访问[LM Studio官网](https://lmstudio.ai/)下载安装包，支持Windows/macOS。该工具提供图形界面加载本地模型文件。 - **加载模型与交互** 1. 打开LM Studio → 左侧菜单选择`Local Models` 2. 拖拽下载的模型文件夹到界面 3. 点击`Start Chat`即可通过聊天框交互 #### 3. 中文支持优化 若模型对中文响应不佳，可通过以下方式调整： - 在工具设置中添加`SYSTEM`参数：`你是一个精通中文的助手`[^1] - 优先选择已支持中文的模型（如`Qwen-7B-Chat`） #### 4. 进阶应用 - **API接口调用（需安装Ollama）** 1. 创建`Modelfile`文件并写入： ```docker FROM ./qwen-7b-chat.gguf SYSTEM "你使用中文回答问题" ``` 2. 命令行运行：`ollama serve` 启动API服务 ```plaintext # 示例模型目录结构 qwen-7b-chat/ ├── config.json ├── qwen-7b-chat.gguf └── tokenizer.json ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

艾醒(AiXing-w)

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值