HF- Mirror下载Llama3.1

原创已于 2024-12-03 16:28:49 修改 · 566 阅读

1 ·

CC 4.0 BY-SA版权

文章标签：

#人工智能

于 2024-12-03 11:58:20 首次发布

一、在Hugging face官网申请权限

注意地区选择不要选中国！！！

失败经验：选中国区秒被REJECT

再来一次：重新用gmail注册了一个账号，这次选了新加坡，秒accept

如果账号被REJECT，只能重新注册新的账号申请，所以一定要选别的地区！！！

二、创建access token

选择Create new token，自己起一个名字，前面的部分可以不用勾选，Repositories permissions下拉框会出现已经获得授权的模型，选择这个就可以点击Create token

创建好token之后用HF- Mirror相关命令即可下载

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

努力学习滴兔兔

关注关注

5
点赞
踩
1

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

hf-mirror 使用

小田的笔记簿

01-15

5385

命令下载搜索下载 gated model

LLM - 使用 HuggingFace + Ollama 部署最新大模型 (GGUF 格式与 Llama 3.1)

AGI

08-08

4723

Ollama 是用于构建和运行大型语言模型(LLM)应用的开源工具，提供了一个简洁易用的命令行界面和服务器，让用户能够轻松下载、运行和管理各种开源 LLM，默认支持大量模型，如果是 HuggingFace 最新模型，或者自制模型，支持转换成 GGUF 格式，再进行调用。

参与评论您还未登录，请先登录后发表或查看评论

llama-3.1下载部署

weixin_45735391的博客

07-30

1319

点击头像->setting->access token 创建token。详情页填写申请后等待审核。

Hugging Face 模型/数据集国内加速下载指南

热门推荐

消极的人永远是对的，积极的人选择勇往直前

07-10

11万+

官网：网站域名，用于镜像域名。作为一个公益项目，致力于帮助国内AI开发者快速、稳定的下载模型、数据集。

使用Huggingface镜像站hf-mirror.com下载资源

TracelessLe的专栏

01-31

4万+

hf-mirror.com是Huggingface的镜像网站，为用户提供了一个备用的访问通道，解决了无法访问huggingface.co的问题。通过hf-mirror.com，我们可以正常地下载所需的模型和数据集，享受Huggingface提供的强大功能。

pycharm通过hf mirror镜像访问huggingface模型（无需翻墙）

L1481333167的博客

03-27

1万+

window下 pycharm如何通过hf mirror镜像访问huggingface模型，无需翻墙！！！无需翻墙！！

hf-mirror不科学上网访问huggingface

weixin_43457608的博客

07-30

2231

【代码】hf-mirror不科学上网访问huggingface。

利用hf-mirror镜像+linux命令行下载数据集

xiao_ZHEDA的博客

05-20

4027

hf-mirror下载数据集

Llama3 – 8B/70B 大模型！相关的工具和模型下载

u010066597的博客

05-06

1215

因为平时会去了解AI相关的东西,写脚本也会用到,所以,记录一下。

hf模型导入ollama

westlifeml的博客

09-23

970

简单的记录hf 导入 ollama

ollama+LLM llama3.1 部署教程（cpu版）

gallonyin的博客

09-20

732

使用GPU需要安装 NVIDIA Container Toolkit⁠： https://hub.docker.com/r/ollama/ollama。有些大佬已经把几乎所有主流开源模型的gguf量化模型都整理好了，比如https://hf-mirror.com/bartowski。如果想使用Qwen2.5-7B模型，可以在这个模型页选择适合自己算力需求的模型下载。ollama create #从模型文件创建模型。ollama serve #启动ollama。

LMDeploy高效部署Llama-3-8B，1.8倍vLLM推理效率

qq_39967751的博客

04-26

2783

Llama 3 近期重磅发布，发布了 8B 和 70B 参数量的模型，LMDeploy 对 Llama 3 部署进行了光速支持，同时对 LMDeploy 推理 Llama 3 进行了测试，在公平比较的条件下推理效率是 vLLM 的 1.8 倍。书生·浦语和机智流社区同学光速投稿了 LMDeploy 高效量化部署 Llama 3，欢迎 Star。本文将分为以下几个部分来介绍，如何使用LMDeploy来部署 Llama3（以 InternStudio 的环境为例）环境、模型准备。

HF Mirror—huggingface镜像网站下载模型

weixin_45866058的博客

02-06

2345

1.打开页面，在models模式下搜索预下载模型。3.找到自己想要下载的文件即可。

HF-Mirror下载项目所有模型

Ppandaer的博客

09-27

3220

首先在HF-Mirror找到需要的模型，xxx是如图点复制按钮即可。

【AIGC】HF-Mirror 使用说明（MacOS 版）

Kida 的技术小屋（优快云版）

04-07

3431

今天这篇文章主要是记录 HF-Mirror 的使用过程，官网上提供了 Linux 和 Windows 的使用方式。本人作为 MacOS 用户也将自己的使用办法记录一下，希望能够帮助到其他人。

Hugging face无法连接？一文教你玩转镜像站hf-mirror.com

weixin_43693967的博客

11-25

4169

域名 hf-mirror.com，用于镜像 huggingface.co 域名。作为一个公益项目，致力于帮助国内AI开发者快速、稳定的下载模型、数据集。本文教你快速学会用hf-mirror进行下载

hf-mirror 下载模型方法（huggingface 的国内镜像）

weixin_43410387的博客

08-23

6715

windows下载huggingface上的SD模型官网： https://hf-mirror.com/镜像 huggingface。

使用hf-mirror.com镜像网站下载模型

weixin_46072203的博客

03-14

3367

【代码】使用hf-mirror.com镜像网站下载模型。

https://huggingface.co/这个网站打不开怎么办？

04-26

### 解决方案 #### 方法一：修改 `HF_ENDPOINT` 环境变量可以通过设置环境变量来更改 Hugging Face 的默认镜像地址。具体操作如下： 1. **临时设置** 在命令行中运行以下命令，适用于当前会话： ```bash set HF_ENDPOINT=https://hf-mirror.com ``` 2. **永久设置** 若要使该配置永久生效，在未激活虚拟环境的情况下执行以下命令： ```bash setx HF_ENDPOINT https://hf-mirror.com ``` 设置完成后需重启终端以应用新配置。 3. **验证设置是否成功** 输入以下命令检查环境变量是否已更新： ```bash set HF_ENDPOINT ``` 如果返回值为 `HF_ENDPOINT=https://hf-mirror.com` 则表示设置成功[^1]。 --- #### 方法二：修改源代码中的默认 URL 如果希望更彻底地解决问题，可以手动调整 Hugging Face 库内部使用的默认 URL 地址。 1. 找到并编辑 `constants.py` 文件路径通常位于 Python 虚拟环境中，例如： ```plaintext /root/miniconda3/lib/python3.10/site-packages/huggingface_hub/constants.py ``` 2. 使用文本编辑器打开文件后，搜索字符串 `huggingface.co` 并将其替换为 `hf-mirror.com` 或其他可用的镜像站点。 3. 保存文件并重新启动程序以加载新的配置[^3]。 --- #### 方法三：确保网络通畅有时问题可能源于本地网络条件不佳或代理设置冲突。以下是排查步骤： 1. 验证浏览器能否正常访问 `https://huggingface.co`。如果能够访问，则可能是代码层面存在特定限制。 2. 检查是否存在防火墙或其他安全软件阻止了请求。尝试禁用这些工具后再测试连接情况。 3. 对于某些特殊场景（如公司内网），建议联系 IT 支持团队确认是否有额外策略影响外部资源获取行为[^2]。 --- #### 示例代码修正针对原代码片段进行了适当改造以便兼容国内网络状况下的模型加载需求： ```python import os from transformers import AutoModelForCausalLM, AutoTokenizer os.environ["HF_ENDPOINT"] = "https://hf-mirror.com" model_name = "nvidia/Llama-3.1-Nemotron-70B-Instruct-HF" try: model = AutoModelForCausalLM.from_pretrained( model_name, torch_dtype=torch.bfloat16, device_map="auto", use_auth_token=True if "HUGGINGFACE_TOKEN" in os.environ else False ) tokenizer = AutoTokenizer.from_pretrained(model_name) except Exception as e: print(f"Error occurred while loading the model: {e}") ``` 注意这里增加了对认证令牌的支持选项 (`use_auth_token`) ，这有助于处理那些受保护的大规模预训练语言模型实例时更加灵活可靠[^2]。 --- ### 总结以上三种方式分别从不同角度出发提供了应对措施——无论是快速简便的操作还是深入底层结构调整都有所涉及；实际运用过程中可根据个人偏好以及项目具体情况选取最适合的一种或者多种组合起来共同作用从而达到最佳效果。