大模型入门实战：通过 HuggingFace 调用 Llama3

这篇文章将详细介绍如何使用 Hugging Face 平台下载和调用 Llama 模型，并提供代码示例用于测试。

Hugging Face

Hugging Face 是一家专注于人工智能和自然语言处理（NLP）的公司，以其开源工具和模型生态系统而闻名。它提供了丰富的工具链，包括：

• Transformers：加载、微调和部署预训练模型。

• Datasets：用于高效加载和处理数据集。

• Hugging Face Hub：开源模型和数据集托管平台。

通过 Hugging Face，开发者可以方便地访问各种预训练模型，并快速部署到自己的项目中。

1. 注册 Hugging Face 账号

首先，进入 Hugging Face 官网，注册一个账号。这一步没什么好讲的，不再赘述。

2. 申请模型访问权限

Llama 模型是受限制的资源，使用前需要申请访问权限。以下是具体步骤：

2.1 搜索并选择模型

1. 登录后，点击顶部导航栏的 “Models”。

2. 在搜索栏输入 llama，找到目标模型并点击进入。

2.2 提交申请

进入模型页面后，点击 “Expand to review access” 按钮展开许可说明。

1. 滑动到页面底部，填写申请信息。

2. 填写内容不用完全真实，但尽量不要太离谱。

3. 提交申请后，等待管理员审批。

2.3 查看申请状态

1. 点击头像，进入 “Settings”。

2. 左侧菜单选择 “Gated Repositories” 。

3. 查看申请状态，状态变为 ACCEPTED 即表示通过。