SmolLM2和SmolVLM模型安装与配置指南

SmolLM2和SmolVLM模型安装与配置指南

smollm Everything about the SmolLM2 and SmolVLM family of models 项目地址: https://gitcode.com/gh_mirrors/smo/smollm

1. 项目基础介绍

SmolLM2和SmolVLM是Hugging Face推出的一系列高效轻量级的AI模型。SmolLM2专注于文本任务，而SmolVLM则是用于处理图像和文本的多模态模型。这些模型旨在在保持强大性能的同时，可以有效地在设备上运行。

主要编程语言：Python

2. 项目使用的关键技术和框架

本项目使用的关键技术是基于Transformers框架的深度学习模型。Transformers是由Hugging Face维护的一个开源库，提供了构建和训练自然语言处理模型的工具。

关键框架：Transformers

3. 项目安装和配置的准备工作

在开始安装之前，请确保您的系统中已安装以下依赖项：

• Python（推荐版本3.6及以上）
• pip（Python的包管理器）
• git（版本控制系统）

详细安装步骤

步骤1：克隆项目仓库

打开命令行（终端），执行以下命令来克隆项目仓库：

git clone https://github.com/huggingface/smollm.git
cd smollm

步骤2：安装依赖

在项目根目录下，运行以下命令安装项目所需的Python包：

pip install -r requirements.txt

步骤3：安装Transformers库

本项目依赖于Transformers库，可以使用pip安装：

pip install transformers

步骤4：配置环境变量（可选）

为了方便使用模型，可以将模型路径添加到环境变量中。具体操作依操作系统而定：

对于Windows系统，可以在系统的环境变量设置中添加：

HUGGINGFACE_MODEL_DIR=C:\path\to\smollm

对于macOS或Linux系统，可以编辑~/.bashrc或~/.zshrc文件，添加以下行：

export HUGGINGFACE_MODEL_DIR=/path/to/smollm

保存文件后，在终端中运行source ~/.bashrc或source ~/.zshrc以应用更改。

步骤5：验证安装

在命令行中，尝试运行以下Python代码来验证模型是否已正确安装：

from transformers import AutoModelForCausalLM, AutoTokenizer

checkpoint = "HuggingFaceTB/SmolLM2-1.7B-Instruct"
tokenizer = AutoTokenizer.from_pretrained(checkpoint)
model = AutoModelForCausalLM.from_pretrained(checkpoint)

messages = [{"role": "user", "content": "你好，SmolLM2！"}]
input_text = tokenizer.apply_chat_template(messages, tokenize=False)

print(input_text)

如果没有出现错误，并且输出了预期的文本，那么恭喜您，SmolLM2模型已经成功安装并配置完毕。

以上就是SmolLM2和SmolVLM模型的安装与配置指南，希望对您有所帮助。

smollm Everything about the SmolLM2 and SmolVLM family of models 项目地址: https://gitcode.com/gh_mirrors/smo/smollm