多模态DeepSeek大模型的本地化部署

原创

已于 2025-07-02 17:49:44 修改 · 416 阅读

9 ·

CC 4.0 BY-SA版权

文章标签：

#人工智能 #深度学习 #DeepSeek #原生应用 #智能体

于 2025-07-02 16:52:10 首次发布

《DEEPSEEK原生应用与智能体开发实践图书》【摘要书评试读】- 京东图书

本文指导读者如何在本地机器上成功安装和配置DeepSeek-VL2模型。这包括了环境准备、依赖安装以及模型文件的正确放置等步骤。我们将确保读者能够顺利地搭建起一个可用于学习和实验的本地环境。首先我们可以登录GitHub完成DeepSeek-VL2的代码下载。为了简便起见，我们在这里提供了下载好的代码，如下所示：

import torch
from transformers import AutoModelForCausalLM

from deepseek_vl2.models import DeepseekVLV2Processor, DeepseekVLV2ForCausalLM
from deepseek_vl2.utils.io import load_pil_images

model_path = "deepseek-ai/deepseek-vl2-tiny"
vl_chat_processor: DeepseekVLV2Processor = DeepseekVLV2Processor.from_pretrained(model_path)
tokenizer = vl_chat_processor.tokenizer

vl_gpt: DeepseekVLV2ForCausalLM = AutoModelForCausalLM.from_pretrained(model_path, trust_remote_code=True)
vl_gpt = vl_gpt.to(torch.bfloat16).cuda().eval()

conversation