ollama+langchain+deepseek本机跑通大模型

最新推荐文章于 2025-05-03 08:15:00 发布

原创最新推荐文章于 2025-05-03 08:15:00 发布 · 421 阅读

2 ·

CC 4.0 BY-SA版权

文章标签：

#langchain

一、部署deepseek
Ollama，这是是一个开源的大语言模型平台，它允许用户在本地环境中运行、创建和共享大型语言模型。Ollama提供了丰富的功能和特性，使得用户可以在自己的计算机上轻松地部署和运行大型语言模型。官网：https://ollama.com/

ollama run + 模型名
ollama run deepseek-r1

二、使用langchain跑起来
langchain其实是一套规范化的API，实现了标准化对模型的集成、接入、组件化等工作，通过langchain用户可以很轻松打造属于自己的大模型产品。langchain很早就出来了。https://github.com/langchain-ai/langchain

from langchain_ollama import  OllamaLLM
from langchain.prompts import PromptTemplate

ollama_llm = OllamaLLM(model="deepseek-R1")
prompt = PromptTemplate.from_template("帮我写一首关于${product}的骈文,不要有英文的结果啊")
sequence = prompt | ollama_llm
response = sequence.invoke({"product": "春天"})
print(response)

效果如下：
在这里插入图片描述