如何用python调用本地deepseek-r1模型

最新推荐文章于 2025-06-11 11:53:55 发布

原创最新推荐文章于 2025-06-11 11:53:55 发布 · 1k 阅读

6 ·

CC 4.0 BY-SA版权

文章标签：

#python #开发语言 #语言模型

前提：通过ollama安装好deepseek-r1:14b，并在chatbox中配置了该模型

1、在chatbox查询服务地址为http://127.0.0.1:11434

2、写python代码

import openai
client = openai.Client(
    base_url="http://127.0.0.1:11434/v1", api_key="EMPTY")

# Chat completion
response = client.chat.completions.create(
    model="deepseek-r1:14b",
    messages=[
        
        {"role": "user", "content": "List 3 countries and their capitals."},
    ],
    
    max_tokens=-1,
    temperature=1
)
print(response.choices)

3、运行代码会得出deepseek-r1思考过程和结果，需要注意的是max_tokens的含义，其中max_tokens如果取64只会回答部分内容，因此我设置了-1，表示没有限制长度。

最终目标是学习如何利用deepseek训练自己的模型，这是阶段过程，记录一下。