AI应用编程-基础篇-Jupyther创建公开API和调用Ollama模型方法

一.Python request库调用Api接口

1.定义全局系统变量

DEEPSEEK_API_KEY = ""  # 替换为实际密钥  https://siliconflow.cn/zh-cn/  申请账号 创建Key
BASE_URL = "https://api.siliconflow.cn/v1/chat/completions"  # API基础地址
MODEL = "Qwen/QwQ-32B"

2. 定义处理工具类

import requests

headers = {
    "Authorization": f"Bearer {DEEPSEEK_API_KEY}",
    "Content-Type": "application/json"
}

def call(prompt):
    payload  = {
         "messages":messages,
         # "messages": [{"role": "user", "content": prompt}],
        "model": MODEL,
        "stream": False,
        "max_tokens": 512,
        "stop": None,
        "temperature": 0.7,
        "top_p": 0.7,
        "top_k": 50,
        "frequency_penalty": 0.5,
        "n": 1,
        "tools": [
            {
                "type": "function",
                "function": {
                    "description": "<string>",
                    "name": "<string>",
                    "parameters": {},
                    "strict": False
                }
            }
        ]
    }
    
    try:
        response = requests.post(f"{BASE_URL}", json=payload, headers=headers)
        #return response
        # response.raise_for_status()  # 自动触发HTTP错误
        return response.json()['choices']
    except Exception as e:
        print(f"API调用失败：{str(e)}")
        return None;

def sendMsg(prompt):
    
    message = [{"role": "user", "content": prompt}]
    
    try:
        return call(prompt)[0]['message']['content']
    except Exception as e:
        print(f"返回处理失败：{str(e)}")
        return call(prompt)
    

2.调用Api

# 示例调用
prompt = f"""
根据下面的上下文回答问题。保持答案简短且准确。如果不确定答案，请回答“不确定答案”。

假设世界上出现了一个未知的生物，我们暂且称它为“鸡祖”，它产出一枚蛋，后来演化成了鸡，后续才逐步形成鸡产蛋，鸡出鸡。


问题：鸡的祖先是谁？

"""
result = sendMsg(prompt)
print(result)

根据提供的上下文描述，“鸡祖”是通过其产出的蛋演化成 chicken 的原始生物。因此在这种设定下：

<answer>
鸡的祖先是“鸡祖”。
</answer>

3. 交互式的调用Api

messages = [{'role': 'system', 'content': 'You are a helpful assistant.'}]
# 您可以自定义设置对话轮数，当前为3
for i in range(3):
    user_input = input("请输入：")
    # 将用户问题信息添加到messages列表中
    messages.append({'role': 'user', 'content': user_input})
    assistant_output = call(messages).choices[0].message.content
    # 将大模型的回复信息添加到messages列表中
    messages.append({'role': 'assistant', 'content': assistant_output})
    print(f'用户输入：{user_input}')
    print(f'模型输出：{assistant_output}')
    print('\n')

二. 采用ollama调用部署的模型库

1. 安装 openai

pip install openai

2. 创建客户端

from openai import OpenAI
import os
client = OpenAI(
    # 如果您没有配置环境变量，请在此处用您的API Key进行替换
    api_key='ollama',
    # 填写DashScope服务的base_url
    base_url="http://localhost:11434/v1",
)

3. 定义交互函数

# model = 'deepseek-r1:7b'

model = 'gemma:2b'

def generate_responses(prompt):

    response = client.chat.completions.create(
        model=model,
        messages=[
            #{"role": "system", "content": "You are a helpful assistant who provides information to users."},
            {"role": "user", "content": prompt},
        ],
        temperature=0.7,
        top_p=0.8
    )
    
    return response.choices[0].message.content

4. 交互例子

prompt = f"""
根据下面的上下文回答问题。保持答案简短且准确。如果不确定答案，请回答“不确定答案”。

Teplizumab起源于一个位于新泽西的药品公司，名为Ortho Pharmaceutical。\
在那里，科学家们生成了一种早期版本的抗体，被称为OKT3。最初这种分子是从小鼠中提取的，\
能够结合到T细胞的表面，并限制它们的细胞杀伤潜力。在1986年，它被批准用于帮助预防肾脏移植后的\
器官排斥，成为首个被允许用于人类的治疗性抗体。


问题：OKT3最初是从什么来源提取的？

"""
response = generate_responses(prompt)
print(response)