大模型 Llama3的api+flask

最新推荐文章于 2025-02-26 22:47:11 发布

qq_42307546

最新推荐文章于 2025-02-26 22:47:11 发布

阅读量286

点赞数 1

分类专栏： python 文章标签： flask python 后端

本文链接：https://blog.youkuaiyun.com/qq_42307546/article/details/140367522

版权

python 专栏收录该内容

88 篇文章

订阅专栏

url = "http://127.0.0.1:11434/api/chat"
headers={
'User-Agent': 'ollama/0.1.44 (amd64 windows) Go/go1.22.0',
'Content-Length': '2256',
'Accept': 'application/x-ndjson',
'Content-Type': 'application/json',
'Accept-Encoding': 'gzip',
}

data={"model":"llama3","messages":[{"role":"user","content":"你是谁用中文回答"}],"format":"","options":{}}
import requests,json,re
data = json.dumps(data)


resp = requests.post(url,headers=headers,data=data)
# print(resp.text)
# re.findall(r'"content":"(.*?)"},',aa)
content =re.findall(r'"content":"(.*?)"}',resp.text)
print(" ".join(content))