使用api测试ollama、one Api、fastgpt的连通性

枫蓝驿

已于 2024-07-17 09:50:44 修改

阅读量1.7k

点赞数 5

文章标签：人工智能

于 2024-07-16 18:13:32 首次发布

本文链接：https://blog.youkuaiyun.com/qq401195092/article/details/140472076

版权

一、ollama的连通性测试

参考文档：API 参考 - Ollama中文网

1.使用api测试ollama qwen大模型的连通性

curl --location --request POST 'http://192.168.110.216:11434/api/generate' \
--header 'User-Agent: Apifox/1.0.0 (https://apifox.com)' \
--header 'Content-Type: application/json' \
--data-raw '{
 "model": "qwen:7b",
 "prompt": "你好！",
 "stream": false
 }'

输出信息：

{
    "model": "qwen:7b",
    "created_at": "2024-07-16T09:50:46.903797271Z",
    "response": "你好！有什么我能帮你的吗？",
    "done": true,
    "done_reason": "stop",
    "context": [
        151644,
        872,
        ......
        11319
    ],
    "total_duration": 1200826373,
    "load_duration": 2290434,
    "prompt_eval_duration": 129797000,
    "eval_count": 9,
    "eval_duration": 1021756000
}

2.使用api测试ollama m3e索引模型的连通性

注意：地址后缀要更改为/api/embeddings

curl --location --request POST 'http://192.168.110.216:11434/api/embeddings' \
--header 'User-Agent: Apifox/1.0.0 (https://apifox.com)' \
--header 'Content-Type: application/json' \
--data-raw