【docker部署ollama】

进入容器

docker exec -it 1Panel-ollama-qiB7 /bin/bash

拉取模型

# 官网
https://ollama.com/library
# 拉取模型
ollama run gemma:2b
# 查看已下载的模型
ollama list

尝试api调用

curl -X POST http://localhost:11434/api/generate \
    -H "Content-Type: application/json" \
    -d '{
        "model": "ollama-chat",
        "prompt": "Hello, how are you?"
    }'