qq_45875033的博客

原创 Linux的Ollama离线部署与各模型gguf文件离线导入

curl --location --request POST 'http://127.0.0.1:11434/api/generate' \--header 'Content-Type: application/json' \--data '{"model": "deepseek-14b","stream": false, "prompt": "1加1等于几?修改vi /etc/systemd/system/ollama.service，修改里面的11434。5、修改环境的端口，让外部服务器可以访问。