AI大模型deepseek
1. 安装ollama
https://ollama.com/download
2. ollama中安装deepseek。
ollama run deepseek-r1:1.5b
3.安装anythingLLM
https://anythingllm.com/desktop
4. 配置LLM提供商:配置为ollama,会自动选择为deepseek
向量数据库。(可以选择Nomic-Embed-Text向量模型,也可以使用默认)
docker部署anythingLLM
https://docs.anythingllm.com/installation-docker/local-docker
Nomic-Embed-Text 也是使用ollama安装。
测试:也可以使用postman
curl -X 'GET' 'http://localhost:3001/api/v1/admin/users' -H 'Authorization: Bearer MQ2V0KV-3A94463-NDBVAJ8-XA4SKX1'