先安装ollama或者更新ollama
Ubuntn下载Ollama慢或卡顿解决方案
一、下载ollama_install.sh并保存
curl -fsSL https://ollama.com/install.sh -o ollama_install.sh
二、使用github文件加速替换github下载地址
sed -i 's|https://ollama.com/download/ollama-linux|https://gh.llkk.cc/https://github.com/ollama/ollama/releases/download/v0.5.7/ollama-linux|g' ollama_install.sh
三、替换后增加可执行权限
chmod +x ollama_install.sh
四、执行sh下载安装
sh ollama_install.sh
然后用docker部署AnythingLLM
重点标记
在目录中创建anythingllm.db
然后添加最大权限 chmod -R o+w 挂载路劲
docker run -d -p 3001:3001 \
--cap-add SYS_ADMIN \
-v "/root/yourusername:/app/server/storage" \
-v "/root/yourusername/.env:/app/server/.env" \
-e STORAGE_DIR="/app/server/storage" \
mintplexlabs/anythingllm
然后把ollama的配置文件修改
在[Service]下边增加两行
/etc/systemd/system/ollama.service
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"
然后重新加载和重启ollama
systemctl daemon-reload
systemctl start ollama