喂养deepseek

投_投

已于 2025-03-04 11:30:16 修改

阅读量223

点赞数 1

分类专栏： AI 文章标签： ai

于 2025-02-12 13:37:01 首次发布

本文链接：https://blog.youkuaiyun.com/qq_32471757/article/details/145587187

版权

AI 专栏收录该内容

2 篇文章

订阅专栏

deepseek：培养属于自己的AI大脑

前言
centOS 云服务操作
windows 10 本地操作

前言

deepseek-r1模型，服务端部署deepseek之后，我们已经可以正常使用它的能力与之对话了，现在我希望可以喂养它，让它学习我的本地资料，打造为我的私人助手。

centOS 云服务操作

参考AnythingLLM-开源的全栈AI客户端

连接到云服务dos窗口

ssh root@xxxx

检查并安装docker环境

一般都已经自带docker环境，可以通过 docker -v 指令验证
如未安装自行查阅相关资料安装部署

部署AnythingLLM镜像

使用官方的doker镜像

如果希望使用自己的镜像文件，请直接看生成自己的docker镜像

拉取镜像： docker pull mintplexlabs/anythingllm
- 遇到问题
  - 配置镜像加速器地址：参考Docker Hub 镜像加速
    sudo tee /etc/docker/daemon.json <<EOF
    {
    “registry-mirrors”: [
    “https://docker.1ms.run”,
    “https://hub.rat.dev”,
    “https://docker.1panel.live”
    ]
    }
    EOF
    - 如果docker文件夹不存在，要先创建sudo mkdir -p /etc/docker
    - 注意：这里复制过去，可能会出现中文 “ 需要进入/etc/docker/daemon.json，手动修改引号
    sudo systemctl daemon-reload
    
    sudo systemctl restart docker
    - 遇到问题： Job for docker.service failed because the control process exited with error code. See “systemctl status docker.service” and “journalctl -xe” for details.
    - 检查/etc/docker/daemon.json 语法格式
查看镜像：docker images

生成自己的docker镜像

入手建议使用官方的doker镜像

克隆获取AnythingLLM仓库：git clone https://github.com/Mintplex-Labs/anything-llm.git
进入项目根目录：cd anything-llm
运行并生成.env文件配置环境变量：yarn setup
- 没有yarn环境
  
  添加 yum 源配置： curl -sL https://dl.yarnpkg.com/rpm/yarn.repo | sudo tee /etc/yum.repos.d/yarn.repo
  使用 yum 安装： sudo yum -y install yarn
  查看安装的 Yarn 版本：yarn -v
- 提示node版本过低
  
  全局安装n（n是一种node包管理工具）: yarn global add n
  升级至最新版本: n latest
  node -v 查看当前版本
  注意如果遇到类似问题，要记得看提示：重新启动dos即可
再次尝试：yarn setup (记得先进anything-llm的根目录)

遇到错误修改镜像源：yarn config set sharp_binary_host “https://npmmirror.com/mirrors/sharp”
此处参考：https://blog.youkuaiyun.com/weixin_53737663/article/details/128958712
再次尝试：yarn setup (记得先进anything-llm的根目录)

持久化存储AnythingLLM的内容

docker volume create anythingllm_data

启动AnythingLLM并配置mintplexlabs/anythingllm镜像中的大语言模型

首先保证你的服务器有docker-compose环境
docker-compose -v 来判断是否已经有了
创建一个文件夹：anythingllm
进入这个文件夹内
创建docker-compose.yml

内容如下：
version: ‘3.8’
services:
anythingllm:
image: mintplexlabs/anythingllm
container_name: anythingllm
ports:
- “3001:3001”
cap_add:
- SYS_ADMIN
environment:
# Adjust for your environment
- STORAGE_DIR=/app/server/storage
- JWT_SECRET=“make this a large list of random numbers and letters 20+”
- LLM_PROVIDER=ollama
- OLLAMA_BASE_PATH=http://<ollama所在ip地址>:11435
- OLLAMA_MODEL_PREF=deepseek-r1:1.5b
- OLLAMA_MODEL_TOKEN_LIMIT=4096
- EMBEDDING_ENGINE=ollama
- EMBEDDING_BASE_PATH=http://<ollama所在ip地址>:11435
- EMBEDDING_MODEL_PREF=deepseek-r1:1.5b
- EMBEDDING_MODEL_MAX_CHUNK_LENGTH=8192
- VECTOR_DB=lancedb
- WHISPER_PROVIDER=local
- TTS_PROVIDER=native
- PASSWORDMINCHAR=8
# Add any other keys here for services or settings
# you can find in the docker/.env.example file
volumes:
- anythingllm_storage:/app/server/storage
restart: always
volumes:
anythingllm_storage:
driver: local
driver_opts:
type: none
o: bind
device: /path/on/local/disk