手把手教大家如何在Centos7系统中安装Deepseek,一文搞定

centos7部署DeepSeek

当下Deepseek非常火,本文将带大家在自己的服务器搭建deepseek使用。

关闭防火墙与selinux
[root@bogon ~]# systemctl stop firewalld && systemctl disable firewalld
Removed symlink /etc/systemd/system/multi-user.target.wants/firewalld.service.
Removed symlink /etc/systemd/system/dbus-org.fedoraproject.FirewallD1.service.
[root@bogon ~]# setenforce 0

替换阿里yum源
[root@bogon ~]# cd /etc/yum.repos.d/
[root@bogon yum.repos.d]# ls
CentOS-Base.repo  CentOS-Debuginfo.repo  CentOS-Media.repo    CentOS-Vault.repo
CentOS-CR.repo    CentOS-fasttrack.repo  CentOS-Sources.repo  CentOS-x86_64-kernel.repo
[root@bogon yum.repos.d]# rm -rf *
[root@bogon yum.repos.d]# curl -o /etc/yum.repos.d/CentOS-Base.repo https://mirrors.aliyun.com/repo/Centos-7.repo
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100  2523  100  2523    0     0   8636      0 --:--:-- --:--:-- --:--:--  8670

安装必要的使用工具
[root@bogon yum.repos.d]# yum install -y vim wget net-tools

获取Ollama,部署DeepSeek要用到 Ollama,它支持多种大模型

https://ollama.com/download/linux

在这里插入图片描述
下载安装Ollama,macOS、Linux 和 Windows都可以下载安装,我这里选用linux系统。

[root@bogon ~]# curl -fsSL https://ollama.com/install.sh | sh

在这里插入图片描述

在Service中增加下面两行
[root@bogon ~]# vim /etc/systemd/system/ollama.service
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"

在这里插入图片描述

然后重启ollama服务
[root@bogon ~]# systemctl daemon-reload
[root@bogon ~]# systemctl restart ollama
[root@bogon ~]# netstat -lntp 
Active Internet connections (only servers)
Proto Recv-Q Send-Q Local Address           Foreign Address         State       PID/Program name    
tcp        0      0 0.0.0.0:22              0.0.0.0:*               LISTEN      1082/sshd           
tcp        0      0 127.0.0.1:25            0.0.0.0:*               LISTEN      1259/master         
tcp6       0      0 :::11434                :::*                    LISTEN      9101/ollama         
tcp6       0      0 :::22                   :::*                    LISTEN      1082/sshd           
tcp6       0      0 ::1:25                  :::*                    LISTEN      1259/master

11434为ollama的端口

测试访问

在这里插入图片描述

第二步:部署Deepseek R1模型

还是在ollama官网上,点击Models,选择deepseek-r1,不同版本对应的体积大小不同,体积越大模型越精细化,只需要复制命令即可,我这里选择8b。

在这里插入图片描述
在这里插入图片描述

[root@bogon ~]# ollama run deepseek-r1:8b

注:这里等待的时间比较长,需要多等一会,一直到最后出现success为止

成功之后可以在cli命令行模式下进行简单的聊天

[root@bogon ~]# ollama run deepseek-r1:8b
>>> 你好
<think>

</think>

你好!很高兴见到你,有什么我可以帮忙的吗?

在这里插入图片描述
ctrl+d 退出聊天

第三步 安装open-webui 界面化访问

安装docker

[root@bogon ~]# yum install -y yum-utils device-mapper-persistent-data lvm2
[root@bogon~]# yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
[root@bogon ~]# yum install -y docker-ce
[root@bogon ~]# systemctl start docker && systemctl enable docker

运行open-webui容器

[root@bogon ~]# docker run -d  -p 8081:8080  -e OLLAMA_BASE_URL=http://10.9.44.232:11434 -v /data/open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

浏览器访问:

http://10.9.44.232:8081/auth

在这里插入图片描述
在这里插入图片描述

按提示创建管理员账号,创建完成之后需要多等待一会,弹出登陆页面。整个过程需要等待时间过长,有可能是因为博主的机器配置与网络有关

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
好了现在可以开始使用了,给deepseek发送你想问的问题吧

### 关于在 CentOS 7.5 上部署 DeepSeek 的详细步骤 对于在CentOS 7.5上部署DeepSeek的具体操作指南,在提供的参考资料中并未找到直接关联的信息。然而,通常情况下安装和配置复杂的软件包如DeepSeek涉及几个通用的关键环节: #### 准备工作环境 确保操作系统是最新的版本,并且已经安装了必要的依赖库以及开发工具。 ```bash sudo yum update -y sudo yum groupinstall "Development Tools" -y ``` #### 安装 Python 及其虚拟环境 鉴于许多现代AI框架基于Python构建,创建独立的Python运行时环境是推荐的做法。 ```bash sudo yum install python3-pip -y pip3 install virtualenv virtualenv venv source ./venv/bin/activate ``` #### 获取并设置 DeepSeek 源码 从官方仓库克隆项目源代码到本地机器,并按照README文件中的指示完成初始化过程。 ```bash git clone https://github.com/deepseek-labs/deepseek.git cd deepseek # 假设存在setup.py脚本用于安装 python setup.py install ``` #### 配置数据库连接和其他外部服务 依据实际需求调整应用配置项,特别是涉及到数据存储和服务间通信的部分。 请注意上述指导并非特指如何处理`null`值的问题;关于SQL语句中对`NULL`值的操作已由所提供的资料提及[^1]。当编写查询以过滤掉那些电子邮件地址未被设定(即为`NULL`)记录时,可以采用如下形式的SQL命令: ```sql SELECT * FROM user WHERE user.email IS NOT NULL; ```
评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值