Centos 7 部署Ollama+dify+deepseek(含无网环境)

Centos 7部署Ollama、dify及deepseek教程

1.安装Ollama

2.拉取deepseek模型

3.安装docker

4.安装dify

5.运行模型

系统环境:Centos7

安装方式:手动安装

一、安装Ollama

1、首先,你需要从 Ollama 的官方发布页面(https://github.com/jmorganca/ollama/releases )下载适用于 CentOS 系统的 .tgz 包。选择与你的系统架构(如 amd64 或 arm64)相匹配的版本。

你可以使用 wget 命令在终端中下载,示例如下(假设下载的是 amd64 版本):

wget https://github.com/ollama/ollama/releases/download/v0.5.7/ollama-linux-amd64.tgz

请根据实际的版本号和系统架构修改上述命令中的链接。

2、使用tar命令解压下载好的Ollama.tgz文件。以下是解压命令示例:

tar -xzvf ollama-linux-amd64.tar.gz

 这里-x表示解压,-z表示使用 gzip 压缩格式,-v表示显示详细的解压过程,-f指定要解压的文件

3、解压后,你会得到一个名为ollama的可执行文件。为了能够在系统的任何位置使用ollama命令,需要将其移动到系统的可执行文件路径中,通常是/usr/local/bin

sudo mv ollama /usr/local/bin/

执行此命令需要管理员权限,因此使用了sudo 

4、验证安装,安装完成后,你可以通过运行以下命令来验证ollama是否安装成功

ollama --version

如果安装成功,该命令会显示 Ollama 的版本信息。

5、启动Ollama服务

创建systemd系统服务

sudo vim /etc/systemd/system/ollama.service

在文件中输入以下内容:

[Unit]
Description=Ollama
After=network.target

[Service]
ExecStart=/usr/local/bin/ollama serve
Restart=always
User=root
Group=root

Environment="OLLAMA_HOST=0.0.0.0"

[Install]
WantedBy=multi-user.target

保存并退出文件, 重新加载 systemd 管理器配置: 

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值