1.安装Ollama
2.拉取deepseek模型
3.安装docker
4.安装dify
5.运行模型
系统环境:Centos7
安装方式:手动安装
一、安装Ollama
1、首先,你需要从 Ollama 的官方发布页面(https://github.com/jmorganca/ollama/releases )下载适用于 CentOS 系统的 .tgz 包。选择与你的系统架构(如 amd64 或 arm64)相匹配的版本。
你可以使用 wget 命令在终端中下载,示例如下(假设下载的是 amd64 版本):
wget https://github.com/ollama/ollama/releases/download/v0.5.7/ollama-linux-amd64.tgz
请根据实际的版本号和系统架构修改上述命令中的链接。
2、使用tar命令解压下载好的Ollama.tgz文件。以下是解压命令示例:
tar -xzvf ollama-linux-amd64.tar.gz
这里-x表示解压,-z表示使用 gzip 压缩格式,-v表示显示详细的解压过程,-f指定要解压的文件
3、解压后,你会得到一个名为ollama的可执行文件。为了能够在系统的任何位置使用ollama命令,需要将其移动到系统的可执行文件路径中,通常是/usr/local/bin:
sudo mv ollama /usr/local/bin/
执行此命令需要管理员权限,因此使用了sudo
4、验证安装,安装完成后,你可以通过运行以下命令来验证ollama是否安装成功
ollama --version
如果安装成功,该命令会显示 Ollama 的版本信息。
5、启动Ollama服务
创建systemd系统服务
sudo vim /etc/systemd/system/ollama.service
在文件中输入以下内容:
[Unit]
Description=Ollama
After=network.target[Service]
ExecStart=/usr/local/bin/ollama serve
Restart=always
User=root
Group=rootEnvironment="OLLAMA_HOST=0.0.0.0"
[Install]
WantedBy=multi-user.target
保存并退出文件, 重新加载 systemd 管理器配置:
Centos 7部署Ollama、dify及deepseek教程

最低0.47元/天 解锁文章
583

被折叠的 条评论
为什么被折叠?



