Centos Ollama + Deepseek-r1+Chatbox运行环境搭建

Centos Ollama + Deepseek-r1+Chatbox运行环境搭建

内容介绍

你好! 这篇文章简单讲述一下如何在linux环境搭建 Ollama + Deepseek-r1。并在本地安装的Chatbox中进行远程调用

下载ollama

  1. 登录官网https://ollama.comollama官网
  2. 选择linux操作系统在这里插入图片描述
  3. 根据官方给的命令行,在linux系统安装Ollama
curl -fsSL https://ollama.com/install.sh | sh
  1. 查看Ollama运行在这里插入图片描述
  2. 关闭Ollama服务
 sudo systemctl stop ollama
### 将 `ollama run` 命令放入后台运行 为了使 `ollama run deepseek-r1:8b` 在Linux环境中作为后台进程运行,可以采用多种方法来实现这一目标。以下是几种常用的方法: #### 使用 `&` 符号启动后台任务 最简单的方式是在命令后面加上 `&` 符号,这会让该命令立即进入后台执行。 ```bash ollama run deepseek-r1:8b & ``` 这种方式适合短期任务或不需要复杂控制的情况[^1]。 #### 利用 `nohup` 和 `&` 组合防止挂起 当希望即使关闭终端之后程序仍然能够持续运行,则可利用 `nohup` 工具配合上述方式使用: ```bash nohup ollama run deepseek-r1:8b &> /path/to/logfile.log & ``` 这里 `/path/to/logfile.log` 是指定的日志文件路径,用于保存输出信息;如果不想记录日志也可以省略这部分[^2]。 #### 通过 `screen` 或 `tmux` 创建会话 对于更复杂的场景下管理长时间运行的任务,推荐使用 `screen` 或者 `tmux` 来创建独立于当前shell的新会话,在其中启动所需的服务。这样可以在断开连接后再重新附加工作区而不会影响到正在运行的应用程序。 ##### Screen 方法: 安装 screen (如果没有预装的话),并按照如下指令操作: ```bash sudo apt-get install screen # 对Debian/Ubuntu系统适用 yum install screen # 对RedHat/CentOS/Fedora适用 screen -S mysessionname # 开始一个新的screen session命名为mysessionname # 接下来在同一窗口内正常输入您的命令... ollama run deepseek-r1:8b # 输入您要执行的命令 Ctrl+A D # 按组合键分离当前屏幕而不终止它 ``` 稍后可以通过 `screen -r mysessionname` 返回之前的会话[^3]。 ##### Tmux 方法: 同样先确认 tmux 是否已安装以及如何安装,接着按下面步骤去做: ```bash sudo apt-get install tmux # Debian/Ubuntu系统的安装命令 yum install tmux # RedHat/CentOS/Fedora的安装命令 tmux new -s mysession # 新建名为mysession 的tmux session # 执行想要后台化的命令 ollama run deepseek-r1:8b Ctrl+B d # 脱离当前session但保持其活动状态 ``` 以后可通过 `tmux attach-session -t mysession` 回归之前的工作环境[^4]。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值