【Ollama】DeepSeek-R1部署解决Ollama局域网内不能通过http访问

1. 修改配置文件。

vim /etc/systemd/system/ollama.service

在[Service]下面加上,Environment="OLLAMA_HOST=0.0.0.0:11434",修改后如下:

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/data/anaconda3/bin:/data/anaconda3/condabin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin://usr/local/cuda/bin"
Environment="OLLAMA_HOST=0.0.0.0:11434"


[Install]
WantedBy=default.target

2. 执行命令重启ollama:

systemctl restart ollama

3. 配置防火墙端口:

​sudo ufw allow 11434/tcp

4. 下载一个模型:

ollama run deepseek-r1:7b

5. 打开浏览器输入 http://服务器地址:11434

### 配置服务器以使通过Ollama部署DeepSeek-R1局域网中被其他用户访问 #### 创建并激活Conda环境 为了确保运行环境中的一致性和稳定性,建议创建专门的Python环境来安装和管理所需的依赖项。 ```bash conda create -n deepseek_env python=3.10 -y conda activate deepseek_env ``` 上述命令用于建立名为`deepseek_env`的新虚拟环境,并指定Python版本为3.10。之后会自动激活该环境以便后续操作[^1]。 #### 安装必要的软件包和服务 根据项目需求,在新环境下安装所需库文件和其他工具集。这一步骤通常涉及使用pip或其他包管理器下载特定于应用程序的支持组件。对于具体应用如DeepSeek-R1,则需参照官方文档获取确切指令列表。 #### 启动服务监听外部连接 假设已经成功启动了由Ollama驱动的服务实例,现在要让其能够响应来自同一网络内不同设备发起的请求。为此目的,应当调整程序默认绑定地址(通常是localhost),改为允许接收任何IP发来的数据流: 修改配置文件中的host参数至 `0.0.0.0` 或者直接在网络接口上暴露相应的端口号。如果采用的是Flask框架为例的话可以这样做: ```python from flask import Flask app = Flask(__name__) if __name__ == "__main__": app.run(host='0.0.0.0', port=8080) ``` 这段代码使得Web服务器不仅限于本地回环地址而是开放给整个子网内的客户端尝试建立TCP/IP链接[^2]。 #### 设置防火墙规则与端口转发 为了让外界能顺利抵达目标机器上的web service, 必须确认操作系统自带的安全防护机制不会阻挡入站流量。可以通过编辑iptables规则或是利用更高级别的图形界面来进行这项工作;另外还需注意路由器层面可能存在的NAT转换问题——即把公共互联网传来的HTTP/HTTPS请求重定向到私有LAN内部某台计算机的具体位置上去。 针对Linux平台而言,可执行如下命令打开相应端口(这里假定使用的端口是8080): ```bash sudo ufw allow 8080/tcp ``` 而对于大多数家用级无线路由来说,登录管理员面板找到“端口映射”选项卡填写源目端口信息即可完成基本设定过程[^3]。 #### 授予适当权限 最后一点是要保证所有潜在访客都拥有足够的权利去调用API函数而不至于因为身份验证失败而遭到拒绝。这就意味着要么放宽认证策略给予匿名用户更多自由度,要么构建一套完善的OAuth体系让用户自行注册账号获得授权令牌再加以运用。 考虑到安全性因素,推荐采取后者的方式实现细粒度控制的同时也兼顾到了用户体验方面的要求[^4]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值