局域网使用Ollama(Linux)

解决局域网无法连接Ollama服务的问题

在搭建和使用Ollama服务的过程中,可能会遇到局域网内无法连接的情况。经过排查发现,若开启了代理软件,尤其是Hiddify,会导致此问题。这一发现耗费了我数小时的排查时间,希望能给大家提个醒,遇到类似问题时先检查是否有代理软件在运行,若有,一定要将其关闭。

此解决方案适用于基于Systemd管理的Linux发行版,具有通用性。

解决步骤

1. 修改配置文件

通过systemctl管理

使用以下命令编辑Ollama服务配置:

sudo systemctl edit ollama.service

执行该命令后,默认会使用nano编辑器打开配置文件。nano编辑器的操作方式对于部分用户来说不太习惯,退出时需按ctrl + x,然后按y确认应用修改,最后按回车键保存。

在打开的配置文件中,找到合适的位置添加以下内容:

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

这一步的作用是将Ollama服务绑定到所有可用网络接口(0.0.0.0)的11434端口上,确保局域网内其他设备能够访问。

如果你更倾向于直接通过文件修改配置,可参考教程:

『占位符』

2. 应用配置

完成配置文件的修改后,需要重新加载Systemd守护进程的配置,并重启Ollama服务,使修改生效。执行以下命令:

sudo systemctl daemon-reload
sudo systemctl restart ollama.service

执行上述命令后,Ollama服务将按照新的配置运行,局域网内的设备应该就可以正常连接到Ollama服务了。

参考资料

希望通过上述步骤和参考资料,能帮助你顺利解决局域网连接Ollama服务的问题,让你能够更高效地使用Ollama进行相关工作和研究。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值