ollama 可以通过127.0.0.1访问,但是无法通过本机ip访问

ollama可以通过127.0.0.1访问,但是无法通过内网ip访问

现象:

默认ip为127.0.0.1,启动后发现只能在浏览器中通过

在这里插入图片描述

但是通过ip:11434 却无法访问。

通过本机IP地址192.168.1.X不能加载模型,报错“Server connection failed”

ollama mac 修改ip

即配置环境变量 OLLAMA_HOST

步骤:

1. 打开 
    vim ~/.zshrc

2. 在文末尾加上:
     export OLLAMA_HOST='0.0.0.0'

3. 使其生效
    source ~/.zshrc

Linux:

编辑:

vim  /etc/systemd/system/ollama.server

添加:

Environment="OLLAMA_HOST=0.0.0.0" 

重启服务

systemctl daemon-reload
systemctl restart ollama

Windows:

新增环境变量:

在这里插入图片描述

我们可能会用到的两个配置:

OLLAMA_HOST

配置可以访问的ip. 自己使用可以使用0.0.0.0:11434 ,如果有私密性要求,最好配置配置指定的地址。也就是只允许指定的ip 访问。

OLLAMA_MODELS

本地模型默认路径*

OLLAMA_ORIGINS

Ollama 中用于配置跨域资源共享(CORS)的环境变量,可以指定哪些来源(域名、IP 地址等)可以访问 Ollama 提供的 API 服务。

如果我们想让它接收任何来源(IP)的http请求的话,我们需要将其设置为*。

### 配置OllamaIP访问 当在阿里云Linux服务器上安装完Ollama之后,如果仅能通过`http://127.0.0.1:11434`本地访问而外部无法通过域名或IP地址访问,则可能是由于网络配置或防火墙设置不当造成的[^1]。 #### 修改绑定地址 默认情况下,Ollama可能被配置为只监听回环接口(即127.0.0.1),这意味着它只会接受来自同一台机器内部的服务请求。为了允许远程连接,需要编辑应用程序的相关配置文件来更改其监听地址至`0.0.0.0`,这表示接收所有网卡上的入站流量: ```bash # 找到并修改ollama服务启动参数中的host字段值为0.0.0.0 sudo vi /etc/ollama/config.yaml ``` 完成上述操作后重启Ollama服务使新的配置生效: ```bash sudo systemctl restart ollama.service ``` #### 调整安全组规则 即使应用层面上已经开放了对外部世界的访问权限,在云计算环境中还需要确保实例所属的安全组也允许相应的端口通信。对于当前场景而言,应该确认80/tcp以及自定义TCP规则里包含了目标端口号(这里是11434),并且源地址范围设定了合适的CIDR块以便让特定位置能够触及该服务。 #### 开放系统级防火墙 除了云端层面的安全策略外,操作系统自带的防护机制同样不可忽视。假如主机启用了iptables或其他形式的包过滤工具,则需添加一条输入链规则准许外界对该指定端口发起的数据交换活动: ```bash # 添加防火墙规则以允许11434端口通行 sudo iptables -A INPUT -p tcp --dport 11434 -j ACCEPT # 或者使用firewalld命令行工具实现相同效果 sudo firewall-cmd --zone=public --add-port=11434/tcp --permanent &&
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值