ollama 可以通过127.0.0.1访问,但是无法通过本机ip访问

ollama可以通过127.0.0.1访问,但是无法通过内网ip访问

现象:

默认ip为127.0.0.1,启动后发现只能在浏览器中通过

在这里插入图片描述

但是通过ip:11434 却无法访问。

通过本机IP地址192.168.1.X不能加载模型,报错“Server connection failed”

ollama mac 修改ip

即配置环境变量 OLLAMA_HOST

步骤:

1. 打开 
    vim ~/.zshrc

2. 在文末尾加上:
     export OLLAMA_HOST='0.0.0.0'

3. 使其生效
    source ~/.zshrc

Linux:

编辑:

vim  /etc/systemd/system/ollama.server

添加:

Environment="OLLAMA_HOST=0.0.0.0" 

重启服务

systemctl daemon-reload
systemctl restart ollama

Windows:

新增环境变量:

在这里插入图片描述

我们可能会用到的两个配置:

OLLAMA_HOST

配置可以访问的ip. 自己使用可以使用0.0.0.0:11434 ,如果有私密性要求,最好配置配置指定的地址。也就是只允许指定的ip 访问。

OLLAMA_MODELS

本地模型默认路径*

OLLAMA_ORIGINS

Ollama 中用于配置跨域资源共享(CORS)的环境变量,可以指定哪些来源(域名、IP 地址等)可以访问 Ollama 提供的 API 服务。

如果我们想让它接收任何来源(IP)的http请求的话,我们需要将其设置为*。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值