Page-Assist项目远程访问Ollama服务的配置指南
在Page-Assist项目中实现远程访问Ollama服务时,许多开发者可能会遇到跨域访问问题。本文将详细介绍如何正确配置Page-Assist以连接远程Ollama服务,特别是通过ngrok等隧道工具进行中转时的特殊配置方法。
问题背景
当开发者尝试在本地Mac设备上运行Ollama服务,并通过另一台设备(如MacBook Air)远程访问时,通常会遇到连接被拒绝的情况。这主要是因为浏览器安全策略限制了跨域请求,而Page-Assist默认会进行严格的源检查。
解决方案
关键配置步骤
-
设置Ollama服务URL:在Page-Assist的Ollama设置中,输入实际的远程访问地址(如ngrok提供的HTTPS端点)
-
配置自定义源URL:在"Custom origin URL"选项中,必须填写
http://localhost:11434
,这是Ollama服务的默认本地地址 -
保存设置:完成上述配置后保存设置,Page-Assist将能够正确识别并连接到远程Ollama服务
技术原理
这种配置方式之所以有效,是因为:
- Page-Assist在内部会处理跨域请求问题,将远程请求映射到本地地址
localhost:11434
是Ollama服务的标准默认端口,保持这个配置可以确保兼容性- 实际通信仍然通过ngrok或其他隧道工具建立,但浏览器会认为这是同源请求
验证方法
成功配置后,开发者可以通过以下方式验证连接是否正常:
- 在远程设备上打开Page-Assist界面
- 尝试发送简单的模型查询请求
- 观察Ollama服务端的日志,确认请求已正确接收和处理
常见问题排查
如果按照上述配置后仍然无法连接,建议检查:
- ngrok隧道是否正常运行,可以通过直接访问ngrok提供的URL测试
- 本地防火墙设置是否阻止了11434端口的通信
- Ollama服务是否配置了允许远程连接(某些情况下需要修改Ollama的启动参数)
通过以上配置和验证步骤,开发者可以轻松实现Page-Assist项目对远程Ollama服务的访问,充分利用分布式计算资源进行AI模型推理。
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考