Ollama安装优化并通过Open WebUI实现网络访问（Windows/Linux）

最新推荐文章于 2025-11-25 17:56:44 发布
原创 最新推荐文章于 2025-11-25 17:56:44 发布 · 4.6k 阅读 · 15 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#docker #windows

Ollama是一款开源且专用于在本地运行LLM（大型语言模型）的软件，支持macOS，Linux，Windows多平台。使用它可以简化大模型在本地部署的流程，即使你是个新手，在看完这篇后也能轻松上手。同时因为它是开源且本地部署，可保证数据不会泄露。在本文中，我将介绍Ollama在Windows和Linux平台的安装，同时使用“Open WebUI”实现网络访问及文档识别，网络搜索功能。

Windows安装及使用教程

Ollama下载地址：Ollama Windows下载

更改模型存放位置：

首先下载Ollama，双击安装。

安装好后按Win + R 键输入sysdm.cpl后回车（或Win + Q 搜索“查看高级系统设置）打开窗口后切到“高级”，选择“环境变量”，在用户变量处找到“Path”双击进入

新建系统变量，名为“OLLAMA_MODELS”，变量值为你自定的模型存放位置（建议放置在C盘以外，容量大且读写速度快的盘）

保存后在系统托盘退出Ollama再启动即可。

 

 更改同时运行在内存中及并行处理请求的模型数量：

进入“环境变量”，新建系统变量

1.变量名为“OLLAMA_MAX_LOADED_MODELS”，变量值为你想要同时运行的模型数量（1，2…）；

2.变量名为“OLLAMA_NUM_PARALLEL”，变量值为你想并行处理请求的数量。

更改请先确保自己的电脑配置足以支撑多个模型运行。

更改API监听端口

进入“环境变量”，新建系统变量

变量名为“OL

最低0.47元/天 解锁文章
SUNYUNWEN
关注
Ollama调优，提高性能与安全性
h363659487的博客
05-08 1022
在Ollama的本地化部署与性能优化中，环境变量扮演着「神经中枢」的关键角色。通过灵活配置这些参数，开发者可精细调控模型运行时行为，适配从单机开发到分布式集群的多样化场景。本文将结合实战经验，分享一套系统化的环境变量配置方案，助你释放Ollama的最大潜力。
AI学习指南Ollama篇-Ollama性能优化与监控
俞兆鹏的博客
01-28 4618
随着大语言模型（LLM）在本地部署中的广泛应用，性能优化和监控成为提升效率的关键。大语言模型通常对计算资源和内存有较高要求，而本地部署环境可能受到硬件资源的限制。因此，优化模型的性能并实时监控其运行状态，对于确保高效运行至关重要。监控关键性能指标：实时监控CPU、GPU利用率、内存占用、响应时间和吞吐量。通过显存优化、计算加速和并发优化提升效率：根据实际需求调整GPU资源分配、启用FlashAttention、量化模型、优化上下文窗口和并发量。定期评估优化效果。
本地部署多模态大模型，结合Open-WebUI和Dify实现多模态对话、智能体！
m0_74823131的博客
12-12 4267
Ollama是一个开源框架，专为在本地机器上便捷部署和运行大型语言模型（LLM）而设计。Open WebUI（前身为Ollama WebUI）是一个专为大型语言模型（LLM）设计的可扩展、功能丰富且用户友好的自托管Web管理工具，旨在为用户提供直观、高效的大模型交互体验。本文主要介绍了如何在本地安装Ollama、Open-WebUI，并介绍了Open-WebUI、Dify结合Ollama的一些玩法，还有更多高阶功能等待你去探索。
本地部署多模态大模型，并结合Open-WebUI和Dify实现多模态对话、智能体，保姆级！
m0_74825565的博客
12-12 1789
Ollama是一个开源框架，专为在本地机器上便捷部署和运行大型语言模型（LLM）而设计。Open WebUI（前身为Ollama WebUI）是一个专为大型语言模型（LLM）设计的可扩展、功能丰富且用户友好的自托管Web管理工具，旨在为用户提供直观、高效的大模型交互体验。本文主要介绍了如何在本地安装Ollama、Open-WebUI，并介绍了Open-WebUI、Dify结合Ollama的一些玩法，还有更多高阶功能等待你去探索。
Open WebUI 本地部署支持 RAG（检索增强生成）、联网搜索、多模态模型、MCP 工具调用
最新发布
a1374469523的博客
11-25 831
在本地服务器（如 Ubuntu）上搭建支持 RAG（检索增强生成）、联网搜索、多模态模型、MCP 工具调用的私有 AI 助手平台。配置增强：Open WebUI + Ollama + SearXNG + MCPo。
Open WebUI的SearXNG网络搜索配置【403报错解决方法】
qq_28893209的博客
06-19 2万+
Open WebUI的SearXNG网络搜索配置【403报错解决方法】
在linux上部署ollama+open-webu，且局域网访问教程
qq_44224801的博客
10-20 6739
在linux上部署ollama+open-webu，且局域网访问教程
使用WebUI访问本地Deepseek（Ollama集成Open WebUI）
刘元林的博客
02-08 3339
在《deepseek本地部署和使用（Linux虚拟机）》中，我们使用Ollama部署了Deepseek-r1，但是只能通过命令行方式交互，默认Ollama启动后，会启动一个监听到127.0.0.1，用以接收POST 请求，服务器使用指定的 DeepSeek-R1 模型处理提示并返回生成的响应。
精选资源
离线部署大模型：ollama+deepseek+open-webui安装使用方法及常见问题解决.pdf
03-06
离线部署大模型的方法主要涉及ollama、deepseek和open-webui三个组件的安装和配置。ollama是一个开源的本地大语言模型运行框架，它可以帮助用户在本地机器上免费离线部署和运行大型语言模型，同时保证私有数据的隐私...
精选资源
DeepSeek多平台部署指南：Ollama本地、移动端及Open WebUI环境配置
02-01
最后详细叙述了基于Open WebUI部署的方式，涉及Ollama、Docker Desktop及Open WebUI的安装流程及其之间的配合使用来最终达成模型的成功部署。 适用人群：面向有兴趣了解或者实际操作DeepSeek模型跨平台部署的技术...
Ollama管理本地开源大模型，用Open WebUI访问Ollama接口
haleycat的博客
03-14 1万+
现在开源大模型一个接一个的，而且各个都说自己的性能非常厉害，但是对于我们这些使用者，用起来就比较尴尬了。因为一个模型一个调用的方式，先得下载模型，下完模型，写加载代码，麻烦得很。对于程序的规范来说，只要东西一多，我们就需要一个集中管理的平台，如管理python的pip，管理js库的npm等等，而这种平台是大家争着抢着想实现的，这就有了Ollama。
关于ollama+open webui无法局域网访问的解决办法
HarryXYC的博客
07-29 1万+
ollama api本地默认地址：http://127.0.0.1:11434open webui的默认地址：http://127.0.0.1:3000如果是本机访问，ollama默认允许本机跨域访问（哈里是看ollama的日志都是OPTIONS请求，bing后发现的），官方文档说修改系统变量OLLAMA_ORIGINS即可解决非本机跨域问题（windows下）。但是没说怎么改，还好随便试了下通配符“*”就行了。
一文教你在windows上实现ollama+open webui、外网访问本地模型、ollama使用GPU加速
qq_28413709的博客
04-26 3万+
ollama工具的出现让大语言模型的部署变得格外的轻松，但是在windows系统部署之后发现无法使用GPU进行加速，通过多方面查找资料发现可以在docker中使用命令启用GPU加速。另外通过Docker也可以快速部署open webui,于是本文基于docker实现ollama模型的部署，以及webui部署。最终部署成功后可以实现公网访问本地大语言模型功能。
Ollama在MacOS、Linux本地部署千问大模型及实现WEB UI访问
派大夏的博客
06-14 6495
阿里通义千问发布了Qwen2，提供了0.5B～72B的量级模型，在​​Ollama官网​​可以搜索qwen2查看，本文提供了Ollama的下载（在线/离线安装）、Ollama运行模型、使用WebUI连接模型以及页面简单配置。总体还是比较简单的，更高阶的玩法，看小伙伴的反馈，后面更新比如自定义智能体、训练等。
适配Ollama的前端界面Open WebUI
热门推荐
wbsu2004的博客
03-04 5万+
Open WebUI 是针对 LLM 的用户友好的 WebUI。
如何安全地通过互联网访问Ollama-UI项目
gitblog_07973的博客
06-16 433
Ollama-UI是一个基于Web的用户界面项目，通常部署在本地网络中运行。当用户成功在局域网内通过类似192.xx.xx.xx:8000这样的内网地址访问后，可能会考虑如何将其开放到互联网上，以便从外部网络访问。本文将详细探讨几种实现方式及其安全考量。 ## 基础网络架构理解 Ollama-UI项目实际上由两部分组成：Web界面服务本身和背后的Ollama服务器。要让整个系统在互联网上可用，...
Ollama 启动后，设置外网访问
qq_30594137的博客
04-24 1万+
3.ollama通过设置环境变量，来设置允许外网访问。2.检查云服务器的安全组，是否放行。1.服务器的防火墙是否开启。
Ollama显存优化
m0_57486465的博客
06-04 1万+
本文介绍了如何通过修改ollama模型的配置文件，指定加载进GPU的层数，从而优化模型推理效率。通过交互模式或修改模型配置文件，可以灵活设置GPU层数，提升模型的显存利用率，实现更高效的推理过程。
ollama优化小贴士
形上得其象，形下合于数；阴阳自济，玄理自明。
06-19 487
Ollama 通过引入多模态模型和模块化设计，显著增强了其在多模态任务中的能力。同时，它通过 API 接口、插件系统、本地工具链和云平台的集成方式，实现了与现有工具链的灵活融合。尽管仍面临一些挑战，但 Ollama 的扩展能力和集成方式为其在多模态任务中的广泛应用奠定了坚实基础。
linux 安装ollama openweb-ui
03-08
<think>好的，我现在需要帮用户解决在Linux系统上安装和配置Ollama OpenWeb-UI的问题。用户已经提到了参考引用[1]中的方法安装了Ollama，现在想继续安装OpenWeb-UI。首先，我得确认用户的需求是什么。他们可能已经安装了Ollama，但不知道如何接着安装Web界面，也就是OpenWeb-UI，所以需要一步步的指导。 首先，我应该回忆一下Ollama和OpenWeb-UI的关系。Ollama本身是一个本地运行大模型的工具，而OpenWeb-UI是一个第三方的前端界面，让用户可以通过浏览器更方便地与Ollama交互。所以安装OpenWeb-UI需要先确保Ollama已经正确安装并运行。 接下来，我需要确定安装OpenWeb-UI的具体步骤。根据我的知识，通常这类项目可以通过Docker或者直接克隆仓库来安装。用户可能更倾向于使用Docker，因为这样更简单，但也要考虑用户是否已经安装了Docker。如果用户没有安装Docker，可能需要先指导他们安装，但问题里用户没有提到这点，所以可能默认他们已经安装了。 然后，我需要分步骤写出安装过程。首先，拉取Docker镜像，然后运行容器，并映射端口。用户可能需要知道端口号是什么，以及如何访问Web界面。比如，默认端口可能是3000，所以访问localhost:3000就可以。同时，要确保Ollama服务在本地运行，通常是端口11434，这样OpenWeb-UI才能连接到Ollama。 另外，用户可能需要配置环境变量，比如设置OLLAMA_API_BASE_URL，如果Ollama不在默认的地址上运行的话。这部分可能需要提到，但大部分情况下默认是没问题的。不过还是应该包括进去，以防用户有特殊配置。 还有，安装完成后，可能需要验证是否成功，比如访问页面，下载模型，进行测试对话。这部分也是重要的，让用户知道如何测试安装是否成功。 然后，生成相关问题的时候，要考虑用户接下来可能会遇到的问题，比如如何配置HTTPS，如何更新OpenWeb-UI，或者如何解决常见的连接问题。这些问题有助于用户进一步操作，或者排除故障。 最后，需要检查步骤是否清晰，命令是否正确，以及是否覆盖了用户可能需要的所有信息。比如，Docker命令是否正确，端口映射是否有误，是否需要sudo权限等。如果用户遇到权限问题，可能需要提示使用sudo，或者在Docker组中添加用户。 总结一下，步骤应该是：安装Docker（如果需要），拉取并运行OpenWeb-UI的Docker容器，验证安装，访问Web界面，下载模型测试。同时，生成相关问题帮助用户深入使用和解决问题。</think>### 在Linux系统上安装配置Ollama OpenWeb-UI教程 #### 1. 安装Ollama（若未完成） 根据引用[^1]，若尚未安装Ollama，请先执行： ```bash curl -fsSL https://ollama.com/install.sh | sh ``` 安装完成后启动服务： ```bash ollama serve ``` #### 2. 安装Docker（若未安装） OpenWeb-UI推荐使用Docker部署。若未安装Docker，执行： ```bash curl -fsSL https://get.docker.com | sh sudo usermod -aG docker $USER # 将当前用户加入docker组 newgrp docker # 刷新用户组权限 ``` #### 3. 部署OpenWeb-UI 通过Docker一键部署： ```bash docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main ``` - **参数说明**： - `-p 3000:8080`：将容器8080端口映射到宿主机3000端口 - `-v open-webui:/app/backend/data`：持久化存储配置数据 - `--restart always`：自动重启策略 #### 4. 验证安装 访问浏览器： ``` http://localhost:3000 ``` 首次登录需注册账号（本地使用无需邮箱验证）。 #### 5. 连接Ollama服务 在Web界面设置中确认API端点： ``` http://localhost:11434 ``` #### 6. 测试模型交互 通过Web界面下载模型： ```bash ollama pull llama3 # 在终端执行 ``` 然后在Web界面选择模型进行对话测试。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值