windows环境(非docker)中利用Ollama和open webui部署运行大模型

原创 已于 2025-02-08 10:04:44 修改 · 1.4w 阅读 · 37 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#docker #容器 #运维 #llama #anaconda #语言模型 #windows

于 2024-04-22 00:10:59 首次发布

 1. ollama 下载安装：

GitHub - ollama/ollama: Get up and running with Llama 3, Mistral, Gemma, and other large language models.

 

安装完成后可以在cmd命令提示符窗口中输入ollama -v查看是否安装好。

输入ollama run llama3可以直接下载llama3大模型并运行进行对话，默认是llama3:latest版本，8b的一个版本。该模型只能进行文本对话。

2. open webui下载安装

🚀 Getting Started | Open WebUI

官方文档推荐使用docker安装，这里我使用非docker的方式安装

 2.1 安装node.js

最低0.47元/天 解锁文章
幻紫辰
关注
Ollama教程——入门：开启本地大型语言模型开发之旅
walkskyer的博客
04-02 5万+
ollama不仅支持运行预构建的模型，还提供了灵活的工具来导入和自定义您自己的模型。无论是从GGUF格式导入还是进行模型的个性化设置，ollama都能满足您的需求。您还可以通过自定义提示来调整模型的行为。接着，创建一个ModelfileFROM llama2 # 设置创造性更高的温度参数 PARAMETER temperature 1 # 设置系统消息 SYSTEM "" "你是超级马里奥，以马里奥的身份回答问题。"" "这样，您就能按照自己的需求定制模型了。
【AI】如何用非Docker方法安装类GPT WebUI-本地安装 OpenWebUI（非 Docker 部署）全流程指南
每日出拳老爷子的博客
05-24 1522
本地LLM通信的能力需要做成局域网SAAS服务才能方便所有人使用。所以需要安装WebUI，这样既有了用户界面，又做成了SAAS服务，很理想。
windows下安装Open Web UI
Annia_的博客
02-07 1万+
windows下安装Open Web UI
本地不用Docker，用Python运行Open WebUI完整指南（含问题解决）
最新发布
crystalxuanxuan的博客
09-29 1282
本文详细介绍了在Python 3.11环境下本地部署OpenWebUI的完整流程，无需使用Docker。主要内容包括：环境准备（Python 3.11及虚拟环境配置）、国内镜像下载源码、多场景启动命令详解（端口设置、外部访问、模型更新等）以及常见问题解决方案（版本兼容、资源下载、模型运行等）。重点强调了版本选择和国内镜像的使用，帮助用户顺利完成本地AI知识库前端界面的搭建，为后续开发奠定基础。
轻松搭建本地大模型Ollama+OpenWebUI
2401_84215165的博客
04-09 2365
Ollama是一个开源的LLaMA 2.0的桌面应用程序，它允许用户在本地运行LLaMA 2.0，并使用它进行聊天、生成文本等操作。
使用ollama + webui 运行任意大模型_docker ollama web ui
m0_60607971的博客
04-09 1447
最全的Linux教程，Linux从入门到精通。
openWebUI+ollama&windows+不用docker+webLite本地安装
m0_46499080的博客
04-26 1万+
两个web框架都可以，先说简单的 ollama-webui-lite() 轻量级，只使用nodejs先装 https://ollama.com/download新建文件夹 E:\Proj\olloamaModsSav ，cmd进入该目录 ollama run llama3，那么就会直接下载该模型到该目录下，在blobs目录里面会出现这种文件完了之后就会在cmd里可以进行问答，使用。
Windows搭建Docker+Ollama+Open-WebUI部署DeepSeek本地模型
CPUOS2010的博客
01-29 7287
本文将详细介绍如何在Windows系统上安装和使用Docker+Ollama+Open-WebUI，这三个强大的工具将帮助您轻松管理和运行大型语言模型DeepSeek。Ollama简化了模型的下载与部署，而Open-WebUI则提供了一个直观的图形用户界面，使用户能够更方便地与模型进行交互。
Docker中轻松部署Ollama和Open-WebUI，实现私有化大语言模型
楠搏万的博客
12-02 6979
介绍了如何通过 Docker 和 Docker Compose 部署 Ollama 和 Open-WebUI，实现本地私有化大语言模型的快速搭建。通过简单的配置，开发者可以轻松创建一个符合 API 调用和私有知识库需求的环境。我们推荐中文用户选择千问模型（Qianwen），其在实际操作中的体验更为流畅且稳定。此方法不仅能够提升部署效率，还能够优化本地模型的管理和调用，帮助开发者实现个性化的语言模型体验。本文对于希望在本地部署大语言模型的开发者尤其有帮助。
Linux平台利用Ollama和Open WebUI部署大模型
Clang’s Blog
03-23 1万+
在当今的人工智能领域，部署大型深度学习模型是一个挑战，尤其是对于那些不熟悉复杂技术栈的用户而言。然而，随着开源技术的不断发展，出现了一些强大的工具，如 Ollama 和 Open-webui，使得部署大型模型变得更加简单和高效。Ollama 是一个功能强大的开源平台，专门用于部署深度学习模型。与此同时，Open WebUI 是一个开源的 Web 用户界面工具，为用户提供了友好的界面来与 Ollama 平台进行交互。
【原创】手动安装open-webui，非官方docker安装方法，可汉化ui
热门推荐
jxyk2007的专栏
03-19 1万+
open-webui是一个为LLMs（大型语言模型）设计的友好型Web用户界面，支持Ollama和OpenAI兼容的API。它提供了直观的聊天界面、响应式设计、快速响应性能、简易安装、代码语法高亮、Markdown和LaTeX支持、本地RAG集成、Web浏览能力、提示预设支持、RLHF注释、会话标记、模型下载/删除、GGUF文件模型创建、多模型支持、多模态支持、模型文件构建器、协作聊天、OpenAI API集成等功能。
1.WLS下非docker安装ollama+open webui及qwen2-7b模型应用
gf0068的博客
08-29 2245
WLS下非docker安装ollama+open webui及qwen2-7b模型应用
本地用ollama部署开源大模型最简单教程(不需要安装docker) Windows, Linux, Mac
leon1996的博客
07-17 2787
本地用ollama部署开源大模型最简单教程(不需要安装docker) Windows, Linux, Mac。
非docker方式部署openwebui过程记录
程序员记事本
01-02 2534
手动部署openwebui的方式记录
本地安装Open Web UI（非docker）
weixin_44385380的博客
02-24 1432
我本地版本为: Python 3.11.9 , node v22.10.01. 安装Python：下载并安装Python 3.11.9，建议安装路径中不要包含中文字符，并勾选“Add python 3.11 to Path”选项。安装完成后，在命令提示符中输入python，若显示Python版本信息则表示安装成功。2. 安装Node.js和npm：访问Node.js中文网，下载并安装较新版本的Node.js（如22.10.0），安装过程中会自动安装npm。
非docker安装open-webui连接ollama实现deepseek本地使用，集成其他openai模型，常见启动报错问题解决。
weixin_48470176的博客
02-16 4823
事实上本人win10系统使用python3.12版本下载open-webui都没有成功，所以保守起见用python3.11版本比较稳妥。启动之后会根据huggingface.co联网下载一些模型，如果没有科学上网会出现报错，不过不影响，看到最后能出现端口显示即说明成功。注意： 如何 ollama和 open-webui不在同一台机器上或修改了ollama的默认端口，需要设置如下环境变量。config.py的路径在安装的conda虚拟环境的openwebui下面。启动open-webui。
Win环境下Ollama+OpenWebUI本地部署llama教程
qq_42629547的博客
07-18 3160
本文将简单介绍如何在Windows环境下通过Ollama本地部署大语言模型（LLM），并通过OpenWebUI实现访问。
link to windows官网下载
12-31
您可以在浏览器中搜索"link to windows官网下载"，然后点击搜索结果中的官方网站链接。在官网上，您可以找到link to windows的相关信息及下载链接。一般来说，官网会提供最新版本的软件下载，确保您的设备安全可靠。点击下载链接后，根据提示完成下载和安装即可开始使用link to windows。在安装过程中，您可能需要一些基本的操作步骤，可以根据官网提供的指引进行操作。值得注意的是，确保下载链接来自官方网站，以免受到恶意软件的侵害。希望这些信息对您有所帮助，祝您顺利下载link to windows并愉快地使用！
评论 3
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值