Ollama + WebUI 搭建本地大模型（附ollama安装包）

最新推荐文章于 2025-02-16 11:36:35 发布
最新推荐文章于 2025-02-16 11:36:35 发布
阅读量6.5k 收藏 31
点赞数 8
文章标签： langchain 人工智能 知识图谱 程序员 LLM ollama 大模型
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/2401_82469710/article/details/145492161
版权

随着这一两年大模型的爆火，越来越多的开发者希望能够在本地环境中运行大模型，既可以提高数据安全性，又能更好地进行个性化开发。Ollama 作为目前最主流的大模型管理工具，已经是玩转大模型必不可获取的一步。无论你是刚刚接触大模型的新手，还是已经有一定经验的老手，这篇文章都将带你一步一步地了解如何轻松地在本地部署大模型。

ollama

  1. 下载地址：https://ollama.com/download

根据自己的本地环境，选择对应的版本即可

Ollama + WebUI 搭建本地大模型_chatGPT

  1. 选择想要的模型：https://ollama.com/library

根据机器内存选择合适大小的模型参数，右侧复制命令

Ollama + WebUI 搭建本地大模型_Ollama_02

  1. 复制命令到 terminal 执行（windows 使用 cmd）

这一步会下载并启动，接下来就可以直接开始对话了

Ollama + WebUI 搭建本地大模型_Ollama_03

  • 当然 ollama 提供了一些内置的命令

Ollama + WebUI 搭建本地大模型_chatGPT_04

  • 下载的模型文件目录可以通过 /show modelfile 查看

Ollama + WebUI 搭建本地大模型_Ollama_05

（鉴于很多朋友无法下载ollama，这里给大家整理好了ollama的安装包，扫描领取即可↓↓↓↓）

​

open-webui

命令行工具对非开发同学还是不太友好，毕竟在大模型应用满大街的今天，不管是 Independent developer，还是一些大型的商业公司，都一直在卷用户体验，webUI 也应势而生。

  1. 安装 docker：https://www.docker.com/

为了部署方便，这里直接使用 docker，本地有 docker 的话可以跳过这一步

  1. 安装 webUI：https://github.com/open-webui/open-webui

直接下载镜像并启动，命令如下：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

  1. 等待镜像启动成功，可以在面板看到如下，点击跳转即可到web界面

Ollama + WebUI 搭建本地大模型_webUI_06

  1. 接下来就可以选择想要的模型，开始对话了

Ollama + WebUI 搭建本地大模型_webUI_07

写在后面

除了 open-webui，Ollama 的生态还提供了各种其他的UI以及插件，部分也支持通过 api-key 直接远程访问商业大模型，甚至提供了移动端的访问接口，这无疑大大降低了大模型的使用门槛。

如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉优快云大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

  • 目标：了解AI大模型的基本概念、发展历程和核心原理。

  • 内容：

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

  • 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。

  • 内容：

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望

阶段3：AI大模型应用架构实践

  • 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。

  • 内容：

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

  • 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。

  • 内容：

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉优快云大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

【大模型实战】使用Ollama+OpenWebUI实现本地Deepseek R1模型搭建
m0_47867638的博客
02-10 462
Ollama官方链接：https://ollama.com/，打开链接后就可以看到大大的下载按钮，如下图：我选择用Win的安装。
Ollama部署大模型并安装WebUi
m0_74823611的博客
12-13 897
Ollama用于在本地运行和部署大型语言模型（LLMs）的工具，可以非常方便的部署本地大模型。
【大模型】Ollama+open-webuiAnything LLM部署本地大模型构建RAG个人知识库教程（Mac）
m0_74823471的博客
12-11 4800
如果需要，可以使用AnythingLLM的开发者API进行自定义集成，以满足特定的业务需求。
Ollama 安装部署
cliffordl的专栏
02-05 4355
linux 参考：https://blog.youkuaiyun.com/zhu7478848/article/details/140514582。在搜索结果中，你会看到 Qwen 的不同版本，如 Qwen 2.5 和 Qwen 2 等，这里我们选择安装 Qwen 2.5 版本。参考：https://blog.youkuaiyun.com/zengmingen/article/details/143687404。在任务管理器中，点击“进程”选项卡，找到名为“ollama.exe”和“Ollama.exe”的进程。
ollama+open-webui，本地部署自己的大模型
热门推荐
web15085096641的博客
12-10 1万+
Open WebUI 是一种可扩展、功能丰富且用户友好的自托管 WebUI，旨在完全离线运行。它支持各种LLM运行器，包括 Ollama 和 OpenAI 兼容的 API。open-webui项目地址。
Ollama配置与webUI本地部署-学习记录
qq_72421395的博客
08-04 6623
Ollama是一款可以开始使用本地的大型语言模型。启动并运行大型语言模型。运行Llama 2、Code Llama和其他模型。自定义并创建您自己的模型。Ollama提供了丰富的功能，包括模型的训练、部署、监控等。
大模型应用实践：Ollama结合WebUI部署方案
2401_85375298的博客
11-06 2364
易于使用：它提供了一个简洁的界面和命令行工具，使得用户可以方便地管理和运行不同的大语言模型。多种模型支持：可以运行多种开源的大语言模型，为用户提供了更多的选择。本地运行：允许用户在本地设备上运行模型，保护数据隐私，同时减少对网络连接的依赖。自定义配置：用户可以根据自己的需求进行自定义配置，如调整模型参数、设置内存限制等。开发和测试：对于开发者来说，Ollama 是一个方便的工具，可以在本地进行模型的开发和测试，提高开发效率。
Ollama安装WebUi页面集成
qq_33560212的博客
07-12 2302
Open WebUI是一个可扩张的，功能丰富且用户友好的自托管WebUI，旨在完全离线操作。它支持各种LLM运行器，包括Ollama和OpenAI兼容的API。
Ollama + Openwebui 本地部署大型模型与交互式可视化聊天
2401_84494441的博客
07-12 6975
OpenWebUI]是一个可扩展、功能丰富且用户友好的自托管WebUI，它支持完全离线操作，并兼容Ollama和OpenAI的API。这为用户提供了一个可视化的界面，使得与大型语言模型的交互更加直观和便捷。
本地部署大模型ollama+docker+open WebUILobe Chat
m0_74823842的博客
12-21 1511
或者使用23版以上的idea，创建spring项目的时候选最新版本，直接勾选上AI模块下的ollama模块。看ollama的github主页下面有很多的web&Desktop，比较流行的是Open WenUI。去ollama官网（models模块下）找大模型的名字，然后复制ollama的运行名字。我们在拉取镜像的时候指定了Web UI的端口为3000，所以访问3000端口即可。同样的，在拉取完成后，docker desktop中也会有镜像，也可以在本地部署更强大的模型，使用图片，文件，音频等模态。
通过 Ollama + DeepSeek + AnythingLLM 实现本地部署与自定义知识库
AbnerRain的博客
02-09 2581
本文介绍了如何通过 Ollama、DeepSeek 和 AnythingLLM 实现 AI 模型的本地部署及自定义知识库的构建。首先，通过 Ollama 下载并安装 DeepSeek 模型，完成本地部署。接着，安装 AnythingLLM，创建工作区并配置相关设置，上传自定义知识库并绑定，以优化模型对特定内容的理解。该方法增强了数据隐私性，适用于企业知识管理、客户服务、教育和医疗等领域，为用户提供了灵活的 AI 解决方案。
【笔记】linux离线部署Ollama+Deepseek r1+open webui
MrIqzd的博客
01-29 1万+
昨天看到了实验室服务器文件夹下面有一个deepseek的gguf文件，就顺便部署一下至于为什么要本地呢？可能有一些学术隐私的东西不方便被收集吧。（我应该没有关系，反正都是学术垃圾）实验室服务器是ubuntu 18（没人管理升级），不能上外网。看了一眼lm studio的linux，要求ubuntu20https://lmstudio.ai/docs/system-requirements，所以选择了ollama。在这里选择ollama+open webui进行部署。
【DeepSeek】DeepSeek R1 本地部署（Ollama+Docker+OpenWebUI）
通往成功之路的一个过客
02-11 1772
如果您遇到连接问题，通常是由于 WebUI docker 容器无法访问容器内 127.0.0.1:11434 (host.docker.internal:11434) 处的 Ollama 服务器。我的电脑是21款 MacBookPro M1 Pro，运行内存16G，显卡是集成显卡，与内存共用同一内存，下载的模型是DeepSeek-R1 8B，后面内存开销很多，导致电脑变卡，可能需要重启,后面下载1.5b 版本，会好很多。根据自己的显存选择对应的模型，2G显卡推荐选1.5b的。打开终端，输入刚复制的命令。
史上最强的管理监控工具之Ollama-webui
qq_31532979的博客
07-20 2045
如果你遇到任何问题，请参考Ollama-webui的官方文档或寻求相应的技术支持。在应用程序的详细信息页面中，你可以查看该应用程序的状态、配置信息和运行日志。Ollama-webui是一个管理和监控工具，用于管理和监控Ollama应用程序。在Logs选项卡中，你可以选择不同的日志级别和过滤条件，以查看特定应用程序的日志信息。Applications选项卡：显示所有已经部署的应用程序，并提供对这些应用程序的管理和监控功能。Logs选项卡：显示应用程序的日志信息，可以根据不同的过滤条件进行搜索和查看。
Ollama本地部署DeepSeek-R1大模型，搭配open-webui使用
最新发布
guanzhongye007的博客
02-16 1031
Ollama本地部署DeepSeek-R1大模型，搭配open-webui使用
Ollama提供的WebUI界面
2301_80267599的博客
11-30 3634
提供了一个界面，旨在让用户能够更方便地通过浏览器与本地运行的 LLaMA 模型进行交互。这个 Web 界面通常用于简化与 AI 模型的对话过程，提供直观的图形化界面，以便更轻松地生成文本、回答问题、进行对话等操作。
Ollama WebUI 教程
gitblog_00550的博客
08-08 841
Ollama WebUI 教程 ollama-webuiChatGPT-Style Web UI Client for Ollama ????项目地址:https://gitcode.com/gh_mirrors/ol/ollama-webui 1. 项目介绍 Ollama WebUI 是一个强大的、可自定义的Web应用程序界面框架。它专注于提供简洁且响应式的用户体验，适用于各种类型的Web应用。该项...
Ollama + OpenWebUI + Llama3 整合包 —— 打造你的专属AI应用
ai_xiaogui的博客
08-28 554
Ollama是一款开源的聊天机器人框架，支持多种语言模型，为开发者提供了一个强大的基础平台。OpenWebUI则是一个基于Web的用户界面框架，可以让你轻松地将复杂的AI功能封装成易于使用的Web应用。Llama3是一种高性能的语言模型，拥有出色的自然语言处理能力，适用于各种应用场景。这三大组件的结合，意味着用户可以无需深入的技术背景，就能创建出具有高度定制化的AI应用。随着技术的不断进步，我们期待看到更多创新的应用和服务出现。
openwebui ollama
02-06
### OpenWebUI 和 Ollama 项目资源下载与使用教程 #### 关于 OpenWebUI 和 Ollama OpenWebUI 是一个开源项目，旨在为用户提供图形化的界面来操作各种服务[^1]。而 Ollama 平台则专注于让用户能够在本地轻松启动和运行大型语言模型，并且提供了简单的 API 接口用于内容生成，无需复杂的编程背景就能实现与这些先进模型之间的互动[^3]。 #### 获取 OpenWebUI 和 Ollama 的安装包 对于希望尝试这两个工具组合使用的开发者来说，可以从 GitHub 上找到 open-webui 项目的官方仓库地址。至于 Ollama 的具体获取方式，在其文档中有详细的说明。 #### Docker 部署指南 为了简化环境配置过程，推荐采用基于 Docker 的部署方案。这不仅能够确保各个组件之间兼容良好，而且可以快速搭建起完整的开发测试环境[^2]。 ```bash docker pull ollama/ollama:latest docker run -d --name=ollama_service -p 8080:8080 ollama/ollama ``` 以上命令会拉取最新的 Ollama Docker 映像并启动容器，端口号映射使得可以通过浏览器访问该应用的服务页面。 #### 使用教程概览 当一切准备就绪之后，用户就可以利用 OpenWebUI 提供的友好界面对接已部署好的 Ollama 实例了。通过这种方式，即使是没有深厚技术积累的人也能够方便地管理和调用强大的 AI 模型功能。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值