五大开源神器！解锁本地大模型交互新姿势——Ollama WebUI 客户端终极评测

原创 最新推荐文章于 2026-10-11 09:54:55 发布 3.1k 阅读 AI写同款
Python_金钱豹
Python_金钱豹 博客等级 码龄5年 墨衍会员 · AI 创作全网分发 墨衍智能分发 本文由作者通过墨衍一键同步至各平台 1分发平台 3.1k累计阅读 3.1k平均单平台 已同步平台 优快云 微信公众号 微博 知乎 掘金 百家号 博客园 抖音 小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网 我也要
1万+粉丝2840篇原创
关注
ollama+open-webui，本地部署自己的大模型 Open WebUI 是一种可扩展、功能丰富且用户友好的自托管 WebUI，旨在完全离线运行。它支持各种LLM运行器，包括 Ollama 和 OpenAI 兼容的 API。open-webui项目地址。 阅读详情
AI摘要

本文精选5款高口碑开源WebUI工具，评测了Ollama的使用、优势与不足，还介绍了LobeChat、Open WebUI等工具的特点和适用场景。此外，指出本地化部署的三大方向，并给出大模型AI学习的四个阶段及相关资料获取方式。

——从极简界面到企业级管理，总有一款适合你
当 Meta 的 Llama、阿里的 Qwen 等开源大模型掀起本地化部署热潮，如何选择一款高效、安全、易用的交互界面成为关键。本文精选 5 款高口碑开源 WebUI 工具，从开发者到普通用户，总有一款让你相见恨晚！

Ollama 官方开源社区

Ollama 的使用

你可访问 Ollama 官方网站 下载 Ollama 运行框架，并利用命令行启动本地模型。以下以运行 llama2 模型为例：

ollama run llama2

基于您的计算机配置，各种模型可能呈现出不同的性能特征。

Ollama 的优势

Ollama 的模型运行在本地，以及用户产生的所有数据均存储在本地，因此可以不受审查，并且足够安全和私密，能够有效地满足数据隐私保护的需求。此外，对于在本地运行的应用程序而言，这种方式不仅可以提高效率，而且还能够消除对网络环境的依赖。

Ollama 的不足

尽管 Ollama 能够在本地部署模型服务，以供其他程序调用，但其原生的对话界面是在命令行中进行的，用户无法方便与 AI 模型进行交互，因此，通常推荐利用第三方的 WebUI 应用来使用 Ollama， 以获得更好的体验。

Claude 3 对比 GPT-4

  1. LobeChat：全能型选手，打造私人 ChatGPT 体验

Github 链接

LobeChat 作为一款开源的 LLMs WebUI 框架，支持全球主流的大型语言模型，并提供精美的用户界面及卓越的用户体验。该框架支持通过本地 Docker 运行，亦可在 Vercel、Zeabur 等多个平台上进行部署。用户可通过配置本地 Ollama 接口地址，轻松实现 Ollama 以及其他本地模型的集成。查看在 LobeChat 中如何使用 Ollama

LobeChat

核心亮点

  • 多模态交互

    ：支持文本、图片、语音输入，兼容 GPT-4V 视觉模型

  • 插件生态

    ：联网搜索、PDF 解析、代码执行一键集成

  • 跨平台部署

    ：Docker 一键启动，支持 Vercel/Sealos 云端托管

LobeChat 功能特性

适用场景：

  • 团队协作：结合 Cpolar 内网穿透实现公网访问

  • 多模型管理：同时对接 OpenAI、Gemini、Ollama 等 API

部署命令：

docker run -d -p 3210:3210 -e OLLAMA_PROXY_URL=http://host.docker.internal:11434/v1 lobehub/lobe-chat
  1. Open WebUI：企业级首选，安全与功能兼备

Github 链接

Open WebUI 是一个可扩展、功能丰富且用户友好的开源自托管 AI 界面，旨在完全离线运行。它支持各种 LLM 运行器，包括 Ollama 和 OpenAI 兼容的 API。

Open WebUI

核心亮点

  • RBAC 权限控制

    ：管理员可审批用户、隔离敏感模型

  • RAG 知识库

    ：支持 PDF/TXT 文档向量化检索（#doc 关键词触发）

  • Pipeline 扩展

    ：自定义内容过滤、多语言翻译等处理流

技术优势：

# GPU 加速部署     docker run -d --gpus=all -v /opt/ollama:/root/.ollama -p 11434:11434 ollama/ollama

企业级功能：

  • 通过 OLLAMA_BASE_URL 环境变量隔离内外网模型服务

  • 对话记录加密存储，支持导出/导入历史数据

  1. Enchanted：苹果生态的优雅之选

Github 链接

Enchanted 是一款专门为 MacOS/iOS/iPadOS 平台开发的应用程序，支持 Llama、Mistral、Vicuna、Starling 等多种私人托管模型。该应用致力于在苹果的全生态系统中为用户提供一个未经过滤、安全、保护隐私以及多模态的人工智能体验。

Enchanted

核心亮点

  • 原生性能优化

    ：M1/M2 芯片专属加速，响应速度提升 40%

  • 多设备同步

    ：支持 iPhone/iPad/Mac 无缝切换

  • 隐私优先

    ：数据永不离开本地，iCloud 端到端加密备份

用户评价：

“在 MacBook 上运行 Llama3.1 时，Enchanted 的显存管理明显优于其他客户端” —— 开发者社区实测

  1. Chatbox：轻量级利器，开箱即用

Github 链接

Chatbox 是一个老牌的跨平台开源客户端应用，基于 Tauri 开发，简洁易用。除了 Ollama 以外他还能够通过 API 提供另外几种流行大模型的支持。

Chatbox

核心亮点

  • 零配置启动

    ：Tauri 框架构建，Windows/Mac/Linux 全平台支持

  • 多模型切换

    ：同时管理 Ollama、ChatGPT、Claude 会话

  • 离线模式

    ：无网络环境下仍可使用本地模型

典型应用：

  • 快速原型验证：搭配 Gemma 2B 实现低资源消耗测试

  • 教育场景：学生无需复杂配置即可体验大模型

  1. NextJS Ollama LLM UI：极简主义者的福音

Github 链接

NextJS Ollama LLM UI 是一款专为 Ollama 设计的极简主义用户界面。虽然关于本地部署的文档较为有限，但总体上安装过程并不复杂。该界面设计简洁美观，非常适合追求简约风格的用户。

NextJS Ollama LLM UI

核心亮点

  • 浏览器即开即用

    ：无需安装，访问链接即可对话

  • Markdown 增强

    ：完美渲染数学公式、代码块

  • 轻量化设计

    ：资源占用仅为同类产品的 1/3

开发者技巧：

# 国内镜像加速部署     docker run -d -p 3000:8080 --registry-mirror=https://docker.nju.edu.cn ...

终极选购指南

在这里插入图片描述

未来趋势：本地化部署的三大方向

  1. 边缘计算融合

    ：树莓派等设备实现端侧推理

  2. 多模态升级

    ：Stable Diffusion 文生图集成

  3. 自动化运维

    ：Kubernetes 集群管理方案

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么？
  • 大模型是怎样获得「智能」的？
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例：向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示（Embeddings）
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2：手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身：基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例：如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

标签
#开源 #r语言 #开发语言 #人工智能 #transformer
#深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
Ollama完整教程：本地LLM管理、WebUI对话、Python/Java客户端API应用 Ollama可以非常方便的管理和部署我们本地大语言模型，老牛同学希望通过本文对Ollama进行一次详细介绍，包括本地大模型管理和使用、WebUI对话界面部署、通过Python和Java使用Ollama的API接口等…… 阅读详情

相关推荐

OLLAMA：如何像云端一样运行本地大语言模型

您是否曾发现自己被云端语言模型的网络所缠绕，渴望获得更本地化、更具成本效益的解决方案？那么，您的探索到此结束。欢迎来到 OLLAMA 的世界，这个平台将彻底改变我们与大型语言模型 (LLM) 的交互方式，让我们可以在本地运行这些模型。我们将深入探讨 OLLAMA 的复杂性，探索其功能、设置过程以及它如何改变你的项目。无论您是 Python 开发人员、网络开发爱好者，还是喜欢摆弄语言模型的人，本文都是您的一站式资源。OLLAMA 是一个尖端平台，旨在本地运行开源大型语言模型。

songgz的专栏 1万+

适配Ollama的前端界面Open WebUI

Open WebUI 是针对 LLM 的用户友好的 WebUI。

wbsu2004的博客 5万+

IDEA系列(四)：IDEA导入Maven工程项目并配置Tomcat启动

本片文章主要介绍如何导入一个存在的maven项目并配置Tomcat启动项目，方便自己使用，也分享出来，希望可以帮助到其他人。

低调D树苗的博客 1244

五大开源神器实测：Ollama WebUI 客户端如何解锁本地大模型交互新姿势

实测五款开源 Ollama WebUI 客户端，从 Docker 部署到 curl 验证一步到位，并解决 401、local proxy failed、reading choices 等常见报错。文中还介绍如何用 TaoToken 统一管理多客户端 Key 与模型通道，官网 https://taotoken.net/?utm_source=taotoken_aicg_blog_end 可注册获取。

weixin_31597759的博客 201

Masta调用Geometry Modeller（Space Claim）进行根据三维模型快速建模设置方法

masta中调用ANSYS的space claim的设置方法

xifegnlie的博客 244

LangChain与SkillLite集成：AI Agent安全沙箱实践

在AI与自动化技术领域，安全沙箱是实现可信计算的核心机制。其原理是通过资源隔离与权限控制，构建受限的执行环境。技术价值在于平衡功能开放性与系统安全性，尤其适用于处理用户提交的非受信代码或敏感数据。典型应用场景包括AI插件系统、在线代码评测平台等。本文以LangChain框架与SkillLite沙箱的深度集成为例，详解如何通过命名空间隔离、cgroups限制等机制，为AI Agent赋予安全执行动态技能的能力。其中涉及的关键技术点包括Python运行时隔离、动态资源配额管理，以及如何防范Shell注入等常见攻

weixin_34189116的博客 405

Ollama配置与webUI本地部署-学习记录

Ollama是一款可以开始使用本地的大型语言模型。启动并运行大型语言模型。运行Llama 2、Code Llama和其他模型。自定义并创建您自己的模型。Ollama提供了丰富的功能，包括模型的训练、部署、监控等。

qq_72421395的博客 7922

15. GD32E230定时器实战：基于TIMER5的1秒LED闪烁中断配置详解

本文详细讲解了如何在GD32E230微控制器上配置TIMER5定时器，实现精准的1秒LED闪烁中断。内容涵盖从时钟开启、参数计算、中断设置到服务函数编写的完整流程，重点解析了预分频值与周期值的配置方法，帮助开发者掌握硬件定时器的核心应用。

weixin_29092787的博客 136

大模型应用实践：Ollama结合WebUI部署方案

易于使用：它提供了一个简洁的界面和命令行工具，使得用户可以方便地管理和运行不同的大语言模型。多种模型支持：可以运行多种开源的大语言模型，为用户提供了更多的选择。本地运行：允许用户在本地设备上运行模型，保护数据隐私，同时减少对网络连接的依赖。自定义配置：用户可以根据自己的需求进行自定义配置，如调整模型参数、设置内存限制等。开发和测试：对于开发者来说，Ollama 是一个方便的工具，可以在本地进行模型的开发和测试，提高开发效率。

2401_85375298的博客 2591

EDEM在农业机械设计中的实战应用：以谷物收割机优化为例

本文以谷物收割机优化为例，详细阐述了EDEM离散元仿真软件在农业机械设计中的实战应用。通过构建精准的“数字谷物”模型与农机部件动态界面，利用GPU加速完成大规模颗粒系统仿真，有效诊断并解决了籽粒夹带损失与清选负荷不均等田间难题，实现了从仿真分析到田间验证的设计优化闭环。

weixin_29256771的博客 110

CMOS Sensor的调试经验分享

我这里要介绍的就是CMOS摄像头的一些调试经验。 首先，要认识CMOS摄像头的结构。我们通常拿到的是集成封装好的模组，一般由三个部分组成：镜头、感应器和图像信号处理器构成。一般情况下，集成好的模组我们只看到外面的镜头、接口和封装壳，这种一般是固定焦距的。有些厂商只提供芯片，需要自己安装镜头，镜头要选择合适大小的镜头，如果没有夜视要求的话，最好选择带有红外滤光的镜头，因为一般的sensor都...

camerall 3764

LLaMA2--WebUI模型下载以及环境搭建

LLaMA-2（Language Learning and Modeling Architecture）是一种语言学习和建模框架，用于自然语言处理任务。它是在LLaMA的基础上进一步发展而来的。LLaMA-2模型通过结合多种语言学习和建模方法，提供了更强大和灵活的框架来处理自然语言的复杂性。目前共有7B、13B、33B、65B 四种版本，其模型参数如下表所示：LLaMA-2模型的主要特点包括：多任务学习：LLaMA-2模型可以同时处理多个相关任务，从而实现知识的共享和迁移，提高模型在各种任务上的性能。

weixin_50727153的博客 3522

YOLOv5改进之---EIoU,SIoU,AlphaIoU,FocalEIoU,Wise-IoU

本文主要针对yolov5的iou损失函数进行改进，主要涵盖EIoU,SIoU,AlphaIoU,FocalEIoU,Wise-IoU这几种损失

qq_41920323的博客 1466

【AI】Ollama+OpenWebUI+llama3本地部署保姆级教程，没有连接互联网一样可以使用AI大模型！！！

在没有互联网的环境下部署，可以将下载好的Ollama安装包复制到此环境安装，然后将下载好的模型复制到相应路径就可以在无互联网的环境下使用。默认安装后的目录：C:\Users\username\AppData\Local\Programs\Ollama。8B模型一般16GB内存就可以跑的很流畅，70B模型则至少需要64GB内存，有CPU就可以跑，当然有GPU更好。由于llama3对中文的支持并不是很好，需要中文的可以使用GitHub上开源的这个llama3中文微调模型。提问题，发现该模型给了很好的回复。

weixin_43012017的博客 7万+

飞牛fnNAS搭建web版微信

摘要：本文介绍了一种通过Docker在飞牛NAS上部署微信客户端的方法，实现24小时同步微信聊天记录。具体步骤包括：1)激活飞牛NAS的Docker功能并配置镜像加速源；2)创建专用文件夹并下载docker-wechat镜像；3)设置容器参数并部署微信客户端；4)通过局域网或ZeroTier内网穿透实现远程访问。相比传统Windows/Linux方案，该方法资源占用更低，适合需要长期保存微信聊天记录的用户。

dgnankai的专栏 3342

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明，包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

Ollama + Openwebui 本地部署大型模型与交互式可视化聊天

Ollama是一个允许用户在本地启动并运行大型语言模型，它提供了一个简单易用的内容生成接口，类似于OpenAI，但无需开发经验即可直接与模型进行交互

qq_28680789的博客 1万+

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

探索Ollama-WebUI：一款高效灵活的前端框架

Ollama-WebUI 是一个开源的前端框架，设计用于快速构建现代化、响应式和交互性强的 Web 应用程序。该项目的目标是提供一套简洁、易用且功能丰富的组件库，帮助开发者提升开发效率，减少重复工作，并确保应用的一致性和美观性。 ## 技术分析 ### 核心特性 1. **基于 Vue.js** - Ollama-WebUI 使用流行的 [Vue.js](https://vuejs.org/

gitblog_00088的博客 3052

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表，创建专业级图表以简化复杂的信息。

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

大模型部署-​Ollama+WebUI

易于使用：它提供了一个简洁的界面和命令行工具，使得用户可以方便地管理和运行不同的大语言模型。多种模型支持：可以运行多种开源的大语言模型，为用户提供了更多的选择。本地运行：允许用户在本地设备上运行模型，保护数据隐私，同时减少对网络连接的依赖。自定义配置：用户可以根据自己的需求进行自定义配置，如调整模型参数、设置内存限制等。开发和测试：对于开发者来说，Ollama 是一个方便的工具，可以在本地进行模型的开发和测试，提高开发效率。

weixin_58753619的博客 3063

Ollama配置webui连接大预言模型

默认ollama安装后，chat对话只有命令行界面，交互体验较差。借助open-webui可以通过web界面连接ollama，从而实现类似chatgpt式的web交互体验。使用 Docker 安装 Open WebUI 时，请确保在 Docker 命令中包含 -v open-webui:/app/backend/data，用于保存数据。点击右上角设置图标，打开设置窗口，如下图，输入型号标签（如llama2:7b, gemma:2b），点击右侧下载按钮，等待型号待下载。通过openwebUI下载。

lldhsds的专栏 4276

Ollama提供的WebUI界面

提供了一个界面，旨在让用户能够更方便地通过浏览器与本地运行的 LLaMA 模型进行交互。这个 Web 界面通常用于简化与 AI 模型的对话过程，提供直观的图形化界面，以便更轻松地生成文本、回答问题、进行对话等操作。

2301_80267599的博客 5924

本地大模型搭建教程：Ollama + WebUI，附ollama安装包

随着这一两年大模型的爆火，越来越多的开发者希望能够在本地环境中运行大模型，既可以提高数据安全性，又能更好地进行个性化开发。Ollama 作为目前最主流的大模型管理工具，已经是玩转大模型必不可获取的一步。无论你是刚刚接触大模型的新手，还是已经有一定经验的老手，这篇文章都将带你一步一步地了解如何轻松地在本地部署大模型。

m0_65555479的博客 1716

探索Ollama UI：一款现代、灵活的前端框架

探索Ollama UI：一款现代、灵活的前端框架 项目地址:https://gitcode.com/gh_mirrors/oll/ollama-ui 在如今这个Web界面日新月异的时代，开发人员需要高效、易用且具有高度定制性的工具来构建优雅的用户体验。这就是的魅力所在，一个专注于简洁设计和强大功能的现代前端框架。 项目简介 Ollama UI 是一套轻量级的组件库，旨在简化前端开发工作，提供丰富的...

gitblog_00058的博客 2219
上一篇： DeepSeekR1 劲敌出现了，QwQ32B本地部署测试，RTX3060成功运行！
下一篇： vLLM+Qwen-32B+Open Web UI构建本地私有大模型
点赞 25
评论 0
书签 书签 11
Python_金钱豹
Python_金钱豹
博客等级 码龄5年 1万+粉丝 2840原创
+ 关注
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值