MacBook 本地化部署 Dify 指南

智谱AI发布国产最强大模型GLM4,理解评测与数学能力仅次于Gemini Ultra和GPT-4,编程能力超过Gemini-pro,还有对标GPTs商店的GLMs 这是在智谱AI开发者大会上推出的新一代基座大语言模型,GLM4相比较此前最大的特点是三个变化:性能全面提升、上下文长度更长、支持更强的多模态能力。GLM4(GLM4)详细信息 | 名称、简介、使用方法,开源情况,商用授权信息 | 数据学习 (DataLearner) 阅读详情
AI摘要

本文介绍了可本地化部署的开源AIAgent平台Dify,它支持多种大语言模型,有数据集管理等功能。还详细说明了Dify的本地化部署步骤,包括安装Docker、克隆源码等。此外,分享了全套AGI大模型学习路线、640套报告合集、经典PDF书籍及商业化落地方案等学习资料。

今天带来的是AIAgent 的另外一个流派,可以支持本地化部署的开源 AIAgent 平台Dify。

Dify 是一个开源的 LLMOps(大语言模型运营)平台,它允许开发者能够在本地快速创建和部署 AI 应用。

在这里插入图片描述

Dify 和 Coze 类似,也是通过可视化的方式进行 AI 应用构建,而且支持多种大语言模型,包含 GPT-3.5 、 GPT-4 等,同时,Dify 的另外一大优势是能接入本地化部署的大语言模型。

在这里插入图片描述

在应用提供上,Dify 还提供了API 接口,可以让用户非常方便的将 AI 应用集成到其他系统。在 Dify 内,还内置了数据集管理和大模型微调功能,在本地知识库管理和配置上,比 Coze 还多了保密和私有化应用的优势。

在这里插入图片描述

对于AI 应用的初学者,Dify 平台的使用可以让大家更加深入了解 AI 平台的工作原理,同时,提供了将想法快速转变成 MVP 应用实践的渠道。

那么,如何进行 Dify 的本地化部署,我这里边整理边同步给大家。

简单说一下我的电脑配置:MacBookAir M1 芯片,8G+512G;

当然,如果您不想自己部署,只想体验一下,官方提供了一定的免费额度,不过额度有限,文档上传限制了 50 个,而且 RAG 的向量空间也只有 5MB 。

在线体验地址:https://dify.ai/

1-安装 Docker

先安装Docker ,Docker 是一个开源的应用容器引擎,它允许开发者打包应用以及应用的依赖环境到一个可移植的容器中。

大白话理解就是, Docker 就像一辆房车,你生活所需要的所有物品(和它需要的东西)都装进这台房车中。这样,无论你开车到哪里(不管在哪个电脑上),你都能正常的生活(软件就能正常工作)。

打开 Docker 官网(https://www.docker.com/),根据你的操作系统下载对应的安装包,然后傻瓜式无脑安装即可。

img

2-Dify 私有化部署

接下来,看一下如何本地化部署。

先提供必要信息:

开源地址:https://github.com/langgenius/dify

官方文档:https://docs.dify.ai/v/zh-hans

将 dify 的源码克隆到本地。

1 、打开应用台,输入 Terminal

在这里插入图片描述

在这里插入图片描述

2 、输入这段指令:git clone https://github.com/langgenius/dify.git

在这里插入图片描述

3-打开 Dify

完成后,进入 Docker 目录。在刚才打开的 Terminal 内输入以下指令。

cd dify/docker
cp .env.example .env
docker compose up -d

然后,在你的 Docker 里,你就能看到这样的目录。

在这里插入图片描述

在你的浏览里里输入http://localhost,就能看到这样的界面:

在这里插入图片描述

第一次登录,设置一下管理员账号。完成设置后,浏览器会自动跳转到登录页面,输入用户名和密码就能进入Dify 工作台。

在这里插入图片描述

4-创建第一个 Dify Agent

Dify 的创建应用类型包含聊天助手、 Agent 和工作流。创作应用的方式,可以直接创建一个空白应用,也可以从应用模板力创建,或者获取到其他大佬已经创建好的 Dify 文件,直接导入。

我个人总结出来的学习方法,可以直接从别人的模板开始入手,能够了解 Dify 工作流的主要构成,先有了宏观架构,再进行探索。

这里,我选择了从应用模板创建工作流,选择了一个“问题分类-知识-聊天机器人”模板。

在这里插入图片描述

如果是已经玩过 Coze 的同学,看到这个界面,会非常的熟悉。

在这里插入图片描述

接下来,配置 LLM 大模型。

点击右上角的个人账户下的“设置”。

在这里插入图片描述

然后点击左侧工作空间的“模型供应商”。

在这里插入图片描述

可以看到,Dify 支持非常丰富的大模型(这点比 Coze.cn 好)。

在这里插入图片描述

除了支持海外的大模型,Dify 几乎都能接入国内的大模型。包含讯飞星火、通义千问、文心一言,还有我特别喜欢的 Kimi 。

在这里插入图片描述

接下来,看一下如何配置大模型,以 kimi为例。

到 kimi 的 api key 页面找到你的 key ,地址:https://platform.moonshot.cn/console/info。

在这里插入图片描述

拷贝完成后,贴到这里来。

在这里插入图片描述

回到工作流模板中,将 ChatGPT3.5 替换成刚才配置好的 kimi 。

在这里插入图片描述

测试一下工作流能否正常执行。

在这里插入图片描述

好的,到这里,Dify 的本地化部署完成了。可以开始您的 Dify 之旅了。

Enjoy it, have fun!

​

如何学习AI大模型?

作为一名热心肠的互联网老兵,我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

一、全套AGI大模型学习路线

AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!

img

二、640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

img

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

img

四、AI大模型商业化落地方案

img

作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。

用ollama本地部署Lamma3.1 ollama create 自定义模型名字 -f Modelfile。让lamma3.1写一个贪吃蛇小游戏,一次run成功。例如:ollama run llama3.1。例如:ollama run llama3.1。 阅读详情

相关推荐

Windows 中 利用 ollama 来搭建 deepseek R1

近年来,大模型凭借其强大的语言理解和生成能力,在自然语言处理、计算机视觉等领域取得了突破性进展。从GPT系列到国内的,文心一言、[Qwen]、,大模型已成为推动人工智能发展的核心力量。ollama作为新兴的大模型搭建工具,以其开源、高效、易于部署的特点,在人工智能开发者社区中崭露头角,为大模型的搭建和应用提供了新的解决方案。在当今数字化浪潮中,人工智能的发展可谓日新月异,而大模型作为其核心驱动力,正重塑着各个行业的格局。

一个专注于机器学习基础与实战的技术博客,内容涵盖算法推导、模型实现、数学原理与代码实践。用通俗的语言解析复杂概念,记录学习过程中的思考与总结,适合机器学习爱好者和从业者参考。 2554

使用 Ollama 本地运行各种 LLM

今天看看另外一个产品Ollama。Ollama 的安装非常简单,只需从官网(https://ollama.com/download)下载后解压缩,并在 Terminal 中运行脚本即可完成环境设置。我尝试运行 Llama3,虽然在运行时占用了大量电脑资源,使得其他应用运行变慢,但整体体验尚可。Ollama 支持多种大型语言模型(https://ollama.com/library)。

python123456_的博客 1734

开源大模型本地部署实战:从性能拐点到Agent应用

大语言模型(LLM)作为人工智能的核心技术,通过Transformer架构实现了对自然语言的深度理解与生成。其原理基于海量数据预训练与注意力机制,使模型能够捕捉文本中的复杂关联。这一技术价值在于将通用智能能力封装为可调用的基础服务,极大提升了内容创作、代码生成与知识问答的效率。随着模型压缩与量化技术的成熟,高性能LLM得以在消费级硬件上本地运行,催生出数据隐私敏感、高可控性的应用场景。开源社区通过混合专家(MoE)架构与4-bit量化等技术,正推动模型在性能与成本间达到关键拐点,结合AI Agent框架的标

weixin_33912453的博客 402

AI大模型探索之路-基础篇5:GLM-4解锁国产大模型的全能智慧与创新应用

随着人工智能技术的飞速发展,大型预训练语言模型已成为推动行业进步的重要力量。它们在理解自然语言、生成文本、执行复杂任务等方面展现出惊人的能力。在此背景下,国产大模型GLM-4的问世,不仅展现了中国在AI领域的实力,也为国内外研究者和开发者提供了新的研究与应用平台。

寻道AI,探索AI无限可能! 8679

MacBook上5分钟搞定Dify本地化部署(含国内镜像加速配置)

本文详细介绍了在MacBook上快速完成Dify本地化部署的完整流程,特别针对国内网络环境提供了镜像加速配置方案。通过优化Docker设置和使用国内镜像源,用户可以在5分钟内完成部署,大幅提升工作效率。文章包含环境准备、镜像加速、部署命令和常见问题解决等实用内容。

weixin_33676492的博客 458

MacBook 上快速搭建 Dify 开发环境的完整教程

本文提供在MacBook上快速搭建Dify开发环境的完整教程。从系统环境检查、核心依赖(Docker、Git)安装,到通过Docker Compose一键部署Dify并验证成功,详细指导了本地化部署的每一步。教程还涵盖了端口冲突、日志查看、版本更新等常见问题的解决方案,帮助开发者高效完成环境配置。

weixin_28347369的博客 207

Macbook本地部署Dify

设备:MacBook Pro(M1Pro)内存:16GB系统版本:macOS 15.1Docker版本:4.40.0。

2301_79683207的博客 2201

Openclaw本地化部署实战:Docker跨平台安装与Ollama/Dify技能集成

AI工作流编排平台是企业实现智能自动化的核心基础设施,其本质是将大模型、OCR、知识库等异构AI能力解耦为可调度的标准化单元。Openclaw作为轻量级开源Agent编排引擎,不内置模型而专注流程路由,天然适配本地化AI栈——如Ollama私有模型服务、Dify自建知识库、HunyuanOCR等。这种架构规避了公有云API的数据合规风险、调用成本不可控及网络延迟抖动问题,特别适合金融、医疗等强监管场景。通过Docker统一封装,Openclaw可在Windows、Ubuntu、macOS乃至群晖NAS等碎片

weixin_34034261的博客 408

Macbook pro M2本地化部署Dify

根据你系统上的 Docker Compose 版本,选择合适的命令来启动容器。(如果过程中一直出现失败,基本是镜像源的问题,可参考。1、进入 Dify 源代码的 Docker 目录。出现以上内容就表明Dify装好了!3、 启动 Docker 容器。2、复制环境配置文件。

ashel523的博客 1531

DeepSeek-R1本地化部署实战:Ollama+Open WebUI+Dify全链路指南

大模型本地化部署是政务、医疗、金融等强监管场景的核心技术需求,其本质是平衡推理效率、数据安全与运维可控性。DeepSeek-R1凭借MoE架构优化与中文长文本理解优势,成为信创环境下的高适配选择;Ollama提供声明式服务生命周期管理,Open WebUI实现RBAC权限与审计日志闭环,Dify则将AI能力封装为可测试、可回滚、可计费的工作流。三者组合并非简单堆砌,而是构建从模型加载、服务暴露、权限管控到业务集成的完整生产级AI基础设施。本文聚焦国产化硬件适配、离线部署、GPU绑定、量化选型与合规审计等真实

aocaiti5781的博客 499

OpenClaw中文本地化部署指南:AI工作流编排实战

AI工作流编排是企业自动化核心能力,其本质是将多源异构AI服务(如OCR、大模型、消息推送)按逻辑串联成可调度、可监控、可审计的流水线。OpenClaw作为轻量级Go语言引擎,不替代大模型,而是专注执行调度与编排,具备低资源占用、YAML声明式配置、原生条件分支与密钥安全注入等工程优势。相比Dify或ComfyUI,它更适配国内SaaS生态——预置百度OCR、腾讯NLP、飞书/企微机器人等中文执行器,并深度兼容ModelScope模型源、HashiCorp Vault密钥管理及内网穿透回调机制。本文聚焦真实

weixin_33824363的博客 402

【dify实战】Mac 本地化部署 dify

【dify】Macbook 本地化部署 dify

weixin_43988131的博客 1230

Dify本地部署实战:macOS与Windows下Docker Compose一键启动AI工作流

智能体开发平台(Agent Platform)正从云端走向本地化运行,其核心在于将大模型推理、向量检索与工作流编排能力封装为可离线部署的轻量级服务。Docker Compose作为声明式容器编排工具,天然适配多服务协同场景,通过YAML文件统一管理数据库、缓存、任务队列与Web服务的依赖关系与健康检查。在macOS和Windows双平台上,它有效屏蔽了底层虚拟化差异——前者依赖内核扩展授权,后者依托WSL2 Linux内核,共同支撑起PostgreSQL、Redis与Dify主服务的稳定协同。这种本地AI基

weixin_33816300的博客 602

普通人本地部署大模型全攻略:从Ollama到Dify的实战指南

大模型本地部署正成为数据隐私保护和离线智能应用的热门选择。不同于云端API按量计费,本地推理将模型权重直接加载到个人电脑的内存与显存中,通过量化技术(如Q4_K_M)大幅降低硬件门槛,使普通用户也能流畅运行7B乃至14B参数的开源模型。以Ollama、LM Studio为代表的工具链,将复杂的模型下载、运行和API服务封装为简洁命令或图形界面,而Dify等编排平台进一步把本地模型连接到知识库与业务自动化场景,实现数据不出本机的RAG问答应用。本文面向非专业开发者,系统梳理从硬件选型、量化理解、工具选择、模型

weixin_33806914的博客 353

本地部署大模型工作流实战:Dify+Ollama中文落地指南

大语言模型本地化部署是企业数据安全与AI工程可控性的核心实践。其本质是构建‘模型运行时—智能体框架—应用集成’三层技术栈:底层依赖Ollama/Llama.cpp实现轻量级模型推理,中层通过Dify等开源Agent框架提供可视化编排与RAG能力,上层对接飞书、API或内部系统完成业务闭环。该路径具备零境外依赖、全中文文档、Windows原生支持、SQLite开箱即用等显著工程优势,已广泛应用于会议纪要处理、知识库问答、自动化报告生成等真实场景。本文基于2024年主流工具链(Dify v1.12.3、Olla

weixin_33788244的博客 359

Qwen3.5-27B本地部署实战:量化、vLLM与Dify集成指南

大语言模型本地化部署是当前AI工程落地的核心环节,涉及模型选择、推理优化、系统集成等关键技术链。其中,模型量化可显著降低显存占用并适配消费级GPU,vLLM则通过PagedAttention和连续批处理提升高并发吞吐,而Dify等低代码平台依赖稳定、长上下文、中文强的基座模型实现可靠RAG。Qwen3.5-27B凭借NTK-aware RoPE、SwiGLU架构升级及中文语料深度优化,在24G显存设备上实现32K上下文稳定推理,成为兼顾能力、延迟与部署成本的务实选择。本文围绕该模型展开量化配置、vLLM服务

weixin_30374009的博客 1100
上一篇: 大模型入门书籍 | 《大模型基础》开源分享!
下一篇: 作为AI产品经理,我们到底在优化什么?
AI程序猿人
博客等级 码龄3年 6517粉丝 561原创
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值