
LLM
文章平均质量分 80
Daphnis_z
Just do it ..
展开
-
大模型应用编排工具Dify之常用编排组件
本文主要通过一个实际落地案例,介绍 Dify工作流编排中常用的 问题分类器、参数提取器、知识库和 LLM等组件,其中着重介绍了系统提示词和用户提示词,最后对后台服务如何调用工作流编排进行了说明。原创 2025-01-22 22:00:00 · 3346 阅读 · 0 评论 -
大模型应用编排工具Dify之自定义工具
dify中提供了自定义工具的能力,工具十分容易复用,在需要的流程编排中进行引用即可。根据笔者的经验和理解,自定义工具有点类似微服务,可以把通用的能力封装到工具里面。同时,工具还提供了测试和鉴权等功能,对开发者比较友好。原创 2024-12-19 21:30:00 · 1470 阅读 · 0 评论 -
大模型应用编排工具Dify之构建专属FQA应用
通过 dify可以基于开源大模型的能力,并结合业务知识库、工具API和自定义代码等构建特定场景、行业的专属大模型应用。本文通过 dify工作室的**聊天助手-工作流编排**构建了一个基于历史工作日志回答问题的助手,相比原始的大模型答复,通过工作流构建的应用将提供更精准的答案。原创 2024-12-10 20:15:00 · 1025 阅读 · 0 评论 -
大模型应用编排工具Dify二开之登录Token改造
dify工作室支持在画布上直接编辑业务流程,通过调用开源大模型可以实现特定场景的业务,而且可以迅速更新发布。因此,某些项目要求在产品里面能够直接编辑 dify业务流程,使得现场开发人员能够迅速响应客户需求。另外,方便对 dify进行运维,比如 更新开源大模型认证信息。原创 2024-11-28 19:15:00 · 3223 阅读 · 4 评论 -
大模型应用编排工具Dify二开之接入LLM改造
在大模型项目落地过程中,由于安全、合规和管控等原因不会直接使用原生开源大模型,一般会在开源大模型的基础上添加额外的认证信息或者修改接口访问方式。本次的目标是通过修改 dify源码能够对接**不遵守标准 openai接口协议**,在 header里面添加了**额外认证信息**的开源大模型。原创 2024-11-15 22:45:00 · 2799 阅读 · 0 评论 -
大模型应用编排工具Dify二开之工具和模型页面改造
最近笔者在做 dify的私有化部署和二次开发相关工作,本文总结界面改造的一些内容。原创 2024-11-07 21:03:36 · 7417 阅读 · 6 评论