[Dify 实战] 如何连接 Hugging Face 公共 API 并将其集成到 Dify 自定义插件中

在 Dify 插件开发中,集成外部模型和服务 是实现插件多样性和扩展性的关键之一。特别是当我们需要调用像 Hugging Face 这样的强大 AI 模型时,如何将其与 Dify 系统无缝连接,成为开发者关注的核心问题。

采用Open AI Schema的方式写自定义插件,实施起来比正式发布一个封闭的Plugin产品要快捷得多,因此很有必要掌握这项技术。

之前的文章告诉了如何知道Hugging Face上哪些模型能力提供公共API服务,本文将带你了解:

  • 如何通过 Dify 的自定义插件功能,将 Hugging Face API 集成到工作流中;

  • 自定义插件的配置步骤,确保插件能够顺利调用 Hugging Face API。


一、在 Dify 中创建自定义插件并连接 Hugging Face API

Dify 允许开发者通过自定义脚本创建插件,连接外部的 Hugging Face API。通过 OpenAPI 3.0 规范,我们可以将 Hugging Face 的能力封装为一个自定义插件,并在 Dify 的工作流中调用。

1. 获取 Hugging Face API

llama.cpp、Ollama与LM Studio三者定位与协作逻辑解析 本地大模型运行依赖三大核心工具链:llama.cpp作为底层推理引擎,提供对GGUF模型的原子级控制与硬件直通能力;Ollama是标准化服务层,封装为OpenAI兼容API,解决多环境部署与模型生命周期管理;LM Studio则是面向终端用户的GUI沙盒,专注交互式调试而非生产承载。三者并非替代关系,而是分层协作——llama.cpp决定性能上限,Ollama保障工程稳定性,LM Studio提升验证效率。理解其原理差异,可规避‘no lm runtime found for model format gg 阅读详情

相关推荐

[Dify 实战] 连接 Hugging Face 公共 API 404?从问题定位到自建模型端点的建议解决方案

本文分析了Dify集成HuggingFace模型时常见的404/503错误原因及解决方案。主要发现:1)HuggingFace公共API采用共享资源池,存在模型冷启动、自动卸载和限流问题;2)Dify的请求机制无法自动处理API延迟响应。解决方案建议自建推理端点(InferenceEndpoint)或Space服务,提供稳定访问。文章提供了验证方法和配置模板,指出公共API不适合生产环境,推荐使用私有部署确保稳定性。

技术小甜甜:传播可落地技术,帮助个人和企业降低解决真实场景问题的成本 330

[Dify 实战] 为什么 Dify 自定义脚本插件调用 Hugging Face API 总报 404?解决方案与模型选择技巧

在Dify自定义插件开发中,调用HuggingFace API常遇到404错误,主要原因是所选模型不支持公共API服务。解决方法:通过HuggingFace官网筛选支持公共API的模型(带有HF Inference API标签)。使用时需正确配置OpenAPI Schema,包括API端点、请求格式和授权信息。开发者应避免使用未开放API的模型,并确保请求参数符合要求,以提升开发效率。

技术小甜甜:传播可落地技术,帮助个人和企业降低解决真实场景问题的成本 469

Dify自定义插件

Dify插件CLI工具安装与使用指南:本文介绍了如何安装和使用Dify插件CLI工具进行插件开发。主要内容包括:1) 下载并安装CLI工具;2) 常用指令说明;3) 创建插件项目的完整流程,包括项目初始化、语言选择、类型设定和权限配置;4) 项目目录结构说明;5) 环境变量配置和插件运行方法。该工具支持Python开发,可创建不同类型的插件(如Tool、Model等),并提供了详细的权限控制选项。安装测试成功后,开发者可通过简单的命令快速创建和运行插件项目。

reset2021的博客 503

拆解大疆M300电池BMS:基于TI TIDA-010030方案的硬件架构深度分析

本文深度解析了大疆M300无人机电池管理系统(BMS)基于TI TIDA-010030参考设计的硬件架构。通过对比TI方案与大疆实现的差异,详细介绍了BQ7694003监控前端和BQ34Z100电量计的优化设计,以及通信架构的可靠性改进。文章还揭示了大疆在成本、空间和标准化方面的工程妥协与创新平衡,为锂电池保护方案提供了实践参考。

weixin_27066963的博客 238

使用 CFD 仿真进行阀门性能分析:第一部分

了解如何使用 Ansys Discovery 评估阀门性能,使工程师能够设计出更好的产品。

jkh920184196的博客 3145

✔B【AD623】【单运放】仪表放大器 AD623电压放大器模块可调 单电源 单端/差分 微小信号

【】仪表放大器 AD623电压放大器模块可调 单电源 单端/差分 微小信号

童话与梦的博客 8281

基于DNN神经网络的多输入多输出数据回归预测(附带Matlab代码)

假设我们的输入数据包含n个特征,输出数据包含m个特征。在本文中,我们将介绍如何使用DNN(深度神经网络)实现多输入多输出数据回归预测,并提供相应的Matlab代码。需要注意的是,上述代码中的DNN模型是一个简化的示例,您可以根据实际任务的复杂程度和要求进行相应的调整和优化。综上所述,我们介绍了如何使用DNN神经网络实现多输入多输出数据回归预测,并提供了相应的Matlab代码。函数对DNN模型进行训练,其中输入数据需要转置,以适应网络的输入要求。最后,我们使用训练好的模型对测试数据进行预测,并打印预测结果。

DevWizard的博客 1068

Xilinx平台SRIO介绍(一)RapidIO协议介绍

菜鸟到老鸟:会用工具; 老鸟到大佬:深入理解原理。 ——FPGA大叔·沃自己硕得

数字IC/FPGA杂货铺,找一找,或许有你想要的~ 1万+

数据挖掘实战-基于KMeans算法对超市客户进行聚类分群

本实验基于KMeans算法对超市客户进行了聚类分群。通过对客户购物数据进行聚类,我们成功将客户分为不同的群体。每个群体代表了具有相似购物行为和偏好的客户群体。通过实验结果,我们发现了客户群体之间的明显差异和共性。不同群体的客户在购买频率、购物金额和购买种类等方面有所区别。这为超市提供了重要的市场细分信息,帮助超市经营者更好地了解不同客户群体的需求和喜好,制定有针对性的营销策略和商品推荐,提高客户满意度和忠诚度。此外,实验还揭示了超市客户的购物行为规律,为超市优化商品陈列和促销策略提供了指导。

m0_64336780的博客 2万+

07 Zabbix 微信告警

Zabbix 微信告警 1.注册企业微信 企业微信注册地址:https://work.weixin.qq.com 2.进入企业微信后台管理 2.1 添加微信成员 2.2创建应用 2.3 获取四项数据 (1)AgentID (2) Secret (3) 企业ID (4)部门ID 3.Zabbix Server配置 3.1确认脚本目录 # grep alertscripts /etc/zabbix/zabbix_server....

Jian Sun_的博客 1297

Android PMS——概述(一)

PMS(Package Manager Service)是 Android 操作系统的一个重要组件,它负责管理应用程序的包信息以及与应用程序的安装、卸载、权限控制等相关功能,确保应用程序的安全性和稳定性。 Android PMS 负责维护一个应用程序包的清单信息,该清单是一个 XML 文件,包含应用程序的各种元数据,例如应用程序的包名、版本号、权限要求、组件信息等。PMS通过访问该清单文件来获取应用程序的信息。 此外,Android PMS 还负责应用程序的安装和卸载。在安装应用

小旭的专栏 1667

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

NTscan扫描工具

ntscan是一个扫描器,可以扫描没有密码和弱密码的共享,先到配置文件中填写猜测的用户名和密码,扫描过程中右侧出现的是扫描日志。

上一篇: [Dify 实战] 为什么 Dify 自定义脚本插件调用 Hugging Face API 总报 404?解决方案与模型选择技巧
下一篇: [Dify 实战] 构建一个自动发送邮件的插件:从 OpenAPI 到自动化通知
技术小甜甜
博客等级 码龄3年 872粉丝 483原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

技术小甜甜

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值