花千树的专栏

这篇文章我们介绍一下使用AI Model Hub编排一个针对网页内容的提问的LLM流程

Override。

注：用户字段框架默认为1，根据实际情况扩展。

AI Model Hub 是一个大模型应用开发集成框架，它通过对接各大模型厂商的 OPEN API，将数据转换成统一格式，适配前端各种场景展示，同时实现模型的匹配切换、prompt 构建、知识库调用、数据存储等功能，加速模型应用的落地开发。在本文中，我们将详细介绍 AI Model Hub 对接本地运行的llama3模型。参考：https://blog.youkuaiyun.com/fenglingguitar/article/details/1403202381.定义ollama的dtoOllamaRequest

AI Model Hub 的架构设计包含多个模块，每个模块负责不同的功能。

使用函数形式的流程编排工具，实现内存级别轻量级流程编排，支持互斥、并行、相容、消息等BPMN网关路由。