万悟-本地多租户大模型平台

今天介绍一个大模型平台-元景万悟智能体平台,和热门大模型本地化低代码平台dify、coze一样都可本地化部署。

一、介绍

支持模型纳管(Model Hub)、MCP、联网检索(Web Search)、可视化工作流(Workflow Studio)、企业级知识库、智能体(agent)等功能

与同期热门的本地化大模型平台对比如下:

相比于其他平台的好处是可自定义模型导入、不限制license、租户管理方面扩展性更友好。

二、安装

使用docker安装方式

安装前,需要有docker环境

1. 打开cmd终端,clone一下源码

git clone https://github.com/UnicomAI/wanwu.git

2. 进入到wanwu目录下,拷贝并编辑环境变量文件

cd wanwu
cp .env.bak .env

修改.env文件中的WANWU_ARCH(架构)WANWU_EXTERNAL_IP(对外ip)变量(本机部署不做修改)

3. 创建docker运行网络

docker network create wanwu-net

4.启动服务(根据架构选择)

# amd64系统执行:
docker compose --env-file .env --env-file .env.image.amd64 up -d
# arm64系统执行:
docker compose --env-file .env --env-file .env.image.arm64 up -d

慢慢等待下载镜像,时间挺长

5.然后登录系统:http://localhost:8081(admin/Wanwu123456)

三、页面介绍

支持模型管理、知识库、MCP广场、智能体、工作流等功能

配置模块

该部分是为应用模块做基础配置

1. 模型管理:支持导入外部的模型

从列表看,模型管理支持openai、联通元景、ollama、通义、火山等主流供应商

可以选择其中一项进行自定义配置

2. 知识库: 支持构建自定义的知识库,这里创建了个eee的知识库,同时上传几个文档

3.mcp广场:可以申请官网的mcp工具、后续可以用在智能体或工作流中使用。

支持自定义MCP:在导入mcp服务里面可以连接自定义的mcp服务(目前支持sseurl)

4. 安全护栏:可以支持用户自定义敏感词表,配置行业敏感词,实时拦截高风险内容的输入和输出,保障内容安全合规。可在创建应用时关联配置(不想配置的可忽略)

应用模块

文本问答:具有知识库检索和内容整理的功能。

这里引用了eee相关的知识库,对青铜器相关的字段作为回答,并整理与其相关的文档。

工作流:构建属于自己的任务流图。

这里搭建了一个自定义的知识库流图。注意工作流描述不能乱写,得对该功能做一个总结,否则后续智能体无法识别该工作流的作用。首先是连接eee的知识库节点,然后让大模型整理相关的内容和链接url,最后完成输出,打算发布一下工作流,给智能体当做tool使用。

智能体:根据自己的兴趣搭建一个专业领域的智能体,可以添加联网、知识库、外部工具、mcp和工作流。可以设置安全护栏(敏感信息保护)。

这个智能体添加了“知识库测试eee”的工作流,可以发现大模型识别用户意图,调用了青铜器相关的工具等流程,最后整理出后母戊鼎相关的内容。

这里有个比较重要的租户管理,创建的每个组之间配置模块和应用模块的数据是相互独立的,对于文本问答、工作流和智能体等应用模块是能通过“发布”操作,选择公开,其他租户也能在应用广场使用。

总结:使用万悟可以搭建属于个人专业领域智能体,界面友好易懂,顺序关系明确,支持多租户使用和共享。

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值