【案例共创】基于MaaS及MaxKB打造专业级私有化智能体

本案例由开发者:小草飞上天提供

1 概述

1.1 背景介绍

ModelArts Studio(MaaS)平台,是华为云推出的一款大模型即服务平台,可以一站式的对业界主流开源大模型进行部署托管,同时开放大模型API服务,可以结合业界主流Agent开发框架,轻松构建AI Agent应用。

通过实际操作,让大家深入了解如何利用MaaS调用满血版DeepSeek-r1模型,以及利用MaxKB构建专业级私有化智能体。

1.2 适用对象

  • 企业
  • 个人开发者
  • 高校学生

1.3 案例时间

本案例总时长预计40分钟。

1.4 案例流程

1381a3bc393917315e6e10b1c98ca182.PNG{{{width="50%" height="auto"}}}

说明:

① Firefox浏览器登录MaaS获取模型服务; ② 开发者空间下载部署MaxKB; ③ Firefox浏览器登录MaxKB进行智能体构建。

1.5 资源总览

本案例预计花费总计0元。

资源名称规格单价(元)时长(分钟)
开发者空间-云主机2vCPUs | 4GB X86 |Ubuntu 22.04 Server定制版免费40

2 操作步骤

2.1 调用模型

打开开发者空间桌面Firefox浏览器,登录华为云官网

3796af526ef01061b9f984034a70beef.PNG

进入到华为云官网后点击控制台,进入到控制台页面。

0a614ccb9047a2e7e65b0f5072470e69.PNG

进入控制台页面后,在上方搜索ModelArts,可以看到下方出来的AI开发平台ModelArts,点击进入。

7da91f9312a1d55ffb4557b9fabe9ec3.PNG

进入到AI开发平台ModelArts后,总览下有一个ModelArts Studio模块,需要注意的是目前ModelArts Studio仅支持“华东二”和“西南-贵阳一”区域。所以如果不在这个区域,请切换到“华东二”区域。

79cccd64f344604191ea20e6c4779e1f.PNG

ModelArts Studio集成了丰富的模型资源,配置上好用的模型工具,就可以快速的使用模型服务。ModelArts Studio为我们准备了免费体验的DeepSeek蒸馏系列、Qwen等模型,可以免费调用。这里点击在线推理->免费服务,可以看到为开发者提供的免费Token调用。

image.png

这里可以看到,平台为开发者提供了很多种通用的大模型,每款大模型都提供了200万免费Token供我们调取使用。这里找到Deepseek-R1-Distill-Qwen-32B-4K模型,点击调用说明就可以正常使用了。

image.png

在调用界面,需要关注四个地方。

第一:API地址,这个就是调用大模型的API接口,调用这个接口就可以正常与大模型进行对话;

第二:模型名称,这个是大模型的名称,我们使用的是哪个模型,在实际运用中就选择它;

第三:调用示例,这个是一个python的调用大模型的示例,通过这个代码示例可以在本地使用python开发环境与大模型进行调用沟通;

第四:管理API Key,这是一个安全密钥,是每个用户自行管理的密钥,在每一次与大模型沟通时,都需要使用。

fd797f55ea25a58768d2bd592dc97795.PNG

点击管理API Key后,进入到鉴权管理列表,我们点击创建API Key,输入API Key描述,点击确定,就可以生成一个API Key,注意:这个API Key需要自行记录,否则忘记了就只能删除后重新生成。

2.2 开发者空间安装MaxKB

MaxKB即Max Knowledge Base,它是一个基于大语言模型和RAG的开源知识库问答系统,它支持多种大模型,其中就包括我们上方的Qwen模型,通过与大模型的对接,可快速的打造出适合企业级的智能体系AI Agent。

MaxKB的安装也很简单,它支持Window和Linux,由于开发者空间是Linux系统,所以我们以Linux系统为例进行安装。

首先,在开发者空间打开终端,并将以下命令复制到终端窗口中,进行docker下载。注:运行完毕后需要重新启动终端,刷新环境。

sudo snap install docker

e5626ad2d5924bf6d26b75689a791feb.PNG

我们通过在线部署MaxKB,需要开通的访问端口有2个:22(通过ssh链接)、8080(web访问端口),这两个端口开发者空间默认开启,无需手动开启。

MaxKB可以通过docker一键启动,执行下面命令,开通对应的端口,就可以在浏览器通过访问:http://目标服务器IP地址:8080进行服务访问了。

# Linux 操作系统
docker run -d --name=maxkb --restart=always -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages registry.fit2cloud.com/maxkb/maxkb

下载后终端出现以下字样表示下载成功。(注意:下载过程可能会耗时2-3分钟,请开发者朋友耐心等待

03b196b82bdd83fface3c4768cb81be9.PNG

在终端输入以下指令获取目标服务器地址。

ip a

image.png

2.3 MaxKB构建智能体

打开开发者空间桌面的Firefox浏览器,将http://目标服务器IP地址:8080复制到浏览器中按下回车就能访问到MaxKB主界面,其中目标服务器IP地址用步骤2.2中获得的地址进行替换。 MaxKB默认用户名为:admin,密码为:MaxKB@123..,注意这个密码后面有两个点。

b4b356571d268695fedb395b3ffb03eb.PNG

首次登录会自动弹出修改新密码,这里将需要修改的密码输入进去,再点击保存就修改完毕了。注意:密码必须是6-20个字符长,且必须是字母、数字和特殊字符的组合。

410b6057b94b11596e3b7b28a2324a84.PNG

进入MaxKB后,我们创建一个应用,点击创建-输入应用名称-描述(非必填)-点击创建即可。

a50064134a5851b262689d9e58ce9dfb.PNG

创建后,进入配置页面,我们开始配置一下模型,选择AI模型-点击添加模型 -点击OpenAI。因为大多数模型都支持OpenAI,所以我们直接选择这个就可以。

bb69fd00b1e2abe7ffba31e108dfad01.PNG

  • 模型名称:由于上面调取的是DeepSeek蒸馏模型,所以这里输入DeepSeek
  • 权限选择:私有
  • 模型类型:选择大语言模型
  • 基础模型:将2.1中获取到的模型名称复制进来即可。
  • API URL:将2.1中的调用模型的API地址复制到此处。注意:地址只取用到V1,V1后面的路径chat/completions全都需要删除
  • API Key:将2.1中获取到的复制到此处。 填写完毕后点击保存即可。

7737f5ac2cc6b0c528506c964fbfe904.PNG

添加完成后,在AI模型处点击选择,即可选择我们刚添加的AI服务。

55e7fef1c8a8104cda6685a63daffe61.PNG

配置一下角色设定。

这里的内容为:

# 角色
专栏作家
## 注意
在回答过程中要保持礼貌,要全面的回答用户对你进行的提问,对用户要时刻保持尊重。

e3f38cf408520c42979f5839c56a2ef9.PNG

提示词(无引用知识库)配置: 你可以帮助用户回答创作方面的任何知识,当用户向你进行提问时,你必须礼貌回答,时刻保持谦逊礼貌,注意,一定要中文回复。 image.png

自定义配置一下开场白。

您好,我是知识小助手,您可以向我提出写作方面的问题。
-   如何写好一篇文章?
-   文章有哪些分类?
-   需要转人工

bde594e298f18dd3ecfc7854e92397a6.PNG

设置完毕后点击保存并发布就可以在线体验我们发布的AI Agent了。

16eee0bc5392e839e839e8fea2249954.PNG

这里进行一下效果演示。

92ffab421472ab552426733fe51ff6b7.PNG

可以看到会跟据我们对Agent的设定来进行思考,至此基于Maas服务及MaxKB打造专业级私有化智能体案例完成。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值