只需一句代码将chatgpt、rag知识库嵌入你的网站,拥有一个网站智能助手

最近发现一个不错的大模型管理平台,可以本地部署,可以设置rag知识库搜索增强生成,还可以设置 工作流,更让我惊讶的是,只需一句代码,就可以将你构造的 大模型机器人,或者rag知识库搜索嵌入到自己已有的网站,真的是网站升级AI人工智能的利器,废话不多说,上项目。

项目介绍

MaxKB = Max Knowledge Base,是一款基于大语言模型和 RAG 的开源知识库问答系统,广泛应用于企业内部知识库、客户服务、学术研究与教育等场景。

  • 开箱即用:支持直接上传文档、自动爬取在线文档,支持文本自动拆分、向量化、RAG(检索增强生成),智能问答交互体验好;
  • 模型中立:支持对接各种大语言模型,包括本地私有大模型(Llama 3 / Qwen 2 等)、国内公共大模型(通义千问 / 智谱 AI / 百度千帆 / Kimi / DeepSeek 等)和国外公共大模型(OpenAI / Azure OpenAI / Gemini 等);
  • 灵活编排:内置强大的工作流引擎,支持编排 AI 工作过程,满足复杂业务场景下的需求;
  • 无缝嵌入:支持零编码快速嵌入到第三方业务系统,让已有系统快速拥有智能问答能力,提高用户满意度。

项目部署

我比较喜欢docker部署

docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb
# 用户名: admin
# 密码: MaxKB@123..
  • 你也可以通过 1Panel 应用商店 快速部署 MaxKB + Ollama + Llama 3,30 分钟内即可上线基于本地大模型的知识库问答系统,并嵌入到第三方业务系统中;

  • 如果是内网环境,推荐使用 离线安装包 进行安装部署;

  • 你也可以在线体验:DataEase 小助手,它是基于 MaxKB 搭建的智能问答系统,已经嵌入到 DataEase 产品及在线文档中;

使用测试

1、配置模型

这里演示一下添加模型openai,和 ollama,第一次进入页面需要修改默认密码

这是首页

在这里插入图片描述

首先在【系统管理-模型设置】配置要用的模型,

ollama

图片

点击【添加模型】,选择供应商【Ollama】,直接进入下一步填写 Ollama 供应商的大模型表单。或者左侧供应商先选择【 Ollama 】,然后点击【添加模型】,则直接进入 Ollama 表单。

  • 模型名称:MaxKB 中自定义的模型名称。
  • 模型类型:大语言模型或向量模型。
  • 基础模型:供应商的 LLM 模型,支持自定义输入,但需要与供应商的模型名称保持一致,系统会自动下载部署模型。
  • API 域名和 API Key: Ollama 服务地址,例如:http://42.92.198.53:11434 。若没有设置 API Key,可以输入任意字符。
    点击【添加】后校验通过则添加成功,便可以在应用的 AI 模型列表选择该模型。

chatgpt

图片

如果没有梯子,这个地址你也可以使用国内的代理商的地址,需要可以找我哈哈【夹带个私货】

在模型管理中,点击供应商【 OpenAI 】,直接进入下一步填写 OpenAI 的模型表单。
或者左侧供应商先选择【 OpenAI 】,然后点击【添加模型】,则直接进入 OpenAI 的模型表单。

  • 模型名称:MaxKB 中自定义的模型名称。
  • 模型类型:大语言模型。
  • 基础模型:供应商的 LLM 模型,支持自定义输入,下拉选项是 OpenAI 常用的一些大语言模型如:gpt-3.5-turbo-0613、gpt-3.5-turbo、gpt-4 等。
  • API 域名:国外服务器:https://api.openai.com/v1,国内服务器则填写:反向代理地址/v1。* API Key:访问 OpenAI 的 Key。

2、配置知识库

图片

点击创建,您也可以 需要一个web站点

图片

在这里上传知识库文件

在这里插入图片描述

3、应用创建

图片

点击创建一个应用,这个应用可以是单纯聊天,也可以使用知识库,这里我上传了一个个人简历做知识库,配置了国内的代理,这就是一个rag了

图片

记得【保存并发布】

集成到我的网站

点击你自己创建的应用的概览,里边有个 【嵌入第三方】

在这里插入图片描述

复制这个代码,放入你的主页,就可以了,如下我本地测试的

图片

图片

哈哈,只能说,真的太赞了,我的网站 拥有了人工智能,各位站主试试吧

如何学习大模型

现在社会上大模型越来越普及了,已经有很多人都想往这里面扎,但是却找不到适合的方法去学习。

作为一名资深码农,初入大模型时也吃了很多亏,踩了无数坑。现在我想把我的经验和知识分享给你们,帮助你们学习AI大模型,能够解决你们学习中的困难。

我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习,等录播视频免费分享出来,需要的小伙伴可以扫取。

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向,东学一点西学一点,像只无头苍蝇乱撞,我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。

在这里插入图片描述

二、AI大模型视频教程

在这里插入图片描述

三、AI大模型各大学习书籍

在这里插入图片描述

四、AI大模型各大场景实战案例

在这里插入图片描述

五、结束语

学习AI大模型是当前科技发展的趋势,它不仅能够为我们提供更多的机会和挑战,还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型,我们可以深入了解深度学习、神经网络等核心概念,并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时,掌握AI大模型还能够为我们的职业发展增添竞争力,成为未来技术领域的领导者。

再者,学习AI大模型也能为我们自己创造更多的价值,提供更多的岗位以及副业创收,让自己的生活更上一层楼。

因此,学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值