新来个技术总监,把大模型API接入的那叫一个优雅,真是佩服!

2025生产级RAG实战:上下文感知检索与具身式架构 RAG(检索增强生成)已从概念验证迈入高并发、强约束的工程化阶段。其核心原理在于打破静态查询假设,通过意图解构、多源混合检索与动态重排序,实现对用户真实需求的精准响应。技术价值体现在显著提升关键信息首屏命中率、降低模糊查询失败率,并支撑医疗、政务、金融等对准确性与可追溯性要求严苛的场景。本文聚焦Contextual Retrieval(上下文感知检索)与Agentic RAG(具身式RAG)两大落地关键,详解如何让检索器理解对话状态、适配用户角色、自主拆解任务,从而构建真正可靠、可解释、可运维的生产级RAG 阅读详情

周一,公司空降一名逼里巴巴的技术总监老王,我很不服气,就给他出了道难题,限时 30 分钟把最新大模型 GLM-4-AllTools 对接进技术派的派聪明 AI 助手里。

结果没想到,他还真的完成了,完成的还挺优雅,让我佩服的五体投地。于是我就根据老王的代码写了一篇大模型MaaS开放平台的接入体验,一起来欣赏下😄,据说把下面这两条项目经历润到简历上,投出去的简历一投一个准。

  • 派聪明 AI 助手通过 WebSocket 实现前后端的及时通信,并且通过异步流的方式实现消息一点一点输出的效果;

  • 应用策略模式来支持多家 AI 大模型的灵活对接,目前已经成功集成了智谱 AI AllTools API、讯飞星火 4.0 API 和 GPT 4 API。

好,我们先来看一下效果。

直接问一道比较复杂的问题:“帮我查询2018年至2024年,每年五一假期全国旅游出行数据,并绘制成柱状图展示数据趋势。”

讲真,这道题是有难度的,结果令我没想到的是,不到 20 毫秒,派聪明 AI 助手就给出了答案。

点开链接瞅一眼,这柱状图生成的可以啊,2020 年是最低谷,然后逐步回暖,果然是符合历史背景的。

作为一名严谨的程序员,我稍微查了一下,数据较为可靠(😄)。

牛啊,我只能说。

于是我到这个MaaS开放平台瞅了一眼,果然有新发现。

Alltools API 能够让我们在应用程序中构架高度专业化的 AI 助手,目前主要的功能有:智能编码助手、安全代码沙盒、实时联网搜索、绘图设计工具、函数调用能力等,未来还会有网页浏览工具、知识库增强检索等。

看到这,是不是大家就忍不住了,纷纷要问,老王是怎么实现的啊?如果大家也想接入 Alltools API 实现一个智能 AI 助手,那就跟着二哥的教程来吧,五步就能搞定。

第一步,登录智谱AI大模型MaaS开放平台,新用户注册能 500 万的 GLM-4 tokens,适用最新的 glm-4-0520 和 glm-4-alltools 模型推理。

https://bigmodel.cn/

第二步,获取 API keys,每家大模型都需要哦。

第三步,拉取技术派在 GitHub 上的最新源码,智谱 AI 的对接主要在 paicoding-core 这个 module 下。

https://github.com/itwanger/paicoding

注意,Maas 平台已经帮我们对智谱 AI 大模型做了高度封装,Maven 项目可以直接在 pom.xml 文件中引入以下依赖就可以调用 API 接口了。

在这里插入图片描述

在技术派中,老王还通过设计模式对各个大模型进行了灵活配置,大家可以在 getRecommendAiSource 这个方法中添加其他大模型进来。

第四步,在 application.yaml 中配置智谱 AI 的 API keys,模型为glm-4-alltools。

第五步,启动 main 主类在浏览器里中打开 http://127.0.0.1/chat 就可以访问智谱 AI 了。

我这里多讲几句 AllTools API 对接的核心代码,在 ZhipuIntegration 这个类下面。

实现起来其实不难,首先是发起请求,主要封装在 ChatCompletionRequest 这个类中,然后是拿到响应信息后流式返回给客户端,主要是处理 ModelApiResponse 这个类。

目前 AllTools 仅支持流式 SSE 输出,也就是大家看到的消息一点一点在对话框中显示的效果,后台打印的信息其实是这样的,也是一点一点的从智谱 AI 那里得到响应。

用流程图来展示,其实是下面这样的,智谱 AI 会先联网查询,然后将数据汇总,并且根据数据绘制柱状图,生成图片后返回返回响应结果。

AllTools API 也是智谱 AI 最新推出的面向开发者的 API 服务,集成了调用工具的能力,并且能够自主使用多种工具组合和多轮对话来提供大模型服务。

新模型的推理能力也非常的强,支持的上下文环境也更长了,相比 ChatGLM3-6B 提升了 40%。

关键对接起来也非常的方便,仅需要四步就完成了。技术派的前后端通信采用的是 WebSocket 这种形式,能够比较实时地将智谱 AI 的数据返回给用户,自我感觉实现还是非常优雅的。

好,回到技术的本质,让智谱 AI 用 Python 画一个爱心:

挺聪明的的样子哈😄,最后,再让智谱 AI 来一道逻辑推理题:学校食堂运来19吨煤,已经烧了16吨,平均每天烧0.4吨,剩下的煤每天烧0.3吨,还要几天烧完?给出求解步骤。

你别说,推理的还挺不错,我掐指一算,答案没错呢。

另外,我需要提一句的是,智谱 AI 也非常注重开源的力量,ChatGLM-6B 于 2023年3月14日开源,目前在GitHub上收获了 40k+ star。

最新的 GLM-4-9B-Chat 模型也有 3.8k 的 star 了,新版本的开源模型也将依赖的 transformers 版本升级到 4.42.4。

大家不仅可以在本地尝试对接 AllTools API,也用 GLM-4-9B-Chat 来搭建属于自己的小模型哦。

官方文档:https://open.bigmodel.cn/dev/howuse/glm4alltools

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】
MC33PT2000控制详解一:PT2000 Dev Studio工具的使用 MC33PT2000共可控制6个高低端(如控制6个高压喷油器),1个高低端(如控制高压油泵)和DC-DC模块(如升压到65V). 阅读详情

相关推荐

SpringBoot项目整合达梦数据库(MYSQL 转换 达梦数据库)

注意:当迁移过程中出现下面问题时,如有触发器或者外键,需要先关掉触发器和外键,然后进行迁移,不然会导致迁移失败。(2)dm.ini修改【#compatibility】的【COMPATIBLE_MODE】=4。3、添加用户:如果导入的DM数据库需要和MYSQL的用户一样,添加ROOT用户。方法一:服务器配置:设置系统兼容性(DM控制台工具),兼容MySQL。服务器配置又该有两种方式:①DM控制台工具修改;MYSQL的数据表转换成DM的数据表时,点击转换按钮。在这里操作:MYSQL数据库迁移至DM数据库。

m0_74824635的博客 2013

派聪明(PaiSmart)项目运行教程

派聪明是二哥7.31上线的项目,我今天花了一天时间才运行成功,配置环境的过程遇到了很多bug,后面也是各种报错,最后实在受不了了,直接把文件夹删了,重新拉取项目,一次就成功啦!!!!!!补充一些Windows启动的命令首先找到bin目录双击点进去,然后:输入cmd后回车,就会弹出来:再输入elasticsearch启动:Redis启动:也是上面的操作,先到Redis根目录,输入。

psq1999的博客 3977

28-基于STM32单片机的便携式健康监测系统设计与实现(程序+原理图+元件清单)

本文详细介绍了基于STM32单片机的便携式健康监测系统设计与实现,该系统集成MAX30102光电传感器和MSP20压力传感器,实时监测心率、血氧和血压等关键生理指标。通过STM32F103C8T6主控芯片和HC-05蓝牙模块,实现数据采集、处理及无线传输,具有便携性高、操作简便等特点,适用于家庭健康监护和户外运动场景。

weixin_29191669的博客 420

派聪明知识库项目---关于IK分词插件的解决方案

今天上午主要是解决一下这个IK的安装的问题,现在深度还原一下这个过程当中遇到的问题,以及我自己的解决方案; 1.下载插件 1.1文件格式问题--zip文件 二哥的教程里面那个是失效的,反正我自己打开是

hehehaha2025的博客 104

ArcFace vs 传统算法:实测MTCNN+ArcFace在PyCharm中的识别准确率(含完整对比数据)

本文通过PyCharm开发环境实测MTCNN+ArcFace组合在人脸识别中的性能表现,并与传统算法进行多维度对比。实验数据显示,ArcFace在LFW数据集上达到99.83%的准确率,显著优于传统方法。文章还提供了完整的代码实现和工程优化建议,为开发者提供实用的技术参考。

醉三国 233

解密DS90UB983-Q1的汽车电子魔法:如何通过FPD-Link IV实现4K视频的无缝传输

本文深入解析了德州仪器DS90UB983-Q1串行器芯片如何通过FPD-Link IV技术在汽车电子中实现4K视频无缝传输。文章详细介绍了该技术的核心功能,包括多流传输(MST)模式、热插拔检测(Hot Plug Detect)机制以及电磁兼容性设计,为车载信息娱乐系统提供了高带宽、低延迟的可靠解决方案。

i3j4k5的博客 242

新来个技术总监,把AI大模型接入的那叫一个优雅,佩服!

目前 AllTools 仅支持流式 SSE 输出,也就是大家看到的消息一点一点在对话框中显示的效果,后台打印的信息其实是这样的,也是一点一点的从智谱 AI 那里得到响应。周一,公司空降一名逼里巴巴的技术总监老王,我很不服气,就给他出了道难题,限时 30 分钟把最新大模型 GLM-4-AllTools 对接进技术派的派聪明 AI 助手里。最后,如果大家在对接 GLM-4-AllTools 的过程中遇到接不了的难题,也可以联系二哥哦,二哥不会的话,还可以找逼里巴巴的技术总监老王。

沉默王二 1898

补丁1.0:使用Eviews做ADF检验

补丁1.0:使用Eviews做ADF检验

Jet4505的博客 1961

被字节面试官嘲笑没Agent项目?啃透这篇LoRA+RAG大模型教程,直接降维打击!

老王就看了一眼我的简历,就一眼,0.1秒都不到,就开始上压力了:“你不知道现在是 AI 时代吗?简历上连个 Agent 项目都没有,你是怎么敢投 AI 岗的?”

weixin_58753619的博客 648

ROS从入门到精通2-7:Gazebo仿真之动态生成障碍物

动态生成障碍物在机器人导航、碰撞避障算法测试、多机协同等领域应用广泛,可以帮助开发人员快速测试,本文介绍该技术并提供基于ROS Gazebo的实现

FRIGIDWINTER的博客 4899

silero-vad 训练自己的数据

silero-vad 训练自己的数据

jacke121的专栏 816

AI学习——AI大模型接入

摘要:本文系统介绍了AI大模型的开发框架与实现技术。首先解析了AI大模型的概念、分类和调用方式(SDK、HTTP、SpringAI、LangChain4j),重点阐述了SpringAI框架的核心特性,包括统一API接口、结构化输出、对话记忆等功能。详细讲解了多轮对话的实现方法,包括Advisor机制、ChatMemory存储等关键技术。最后提供了扩展知识,涵盖自定义Advisor开发、结构化输出转换以及对话记忆持久化等进阶实践,为开发者构建智能对话系统提供了完整的技术指导。

2301_81283571的博客 1553

配置 SAP Fiori 服务的 ICF 节点:从 SICF 激活到访问链路打通的完整实践

在SAP Fiori项目实施中,ICF节点配置是关键前置条件却常被忽视。ICF(Internet Communication Framework)作为HTTP请求入口,需要通过SICF事务码激活相关服务节点,否则即使应用开发完善,用户仍可能遇到页面无法访问等问题。典型问题表现为:磁贴可点击但页面空白、资源加载失败等。激活路径主要涉及三组节点:bsp分支下的管理入口、ui5_ui5分支下的应用资源,以及public/bc下的公共资源。项目实施中需特别注意同名服务在不同分支下的差异化作用,确保完整链路通畅。IC

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 264

新来个技术总监,把大模型API接入的那叫一个优雅,佩服!

周一,公司空降一名逼里巴巴的技术总监老王,我很不服气,就给他出了道难题,限时 30 分钟把最新大模型 GLM-4-AllTools 对接进技术派的派聪明 AI 助手里。结果没想到,他还真的完成了,完成的还挺优雅,让我佩服的五体投地。于是我就根据老王的代码写了一篇大模型MaaS开放平台的接入体验,一起来欣赏下😄,据说把下面这两条项目经历润到简历上,投出去的简历一投一个准。派聪明 AI 助手通过 WebSocket 实现前后端的及时通信,并且通过异步流的方式实现消息一点一点输出的效果;

m0_59164304的博客 1337

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

【2025版】最全面的大模型API接入教程,从零基础到精通,精通收藏这篇就够了!

周一,公司空降一名逼里巴巴的技术总监老王,我很不服气,就给他出了道难题,限时 30 分钟把最新大模型 GLM-4-AllTools 对接进技术派的派聪明 AI 助手里。结果没想到,他还真的完成了,完成的还挺优雅,让我佩服的五体投地。于是我就根据老王的代码写了一篇大模型MaaS开放平台的接入体验,一起来欣赏下😄,据说把下面这两条项目经历润到简历上,投出去的简历一投一个准。派聪明 AI 助手通过 WebSocket 实现前后端的及时通信,并且通过异步流的方式实现消息一点一点输出的效果;

Libra1313的博客 3794

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

新任技术总监大显身手,AI大模型接入工艺精湛,令人赞叹!

周一,公司空降一名逼里巴巴的技术总监老王,我很不服气,就给他出了道难题,限时 30 分钟把最新大模型 GLM-4-AllTools 对接进技术派的派聪明 AI 助手里。结果没想到,他还真的完成了,完成的还挺优雅,让我佩服的五体投地。于是我就根据老王的代码写了一篇大模型MaaS开放平台的接入体验,一起来欣赏下😄,据说把下面这两条项目经历润到简历上,投出去的简历一投一个准。好,我们先来看一下效果。

2401_84495872的博客 636

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

如何将腾讯混元大模型AI接入自己的项目里(中国版本ChatGPT)

基于腾讯混元大模型AI的智能文本对话AI机器人API,支持聊天对话、行业咨询、语言学习、代码编写等功能.您的AppKey和uid是重要信息,请务必妥善保存,避免泄漏!您的AppKey和uid是重要信息,请务必妥善保存,避免泄漏!您的AppKey和uid是重要信息,请务必妥善保存,避免泄漏!AppKey申请通过后,登录。请求方式: POST。

qq_48896417的博客 5380

AI大模型接入

AI 大模型是指具有超大规模参数(通常为数十亿到数万؜亿)的深度学习模型,通过对大规模数⁠据的训练,能够理解、生成人类语言,؜处理图像、音频等多种模态数据,并展⁠示出强大的推理和创作能力。

老皮的博客 1261

太简单了,Spring AI 接入 DeepSeek(附完整避坑指南)

被 Spring AI 惊艳到了,比想象的简单多了,一个 Controller 就能接入 AI,帮了我卡住三天的大忙。

qq_35425070的博客 8894

AI大模型接入实战:概念、方式与代码详解

AI大模型是指那些拥有超大规模参数的深度学习模型,它们经过海量数据训练,能够处理多模态数据(如文本、图像、音频等),具备逻辑推理和代码编写等"涌现能力"。这些模型通常拥有数十亿甚至数千亿的参数,能够理解复杂指令并生成高质量的内容。OpenAI:提供GPT-4o(多模态)、GPT-4(文本+图像)、GPT-3.5 Turbo等模型Anthropic:推出Claude 3系列模型Google:开发了Gemini Ultra/Pro/Nano系列Meta:开源了Llama 3和Llama 2模型。

lenyan~的博客 2390

老板下了死命令:限你一天,把 RAG 升级成 Agent,我反抗后无效,只能掏出 Codex+GPT-5.5 猛猛干

假期刚完,老板就下了死命令:“派聪明现在只能 RAG 问答,你现在立刻马上给它升级成 Agent,要能自己 tool use、自己 ReAct 那种。限你一天。

weixin_58753619的博客 495

使用AI大模型的正确姿势!接入知识库、微调,5种方法,总有一种适合你

真正的魔力在于结合这些方法:提示词、RAG、微调、切换模型和使用多模态大模型。利用每种方法的优势,并将其应用于文本和图像数据,以此用大模型提升你的生产力。

python12345_的博客 3415

企微客服如何接入ai大模型

教你如何实现,企微客服对接AI大模型(deepseek)

iyque的博客 1257

在自己项目中接入AI(API)

在自己的java项目中通过apikey接入ai使用

OGtwelve的博客 4352
上一篇: 聊聊普通工程师如何入坑大模型 | 附超详细教程!
下一篇: Meta亲自下场教学Llama3.1 Agent/RAG!
冻感糕人~
博客等级 码龄3年 8926粉丝 2384原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值