基于 Koupleless 构建你的 AI 应用:三种高效研发范式

【WILEY】从Revision到Online:一次投稿的完整状态演进与关键节点实战解析 本文详细解析了从Revision到Online发表的完整投稿流程,包括修改稿准备、回复信撰写、状态跟踪等关键节点。特别针对Wiley期刊,提供了实用的操作技巧和常见问题解决方案,帮助作者高效完成论文修改与发表。 阅读详情

刘煜(凌真)

蚂蚁集团高级技术专家

在线业务 Serverless 化负责人

在 PaaS、中间件、云原生等领域有 10 年以上从业经验。2016 年加入蚂蚁集团后,长期深耕于 PaaS、Serverless、中间件相关技术领域,同时拥有商业化成功经验。目前致力于 Serverless 技术在蚂蚁集团和开源社区的规模化推广与落地,荣获了中国信通院评选颁发的云原生创新技术案例奖。

本文 1614 字,预计阅读 3 分钟 


背景(Background)

在 AI 发展浪潮下,随着模型能力和工具生态的不断完善,在企业和个人开发者当中涌现出了不少 AI 创新应用(智能体),而且这个趋势在未来将不断提速,如何高效、灵活地构建与迭代这些 AI 应用,是开发者面临的关键挑战之一。

本文旨在通过介绍蚂蚁集团 3 种常见的 AI 应用研发范式,以期帮助开发者高效的构建出自己的 AI 应用。

01

超级智能体模式:复杂任务的协同编排

第一种研发范式是 “超级智能体”。这一类智能体一般较为复杂,需要编排和协同子智能体、MCP 服务、RAG 服务、Memory 服务等来完成一个或者一系列任务。这类智能体可以利用 Koupleless 通过如下架构来高效实现:

图 1 超级智能体模式架构示意图

在这种架构下,基座沉淀了常见的 AI 编程框架或者某种流程引擎以及入口服务,而模块则封装了 AI 应用常见的各个子功能。基座与模块、模块与模块之间会有大量 0 开销的相互调用。

这里举一个例子:所有的入口流量进入入口服务之后,可以路由给记忆、检索召回、上下文处理等模块,进而请求可以继续路由流转至 Planning 模块或者意图识别模块,以调用大模型制定执行规划或者识别意图,最后经过各个子智能体模块和工具模块协同完成处理,整个过程支持多轮的循环处理。

 Tip

图 1 中所有模块仅作举例,具体需要有多少模块,如何划分模块,可以视业务需求而定。

通过下图,可以更清晰地理解这种研发范式下的时序流程:

图 2 典型超级智能体时序流程图

通过将超级智能体“分而治之”,逐步拆解成功能相对单一且内聚的模块,开发者就可以非常高效、快速地迭代各个子智能体、Prompt、工具及各种服务。此外,利用 Koupleless 天然的模块多版本共存能力还可以轻松实现 A/B 实验,比对不同版本子智能体、工具和各个服务的效果,从而加速超级智能体的迭代和效果优化,迅速响应业务需求。

02

智能体平台模式:多个垂类智能体快速孵化

第二种研发范式是独立智能体。这类智能体功能一般较为独立和单一,但需要整合多种工具与服务。在这种范式中,可以将变更相对不频繁的一些通用类工具和服务(例如相对固定的 RAG 服务、记忆服务、意图识别服务、输入输出处理、上下文处理、日志/Tracing/Metrics 等通用服务)下沉到基座,从而让基座成为某个垂直领域的智能体通用平台。

在此平台上,通过复用各种基座公共服务,能够快速迭代出一个个独立的智能体模块,也可以针对独立智能体模块,快速迭代优化效果并实现业务需求。

图 3 独立智能体平台模式架构示意图

在这种范式下,智能体模块里一般会定义入口服务,流量从模块中进入,再与基座交互,复用基座的公共服务,从而完成一个或者一系列独立任务。

03

混合模式:灵活适应多样化需求

Koupleless 所支持的智能体研发范式并不是固定的,由于模块和基座可以灵活抽象、灵活划分,且模块与模块、模块与基座之间均可实现近乎零开销的任意通信,因此上文所述的超级智能体模式和智能体平台模式是可以在一个应用进程中共存的。

例如,部分智能体可以采用基座编排子智能体和工具模块的方式实现快速迭代(此时入口服务位于基座);而另一些智能体则可以以独立模块的形式,复用或编排基座中的公共服务进行快速迭代(此时入口服务位于模块)。这种研发范式即所谓的混合范式,充分满足了 AI 应用多样化的开发需求。

总结(Summary)

本文简要讲述了 Koupleless 高效支撑智能体迭代的 3 种研发范式,这些范式在蚂蚁集团内部积累了不少成功实践的案例,希望这篇文章能对已经或者将要开发智能体的你带来新思路和新方法,也希望 Koupleless 在 AI 时代下能助力多语言开发者去更高效地迭代 AI 应用的功能与效果。欢迎大家加入 Koupleless 社区与我们一同交流讨论!

🌐 社区官网:https://koupleless.io/

🌐 Github 官网:https://github.com/koupleless/koupleless/issues

👋扫码加入社区

社区钉钉群:

24970018417 

   社区微信群   

图片

计算机组成原理(第三版)唐朔飞-第九章控制单元的功能-课后习题 阅读详情

相关推荐

深入解析Transformer三大注意力机制:自注意力、交叉注意力与因果自注意力

注意力机制是深度学习中的核心概念,它模拟了人类在处理信息时选择性聚焦的能力。其基本原理是通过计算查询与键的相似度,动态地为值分配权重,从而提取关键信息。这一机制解决了传统序列模型(如RNN)难以并行化和捕获长距离依赖的痛点,技术价值在于显著提升了模型的计算效率和表征能力。在自然语言处理、计算机视觉等应用场景中,注意力机制已成为构建强大模型的基石。本文聚焦于Transformer架构中的三种核心注意力变体:自注意力用于建立序列内部的全局关联,交叉注意力连接编码器与解码器的信息,而因果自注意力则确保自回归生成的

weixin_29094775的博客 413

高效降本|深度案例解读 Koupleless 在南京爱福路的落地实践

文|祁晓波南京爱福路汽车科技基础设施负责人主要研究微服务、可观测、稳定性、研发效能、Java 中间件等领域。本文4812字 阅读12分钟Koupleless(原 SOFAServerless)自 2023 年开源以来已经落地了若干企业,这些企业也见证了从 SOFAServerless 到 Koupleless 的品牌&技术能力迭代升级。随着 Koupleless 1.0 的重磅发布...

金融级分布式架构 1612

现代 AI Agent 编排技术全景(1)—— 分类体系与四大技术维度

本文介绍基于 LLM 的现代 Agent 分类体系与四大技术维度,形成能够刻画不同 Agent 产品架构特征的分类法

佚失的诗篇 236

何谓“范式”

“范式”在科技领域提出已经超过60年,一经提出,就失去了作者的控制,被多方解读。当下之所以被提出和重视,是因为我们又站在了“范式转换”的前夜.

海晏河清的博客 1523

汇丰外包Java岗面试复盘:Zoom面1.5小时,从英语、粤语到现场敲代码的极限挑战

本文详细记录了汇丰银行外包Java岗位的面试全过程,包括多语言切换(英语、粤语)的技术沟通挑战和现场编码测试的实战经验。从高并发编程到JVM调优,面试不仅考察技术深度,更注重实战问题解决能力。文章分享了应对跨国银行技术面试的实用策略,帮助Java开发者在跨文化环境中提升竞争力。

weixin_42524824的博客 363

ISO7816协议深度解析-简单易懂协议详解(一)-- 复位,字符帧,及ATR

1. 摘要 IC卡必须支持T=0或T=1的协议,但不是同时支持这两种协议,而终端则必须同时支持T=0和T=1的协议。 • T=0通讯协议是异步半双工字符传输协议; • T=1通讯协议是异步半双工块传输协议; 在ISO7816-3标准中,具体规定了这两种协议:T0和T1。 IC卡所用的协议在TD1中指定,如果在复位应答信息中没有TD1,则表示用T=0的协议进行通讯。在复位应答后,IC卡和终端之间即用IC卡指定的协议进行通讯。 2. 硬件接口 1)VCC:电源输入(A类:5V, B类:3V) 2)GND:地 3

代码打工人的博客 4万+

单体应用协作开发太难?Koupleless 带来拆分插件,帮你抽丝剥茧提高协作开发效率!...

梁栎鹏(立蓬)蚂蚁集团技术工程师云原生领域工程师就职于蚂蚁集团中间件团队,参与维护与建设蚂蚁 SOFAArk 和 Koupleless 开源项目,参与内部 SOFAServerless 产品的研发和实践。本文4603 字,预计阅读10 分钟background你的企业应用协作效率低吗?明明只改一行,但代码编译加部署要十分钟?多人开发一套代码库,调试却频频遇到资源抢占和相互覆盖,需求上线...

金融级分布式架构 1253

【2021末九软工边缘人保研】川大-中科院网络中心-华师夏令营+哈工大本-中科院网络中心-西交-厦大-中山-武大-北航预推免

2021末九软工边缘人保研记录一、写在前面二、个人背景 一、写在前面 2020年计算机保研可谓是诸神黄昏,卷的头破血流(指我等菜鸡)。疫情的原因,今年的夏令营和预推免基本全部改为线上,机试取消,能不能拿到offer基本完全取决于背景以及面试表现(当然也有个别头铁非要机试,甚至笔试的学校)。大佬们offer收割不停,我等边缘人只能看着一封封拒信发呆。 这种情况下,只有985 Rank5%以及211 Rank2%之前的大佬能够较为轻松地拿到面试入场券。贴一个上交电院夏令营要求你们感受一下: 预推免相比起夏令营

weixin_43222706的博客 4235

如何在一个基座上安装更多的 Koupleless 模块?

梁栎鹏(立蓬)蚂蚁集团技术工程师云原生领域工程师就职于蚂蚁集团中间件团队,参与维护与建设蚂蚁 SOFAArk 和 Koupleless 开源项目,参与内部 SOFAServerless 产品的研发和实践。本文 2773 字,预计阅读 7 分钟本文属于 Koupleless 进阶系列文章第五篇,默认读者对 Koupleless 的基础概念、能力都已经了解。如果还未了解过的可以在文末「阅读原文」查看...

金融级分布式架构 1251

【UE5】多用户协同编辑实战:从配置到实时协作

本文详细介绍了在虚幻引擎5中配置和使用多用户协同编辑功能的完整流程。从启用Multi-User Editing插件、配置UDP Messaging网络通信,到启动服务器、创建会话并实现实时协作,提供了从环境准备到实战协作的清晰指南。文章还分享了资产同步、场景分批、对象锁定等实用技巧,并强调了网络配置与版本一致性等关键避坑点,旨在帮助中小型团队提升关卡设计和原型开发的协作效率。

weixin_29001683的博客 267

PicoRV32 笔记 05

PicoRV32 本地总线接口

jjinl的专栏 1574

Koupleless 助力「人力家」实现分布式研发集中式部署,又快又省!

文|赵云兴,葛志刚仁励家网络科技(杭州)有限公司架构师专注 to B 领域架构本文2111字 阅读5分钟背景 Background人力家由阿里钉钉与人力窝共同孵化,致力于为企业提供以薪酬为核心的一体化 HR SaaS 解决方案,加速对中国人力资源服务行业数字化赋能。人力资源软件通常由多模块组成,如人力资源规划、招聘、培训、绩效管理、薪酬福利、劳动关系,以及员工和组织管理等。...

金融级分布式架构 783

AI Agent Harness Engineering 的“热插拔”能力:模块化设计思路

本文我会结合我在大厂做AI Agent平台的实战经验,从核心概念、架构设计、代码实现、落地实战多个维度,给大家详细讲解AI Agent Harness Engineering的核心能力——热插拔的模块化设计思路。我们会从问题根源出发,一步步搭建一个完整的支持热插拔的Agent Harness框架,包含组件抽象、注册中心、生命周期管理、配置驱动、容错机制等核心模块。

AI天才研究院 503

<span class=“js_title_inner“>SOFA Weekly|社区本周贡献、本周推荐阅读</span>

rchitecture Stack)是蚂蚁集团自主研发的金融级云原生架构,包含了构建金融级云原生架构所需的各个组件,包括微服务研发框架,RPC 框架,服务注册中心,分布式定时任务,限流/熔断框架,动态配置推送,分布式链路追踪,Metrics 监控度量,分布式高可用消息队列,分布式事务框架,分布式数据库代理层等组件,也是在金融场景里锤炼出来的最佳实践。专访|杨伟诺:从“开源小白”到项目贡献者,杭电研究生如何在 OSPP 完成第一个 AI 安全插件?从“云原生”到“智能原生”,AI 中间件走到哪一步了?

金融级分布式架构 66

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

SOFA Weekly|开源之夏新晋「开源人」的实战报告、社区本周贡献、本周推荐阅读

rchitecture Stack)是蚂蚁集团自主研发的金融级云原生架构,包含了构建金融级云原生架构所需的各个组件,包括微服务研发框架,RPC 框架,服务注册中心,分布式定时任务,限流/熔断框架,动态配置推送,分布式链路追踪,Metrics 监控度量,分布式高可用消息队列,分布式事务框架,分布式数据库代理层等组件,也是在金融场景里锤炼出来的最佳实践。拥抱 AGI 时代的中间层⼒量:AI 中间件的机遇与挑战。从“云原生”到“智能原生”,AI 中间件走到哪一步了?筛选每周精华问答,同步开源进展。

金融级分布式架构 107

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

SOFA Weekly|“佛系”开源人的打怪之路、社区本周贡献、本周推荐阅读

rchitecture Stack)是蚂蚁集团自主研发的金融级云原生架构,包含了构建金融级云原生架构所需的各个组件,包括微服务研发框架,RPC 框架,服务注册中心,分布式定时任务,限流/熔断框架,动态配置推送,分布式链路追踪,Metrics 监控度量,分布式高可用消息队列,分布式事务框架,分布式数据库代理层等组件,也是在金融场景里锤炼出来的最佳实践。基于 Koupleless 构建你的 AI 应用:三种高效研发范式。拥抱 AGI 时代的中间层⼒量:AI 中间件的机遇与挑战。筛选每周精华问答,同步开源进展。

金融级分布式架构 167

蓝牙模块HM-10手册

蓝牙模块HM-10手册,该手册对蓝牙模块HM-10进行了详细的介绍和使用方法以及一些AT指令。

SOFA Weekly 年末特辑|SOFAer 开源年度、社区本周贡献、本周推荐阅读

rchitecture Stack)是蚂蚁集团自主研发的金融级云原生架构,包含了构建金融级云原生架构所需的各个组件,包括微服务研发框架,RPC 框架,服务注册中心,分布式定时任务,限流/熔断框架,动态配置推送,分布式链路追踪,Metrics 监控度量,分布式高可用消息队列,分布式事务框架,分布式数据库代理层等组件,也是在金融场景里锤炼出来的最佳实践。从“云原生”到“智能原生”,AI 中间件走到哪一步了?SOFAer 开源年度 · 新春贺岁。筛选每周精华问答,同步开源进展。

金融级分布式架构 59

SOFA Weekly|SOFAStack 社区开源 8 周年、社区本周贡献、本周推荐阅读

rchitecture Stack)是蚂蚁集团自主研发的金融级云原生架构,包含了构建金融级云原生架构所需的各个组件,包括微服务研发框架,RPC 框架,服务注册中心,分布式定时任务,限流/熔断框架,动态配置推送,分布式链路追踪,Metrics 监控度量,分布式高可用消息队列,分布式事务框架,分布式数据库代理层等组件,也是在金融场景里锤炼出来的最佳实践。🦐 不办 Meetup,开挑战赛!SOFAStack PR Challenge | SOFAStack 8 周年。SOFAStack 社区开源 8 周年。

金融级分布式架构 64

SOFA Weekly|「开源之夏」90天成长手记、社区本周贡献

rchitecture Stack)是蚂蚁集团自主研发的金融级云原生架构,包含了构建金融级云原生架构所需的各个组件,包括微服务研发框架,RPC 框架,服务注册中心,分布式定时任务,限流/熔断框架,动态配置推送,分布式链路追踪,Metrics 监控度量,分布式高可用消息队列,分布式事务框架,分布式数据库代理层等组件,也是在金融场景里锤炼出来的最佳实践。杨伟诺:从“开源小白”到项目贡献者,杭电研究生如何在 OSPP 完成第一个 AI 安全插件?从“云原生”到“智能原生”,AI 中间件走到哪一步了?

金融级分布式架构 77

Koupleless 2024 年度报告 & 2025 规划展望

赵真灵花名:有济Koupleless 负责人蚂蚁集团技术专家Koupleless 社区的开发和维护者,曾负责基于 K8s 的应用研发运维平台、Node/Pod 多级弹性伸缩与产品建设,当前主要负责蚂蚁及开源社区模块化应用架构演进和 Serverless 相关工作。本文4389 字,预计阅读8分钟时光匆匆又是一年。2024 落幕之际,我们对过去这一年做了回顾与总结,不仅是对一年以来每一位在 ...

金融级分布式架构 976

人工智能驱动的研发新范式

随着人工智能技术的快速发展,其正在深刻影响并重塑科学研究和产业研发的范式。高校、科研机构以及企业纷纷积极推动人工智能与科学研究的深度融合,探索科研智能(AI4R&D)这一全新领域。当前,科研智能已经在科学研究与产业研发领域取得了多项突破,展现出广阔的发展前景,有望进一步打通原始创新与产业应用之间的最后一公里,推动科技成果更快地转化为实际应用。关注公众号:【互联互通社区】,回复【AI417】...

1064

深度 | 新兴软件研发范式崛起,云计算全面走向 Serverless 化

11月3日,2022杭州·云栖大会上,阿里云智能总裁张建锋表示,以云为核心的新型计算体系正在形成,软件研发范式正在发生新的变革,Serverless 是其中最重要的趋势之一,阿里云将坚定推进核心产品全面 Serverless 化,帮助客户更好地实现敏捷创新。这篇文章想和大家探讨下,云计算全面走向 Serverless 的必然性。01软件架构和研发模式演变史Aliware企业的业务发展诉求一...

阿里巴巴中间件 502

六个原则,十个开发范式,二十三种模式

一、设计模式的六大原则 :1、开闭原则(Open Close Principle)开闭原则就是说对扩展开放,对修改关闭。在程序需要进行拓展的时候,不能去修改原有的代码,实现一个热插拔的效果。所以一句话概括就是:为了使程序的扩展性好,易于维护和升级。想要达到这样的效果,我们需要使用接口和抽象类,后面的具体设计中我们会提到这点。2、里氏代换原则(Liskov Substitution Principle

InE 4464

基于大模型软件应用系统研发范式的变革

摘要:银行业务系统研发正面临大模型驱动的范式变革。传统瀑布模型和敏捷开发难以应对快速增长的需求和架构挑战,而新范式通过需求、设计、架构和效能四个维度的智能化重构研发流程。关键技术突破包括全生命周期知识工程、自然语言与编码语言结合、可信保障机制等。落地需应对工程化、风险控制等挑战,未来将向领域专用大模型、人机协同界面演进。该变革将带来开发效率数量级提升、软件民主化和团队能力重构等深远影响。(149字)

weixin_50564625的博客 359

Koupleless 是一种模块化的 Serverless 技术解决方案

Koupleless 是一种模块化的 Serverless 技术解决方案,它能让普通应用以比较低的代价演进为 Serverless 研发模式,让代码与资源解耦,轻松独立维护,与此同时支持秒级构建部署、合并部署、动态伸缩等能力为用户提供极致的研发运维体验,最终帮助企业实现降本增效。随着各行各业的信息化数字化转型,企业面临越来越多的研发效率、协作效率、资源成本和服务治理痛点,接下来带领大家逐一体验这些痛点,以及它们在 Koupleless 中是如何被解决的。

920

软件开发范式选用原则

Normal 0 7.8 磅 0 2 false false false MicrosoftInternetExplorer4 <!-- /* Font

xu_zh_h的专栏 1818
上一篇: 拥抱 AGI 时代的中间层⼒量:AI 中间件的机遇与挑战
下一篇: SOFA Weekly|“佛系”开源人的打怪之路、社区本周贡献、本周推荐阅读
SOFAStack
博客等级 码龄7年 747粉丝 389原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值