Java Web开发API Boy如何进阶?

导语 | Java Web后台开发基本都离不开Spring生态这一套,Spring框架功能极其强大,会帮忙做许多工作,我们通常只需要在一个函数(包含request和response两个入参)中写处理逻辑即可。但是想要真正写好工业级的Java Web应用,对于开发细节必须有更深入的了解,比如一个Http请求发过来之后,解析请求的代码在哪里,是不是Spring框架做的解析?写的业务逻辑代码没有main函数入口,是如何被调用执行的?开发中用到的Listerner,Filter,Interceptor到底是什么,属于哪一个框架,怎么工作的?定义一个Java类,如何变成Spring IoC容器中的对象?面向切面编程的AOP到底怎么生效的?注解是怎么生效的?只有搞清楚了这些,理解了原理,开发起来才能有积累,不仅仅做一个API Boy。本文首先会介绍Java Web中用到的一些技术,然后简单介绍一下Spring框架完成了Java Web中的哪些功能,最后介绍Spring Boot开发的流程,以及Spring Cloud的学习资料链接。

一、JavaWeb技术

1. Servlet

首先介绍JavaWeb开发中的第一个名词Servlet。

通过维基百科上的介绍,我们知道:

1)严格定义的Servlet是一个Java的接口,并未实现,仅仅定义了Web服务器响应请求的一些方法。

2)广义的Servlet是指,实现了这个接口方法的一个Java类。

3)Servlet运行在Web服务器(比如Tomcat)中,当Web服务器接收到一个Http请求,Web服务器解析出request,并生成一个空的response,把这两个参数传给Servlet,接下来在Servlet中进行逻辑处理,最终把结果数据response给到Web服务器,再响应给请求端。


2. Jsp

了解了Servlet之后,不得不提的一个名词是Jsp,虽然现在前后端分离的Web开发方式下,已经比较少听到Jsp了,不过还是值得我们了解一下。

从浏览器请求一个HTML网页文件,可以渲染出一个静态网页。通过维基百科上的介绍,我们知道:

1)Jsp文件是一个类似于HTML文件的文件,不过其中可以写一些Java代码。

2)Jsp文件中,HTML部分为静态模版,Java代码部分可以动态获取一些数据填充在模版中。

3)Jsp文件最终运行时候,还是被编译转换成了一个Servlet,由Servlet来实现动态获取数据的逻辑,并拼接生成最终的HTML文件。

4)Jsp可以根据客户端的请求,动态的生成HTML等Web网页,最终返回给浏览器渲染出网页。

3. Servlet容器(以Tomcat为例)

现在进行Java Web的开发,通常直接就上Spring MVC/Spring Boot框架了,在Controller里面就开始处理请求request→做逻辑→最后返回response,让初学者很容易混淆HTTP服务器,Servlet容器与Spring框架的关系。这里先介绍一个常见的Web服务器Apache Tomcat,它本身包含了HTTP服务器,所以可以响应HTTP请求;同时它实现了对Servlet和JSP的支持,即我们自己编写的Servlet类可以运行在Tomcat这个Servlet容器中。

介绍到这里,大家是否已经对Java Web开发流程有了一些更清晰的认识:

1)前端发送的Http请求到Tomcat,Tomcat中包含可以响应HTTP请求的HTTP服务器。

2)Tomcat先解析HTTP请求中的参数,new一个request对象并赋值,同时会new一个空的response对象。

3)再利用Tomcat的Servlet引擎,把我们写的用来做逻辑处理的Servlet类new成对象,并把request对象和response对象作为参数传入到Servlet的方法中。

  • 如果请求的是静态资源,比如HTML页面,Tomcat会用自带的DefaultServlet处理请求,并将资源直接返回给前端。(正规的项目通常不会用Tomcat做静态资源服务器,因为所有资源请求都会通过DefaultServlet处理,会占用大量线程,极大影响性能,通常会前置一个静态资源服务器(nginx,apache),不仅做负载均衡,还能够高效处理返回静态文件。)

  • 如果请求的是动态资源,则用的是我们自己写的Servlet进行处理。

4)Servlet类中进行逻辑处理,最后把结果数据set到response对象中。

5)再给回到Tomcat,再给回到前端。

所以我们用Spring/Spring Boot框架的时候,主要逻辑代码其实是在Servlet类及其调用类中,然后网络通信相关的工作是Web服务器帮忙做的。

Tomcat服务器 = Web服务器 + Servlet/JSP容器。

4. Listener

Java Web开发时候,主要逻辑代码的入口是Servlet的实现类,除此之外,还可以通过监听器Listener实现一部分逻辑。在JavaWeb中Listener是Servlet规范定义的一种特殊类,主要用于监听指定对象(JavaWeb三大域对象)的特定事件(创建、销毁以及其属性变更),并进行响应处理。Listener是Servlet提供的扩展功能接口,有了这些扩展功能接口,我们就可以比较方便实现一些功能,比如统计网站的同时在线人数,可以使用HttpSessionListener,当Session创建时在线人数+1,Session销毁时在线人数-1,如果没有提供Listener,实现起来就会更加复杂。

介绍Listener之前,先介绍一下JavaWeb的三大域对象,ServletContext、HttpSession、ServletRequest。域对象有点像大型的map,可以通过getAttribute()和setAttribute()方法,存储/获取数据。

  • ServletContext 域:

生命周期:当我们的Web应用被加载进Servlet容器时,Web服务器创建代表整个Web应用的ServletContext对象,当服务器关闭或Web应用被移除时,ServletContext对象跟着销毁。 

作用范围:整个Web应用(应用范围)。

  • ServletRequest 域:

生命周期:在Servlet的 service(request, response) 方法调用前,由Web服务器创建ServletRequest,然后传入service方法。整个请求结束,ServletRequest 生命结束。

作用范围:(请求范围)整个请求链(请求转发也存在)。

  • HttpSession 域:

生命周期:HttpSession在第一次调用 servletRequest.getSession() 方法时,服务器会检查是否已经有对应的session,如果没有就在内存中创建一个session并返回。

作用范围:一次会话。

在JavaWeb中Listener主要用于监听三大作用域的创建、销毁,以及其属性变更,常用的Listener有六个:

  • ServletContextListener

  • ServletContextAttributeListener

  • HttpSessionListener

  • HttpSessionAttributeListener

  • ServletRequestListener

  • ServletRequestAttributeListener

每当Tomcat创建或销毁三大域对象,三大域对象调用get/setAttribute()方法,都会被这些Listener发现,然后触发调用指定的方法。Listener的实现是利用“观察者模式(Observer)”,有兴趣的读者可以自行搜索一下。


5. Filter

Filter有什么用?我们先看一个业务场景,我们的Web应用,我们希望在用户访问之前,先进行用户身份的确认,任何一次的访问,不管是访问Servlet的动态资源,还是访问Html的静态资源,都需要进行身份的确认。

我们知道从3中知道,在访问动态资源的Servlet时,我们是可以前置一段权限校验的代码,但是每一个Servlet都需要加上这一段严重耦合的重复代码,非常不合理;在访问静态资源,会通过Tomcat自带的DefaultServlet进行处理,我们没有办法修改它,没有办法添加权限校验的代码。

所以这里就需要一个新的环节,位于用户请求和Servlet之间,每一个用户请求,都先经过这个环节,这个环节中可以进行逻辑处理,然后再决定请求是否到达Servlet,这个环节就是Filter。

Filter的底层实现用到了责任链模式(FilterChain),有兴趣的同学可以自行查阅一下,可以将多个写好的Filter给串起来,请求访问的时候按照顺序执行。Filter在使用上是非常简单的,和Listener一样,只需要配置xml或者通过注解的方式配置,然后实现对应接口即可。Filter是属于Tomcat服务器的,Tomcat也有容器对象管理的功能,在初始化的时候,将配置好的Filter注册到FilterChain中。

介绍到这里,Java Web的开发流程就比较清晰了:

1)项目启动,Tomcat的Main()函数启动。

2)创建ServletContext。

3)读取web.xml,通过反射的方式创建Listener。

4)给ServletContext注入ServletContextListener。

5)ServletContext初始化时,我们写的Listener被执行。

6)读取web.xml,通过反射的方式创建Filter,并放入一个FilterChain中,等待请求到达。

7)请求到达,读取web.xml,通过反射的方式创建Servlet,创建request和response并传给Servlet。

8)执行FilterChain中的Filter,我们写的Filter被执行。

9)Servlet处理请求,响应结果,我们写的Servlet被执行。


6. Servlet映射器

Servlet还有一点可能会造成一些困惑的地方,我们知道在web.xml中配置<servlet-mapping>标签或者注解方式配置:

但是对于每一个请求的URL,是怎么对应上正确的Servlet的呢?具体的映射规则是由Tomcat中的Mapper类提供的,其中提供了精准匹配、前缀匹配、扩展名匹配等7种匹配规则,匹配之后:

  • 对于静态资源,Tomcat会交由一个叫做DefaultServlet的类来处理;

  • 对于JSP,Tomcat会交由一个叫做JspServlet的类来处理;

  • 对于Servlet ,Tomcat会交由一个叫做 InvokerServlet的类来处理。

现在在实际的开发中,已经不会直接利用Tomcat的Mapper类来做映射了,一般会利用Spring MVC模块中的HandlerMapping来做映射,可以参考下一节的第4部分。


7. Cookie与Session

由于客户端与服务端是通过HTTP协议通信,但HTTP是一种无状态协议,即客户端第二次来访时,服务端无法判断该客户端是否来访过。会话跟踪常用的有两种技术:Cookie和Session,Session底层依赖于Cookie。

在学习Web开发之前,接触到Cookie就是,偶尔需要清除浏览器的Cookie缓存,大概知道Cookie是一个存在于客户端的缓存信息。实际也就是这样,Cookie是一份数据,是服务端响应给客户端,并且存储在客户端的一份小数据。下次客户端访问服务端时,会自动带上这个Cookie。Cookie也可以设置不同的保持方式和存活时间,比如存在浏览器内存(浏览器关闭即清除)或者可以持久化到磁盘等。这样访问同一个网站的不同页面,只需要登陆一次,其他页面都可以通过Cookie进行鉴权。

不过Cookie也有一些不足,比如将密码等敏感信息存在客户端会有安全问题,Cookie包含信息太多会有传输效率问题等,所以就有了Session。Session是存在于服务端的东西,像一个大Map,以键值对的形式存储数据。将之前要通过Cookie回传给客户端的数据保存在客户端的Session中,并生成一个JSESSIONID,此时只需要将JSESSIONID通过Cookie回传给客户端即可,客户端下次请求只需要带上JSESSIONID,即可在服务端找到对应的信息。

8. 跨域问题及解决方案

Ajax跨域问题,这个课程讲的非常详细了,简洁明了,大家可以直接观看:Ajax跨域完全讲解(https://www.imooc.com/learn/947)。

二、Spring Framework

在了解了Java Web开发的底层技术之后,我们就可以通过使用框架来提升开发效率了。框架就是对这些底层技术进行一系列的封装,简化我们的开发流程,提升研发效率。Java企业应用开发,应用最广的应该就是Spring框架了。打开Spring的官网,可以看到Spring框架中包含了非常多的组件,这里我简单介绍一下Spring Framework中的部分核心能力,包括Spring Core(提供控制反转(IoC)和依赖注入(DI))、Spring AOP(提供面向切面编程能力)和Spring MVC(Spring Framework中的重要Web模块),简单来说,Spring是一个控制反转(IoC)和面向切面(AOP)的容器框架。

1. 控制反转(IoC)和依赖注入(DI)

控制反转(IoC)就是,原本代码中我们需要自己new对象,给对象赋值,自己控制对象的创建和依赖,比如

现在控制权反转给了Spring框架,Spring容器框架会帮忙new各种对象,并记录着对象之间的关系,当需要依赖一个对象的时候,直接找Spring容器,Spring容器自动注入,比如

Spring框架负责控制对象的生命周期和对象之间的关系。IoC容器在其他语言中也有应用,并非Spirng特有。IoC容器实际上就是个map(key,value),里面存放各种对象。IoC容器负责创建对象,将对象连接在一起,配置这些对象,直到它们被完全销毁。有大量的资料介绍IoC和DI的好处,比如解耦依赖,增加可扩展性。我能感受到一个比较直观的好处,比如sevice接口的实现类是ServiceImpl1,然后要改成ServiceImpl2,不用Spring这里就需要修改源码再重新编译;如果用Spring的话,修改配置文件即可,依赖注入的时候即会注入新的实现类。

2. Spring AOP

AOP(Aspect Oriented Programming 面向切面编程),最典型的应用就是通过将一些公共代码,封装成一个切面类,从而在需要使用的地方,非常方便的切入复用,大量减少重复代码。比如日志采集,权限鉴定,事务管理等。

Spring AOP的实现是基于动态代理,动态代理做了什么,即原始对象Target,执行方法do();动态代理之后得到动态代理对象Proxy,在执行方法do()的前后,会执行代理前逻辑和代理后逻辑。底层实现方式有两种:一种是 JDK 动态代理(JDK Proxy),另一种是 CGLib(Code Generation Library(基于字节码操作)) 的方式。表现形式是:


3. ContextLoaderListener

在第一部分的4中介绍了Listener,主要介绍了Tomcat负责的三大域对象相关的6个Listener。在学习Spring之后,需要再介绍一个监听器Listener,ContextLoaderListener,它是由Spring容器框架负责并提供的。在使用Spring的项目中,我们需要在web.xml中配置它,比如这样:

我们通过ContextLoaderListener的代码实现,来看看它实现了什么功能。

Spring实现了Tomcat提供的ServletContextListener接口,继承了ContextLoader,写了一个监听器ContextLoaderListener来监听Web项目启动。一旦项目启动,会触发ContextLoaderListener中的特定方法,initWebApplicationContext()方法就是用来初始化Spring的IoC容器。

ContextLoaderListener的作用就是启动Web容器时,通过web.xml中的配置,读取在contextConfigLocation中定义的xml文件,通过反射创建对象,自动装配ApplicationContext的配置信息,并产生WebApplicationContext(即IoC容器)对象,然后将这个对象放置ServletContext的属性里。这样我们就可以通过Servlet得到WebApplicationContext对象,并利用这个对象访问Spring容器管理的bean对象。简单来说,就是上面这段配置为项目提供了Spring支持,初始化了Ioc容器。

4. Spring MVC

介绍Spring MVC之前,需要简单介绍一下Web开发的MVC模式。即:

  • M(Model),主要代表了逻辑处理、数据处理层(service、dao、entity);

  • V(View),主要代表了前端展示层(jsp、html);

  • C(Controller),主要代表了接受请求,调用对应的Model层,根据Model结果渲染对应的View层。

对应上Web请求就是,用户Http请求到达Servlet(Controller),然后调用相应的逻辑处理类(Model),最后把结果数据交给Jsp模版(View)渲染,最后将渲染完成的结果页面返回给用户,这样的模式就称为 MVC 模式。要说MVC的优点,就需要提一下特别早期,前后端没有分离时候的开发模式,Java代码和Html代码直接耦合,前后端开发互相依赖,都开发完才能测试。当过渡到MVC模式后,前端同学可以专注写View层,后段同学写Model层,然后通过Controller将Model层的结果数据,给到View层进行渲染。

Spring MVC是一款很优秀的 MVC 框架,是 Spring 的一个子模块,Spring 大家族中 的Web 模块,可以让我们的开发更便捷。直接从官方文档可以清晰的了解到Spring MVC框架的功能:Spring MVC框架是基于DispatcherServlet来设计的,DispatcherServlet根据可配置的映射(Mapping),将请求映射到相应的handlers(Model)类中进行逻辑处理;当在handlers中处理完获得结果数据,加上指定的逻辑view,一起传回DispatcherServlet;DispatcherServlet通过ViewResolver将逻辑view和对应的模版文件,解析成一个真正的View对象,View对象将Model中的数据渲染进来;最后返回给DispatcherServlet,再返回给请求方。尤其是现在前端通过Vie/React来开发,后台只需要提供一个json返回即可,通过Spring MVC更加简单,加上一个注解,直接将handlers处理完的结果数据,通过json形式返回给前端去渲染。

5. Interceptor

在上一部分的第5节中介绍了Filter,它依赖于Servlet容器,是实现了AOP编程思想的过滤器。作为当前最强的Java Web框架,Spring当然也提供了类似的能力,即Spring MVC中的Interceptor。Interceptor在使用方法(xml配置/注解)上和Filter是类似的,而且都利用了AOP的设计思想,不过在实现上还是有一些不同,这里主要说明一下区别:

1)Filter依赖于Servlet容器,属于Servlet规范的一部分,而Interceptor依赖于Spring MVC框架;

2)Filter是由Servlet容器的函数回调(doFilter()方法)实现的,而Interceptor是通过动态代理(Java反射)实现的;

3)Filter的生命周期由Servlet容器管理,Interceptor可以通过Spring IoC容器来管理,更加方便使用;

4)Filter拦截范围在Http请求的前后,Interceptor可以在Spring的各个组件和各个方法间进行拦截加强。

6. Spring开发的两种方式XML和注解

Spring IoC容器中对象的定义,以及对象之间的依赖注入关系,可以通过XML配置和注解两种方式实现。

这里简单介绍一下Java中的注解,注解跟注释有所不同,注释就是写给人看的,而注解的目的,是可以提供给程序看的,作用有点类似于XML配置文件,比如:

怎么定义注解就不介绍了,定义了 @ComponentScan这样一个注解,并且在类/方法上使用了注解之后,怎么样生效呢?这部分工作是框架帮忙做的,框架会通过Java反射的方式,扫描出代码里出现了相关注解的类/方法,然后获取到注解里面的参数信息,然后进行逻辑处理,即通过注解的方式来减少复杂的配置文件。

Spring框架通过XML/注解的方式,定义IoC容器的对象(Bean),对象之间的DI(依赖注入)关系,方式比较灵活,组合方式多样,我这里提供一份讲解清楚的资料供大家学习。

最后主要讲一下XML方式相比注解方式最大的缺点,当项目变大之后,XML方式会导致配置复杂繁琐,并且会有很多冗余信息。所以在上手极快,开箱即用的Spring Boot中,默认就采用注解的方式进行配置,并且提供大量默认配置,极大降低了使用门槛。

三、Spring Boot

Spring Boot并不是一个新技术,而是将原来的Spring项目进行了大量的默认配置,按照“Convention over configuration”(习惯优于配置)的理念,可以不用或者仅需很少的Spring配置,就能快速创建一个能够独立运行的基于Spring框架的项目(内嵌Servlet容器的jar包)。由于非常方便,直接通过一个Spring Boot搭建Web Server的例子,直观了解一下Spring Boot。

1. Spring Boot简介

IntelliJ IDEA 14.1开始已经支持Spring Boot了,创建Spring Boot项目操作步骤如下:在File菜单里面选择 New > Project,然后选择Spring Initializr,接着一步步Next即可,只需要几秒钟,就可以构建好一个Spring Boot框架的项目。

点击完之后,就已经初始化了一个Spring Boot框架的项目了,项目结构如下:

可以看到,除了几个空目录外,包含如下几个文件:

  • pom.xml:Maven构建说明文件。

  • DemoApplication.java:一个带有main()方法的类,用于启动应用程序(关键)。

  • DemoApplicationTests.java:一个空的Junit测试类,它加载了一个使用Spring Boot字典配置功能的Spring应用程序上下文。

  • application.properties:一个空的properties配置文件,可以根据需要,添加配置属性,作用是对一些默认配置的配置值进行修改。

  • Greeting.java:一个用于Demo的POJO类。

  • GreetingController.java:一个用于处理请求的Controller类。

直接点击右上角的运行按钮,项目就启动起来了,可以看到GreetingController类中,有一个@GetMapping注解中的参数是/greeting,打开浏览器,请求http://localhost:8080/greeting,就可以从浏览器发送Http请求,通过基于Spring Boot框架的Web Server处理请求,并返回一个json字符串。

Spring Boot项目的pom.xml和普通的Spring项目的pom.xml有一些区别,首先它有一个<parent>父级依赖,在spring-boot-starter-parent中提供了很多默认的配置,这些配置可以大大简化我们的开发。通过继承spring-boot-starter-parent,默认具备了如下功能:Java版本、源码的文件编码方式(UTF-8)、依赖管理、打包支持、动态识别资源、识别插件配置、识别不同的配置(如:application-dev.properties 和 application-dev.yml),以上继承来的特性有的并非直接继承自spring-boot-starter-parent,而是继承自spring-boot-starter-parent的父级spring-boot-dependencies。并且可以通过<properties>标签覆盖parent中包含依赖包的版本,例如截图中设置了<java.version>1.8</java.version>。

Spring Boot提供了很多“开箱即用”的依赖模块,都是以spring-boot-starter-xx作为命名的。比如需要web能力,直接依赖spring-boot-starter-web,Maven会帮忙处理好Web能力背后所需的复杂依赖关系。

最后就是Spring Boot Maven插件,spring-boot-maven-plugin提供了许多方便的功能:把项目打包成一个可执行JAR(uber-JAR),包括把应用程序的所有依赖打入JAR文件内,并为JAR添加一个描述文件,其中的内容能让你用java -jar来运行应用程序;搜索public static void main()方法来标记为可运行类。

DemoApplication.java 是一个很关键的启动类,程序的入口就是这里。@SpringBootApplication是Sprnig Boot项目的核心注解,主要目的是开启自动配置。main方法就是一个标准的Java应用的main的方法,主要作用是作为项目启动的入口。此处通过对@SpringBootApplication注解和SpringApplication.run(DemoApplication.class, args)方法的底层实现,来了解Spring Boot为何能够如此方便。

1)@SpringBootApplication注解

可以看到,@SpringBootApplication注解其实是由一些注解组合而来,其中起作用的注解分别是:

  • @SpringBootConfiguration(起作用的部分是其背后的@Configuration)

  • @EnableAutoConfiguration

  • @ComponentScan

其中,@Configuration和@ComponentScan这两个注解都是第二部分的6中提到过的Spring的常用注解。

先看@Configuration,Spring IoC容器要用JavaConfig形式的配置类,需要使用@Configuration注解,Spring Boot社区推荐使用基于JavaConfig的配置形式,这里的启动类标注了@Configuration之后,它也成为了一个Spring IoC容器的配置类。

再看@ComponentScan,它对应XML配置中的<context:component-scan base-package=""/>这个标签,@ComponentScan的功能其实就是自动扫描并加载符合条件的bean文件(比如@Component、@Repository、@Service、@Controller等),最终将这些文件定义的bean加载到IoC容器中。我们可以通过basePackages等属性指定@ComponentScan扫描的文件夹范围,如果不指定,Spring框架默认从声明@ComponentScan所在类的package进行扫描。所以Spring Boot的启动类最好是放在root package下,可以默认扫描整个项目。

最后看@EnableAutoConfiguration,它到定义中有@Import(EnableAutoConfigurationImportSelector.class),借助EnableAutoConfigurationImportSelector,@EnableAutoConfiguration可以帮助Spring Boot应用将所有需要的依赖@Configuration配置都加载到当前Spring Boot的IoC容器。

@EnableAutoConfiguration会将哪些符合条件配置类加载进来呢,通过左上角Scroll from source这个按钮,找到EnableAutoConfiguration.java的工程,然后找到META-INF/spring.factories配置文件,其中key=org.springframework.boot.autoconfigure.EnableAutoConfiguration对应的配置类们,即为@EnableAutoConfiguration需要加载的配置类。

2)SpringApplication.run(DemoApplication.class, args) 方法

SpringApplication.run()方法做的事情比较多,比如创建一个SpringApplication对象实例,创建完之后,初始化SpringApplication对象,然后执行run方法。这个过程主要是加载各种各种预定义的配置文件,执行SpringApplicationRunListener的初始化方法,创建对应的ApplicationContext(IoC容器)并初始化等等,总的来说就是进行各种判断、各种配置文件加载、各种初始化。

四、Spring Cloud

在熟悉了Spring Boot之后,随着开发系统的规模越来越大,就会从单体架构的服务向分布式集群发展,而且随着微服务概念的兴起,微服务的治理也变得重要起来,这时候Spring Cloud这类框架就出现了。这个Spring Cloud系列教程(https://how2j.cn/k/springcloud/springcloud-intro/2035.html)作为入门级的概念了解,讲得不错,推荐给大家,阅读完耗时1-2小时。

五、结语

本文对Java Web开发技术进行了梳理,只有清楚这些概念及其之间的关系,进行工业级的Java Web应用开发才能得心应手,对于有兴趣进行底层框架(比如Trpc-Java)开发的同学,也能够更快上手。


作者简介

王展雄,腾讯大数据高级工程师,负责腾讯看点“实时/离线”数据查询系统相关研发工作,硕士毕业于复旦大学计算机科学技术学院。

注:作者所属团队「腾讯看点数据团队」,分布于深圳、上海、北京,汇聚了海内外顶级学府的优秀人才,致力于打造业界一流的数据团队,欢迎更多有识之士加入。招聘岗位:数据研发工程师、数据科学家、数据挖掘工程师等,详情参考:https://careers.tencent.com/search.html?keyword=35605

推荐阅读

超全对照!前端监控的性能指标与数据采集

主干开发、主干发布,CI 如何为大型项目提供最优解?

相关推荐

大模型的Agent Skill功能,在LLM HTTP底层交互流中是怎么承载的?

网络文章文本的 skill,昨天我实现了之后也就开始好奇起 Skills 的底层原理了——相比起各种花里胡哨的 agrnt 应用,我一直以来都很对大模型在纯粹的 HTTP 交互层面是如何交互的更感兴趣。Skill 的全部"魔法"都发生在 system prompt 的措辞和 SKILL.md 文件的编写质量上——本质上是一种 prompt engineering + 文件系统的组合。但是各种天花乱坠的 skills,是如何在底层的 HTTP 中,与大模型——这个只会嘴遁的工具交互的呢?

QcloudCommunity的博客 407

万字入门AI Infra:深入理解大模型中的数学与Infra优化

关注腾讯云开发者,一手技术干货提前解锁👇AI Infra科普、入门或者进阶 ~~ 不到 5 万字,带你融会贯通理解大模型的数学、算法、硬件到系统工程。任何问题欢迎沟通交流。可怕,我竟然有点认同这句话。当然大概率是因为姚顺宇太懂AI了,而我则是因为无知者无畏。不过仔细想想,大模型推理中的数学逻辑确实不复杂,很多原理只需要高中数学知识就能看懂。但是为什么像 vLLM 这种推理系统这么复杂呢?本文将拆解大模型中几个核心操作(RMSNorm、Softmax、Causal Mask、Sampling)背后的数学与

QcloudCommunity的博客 1170

平平无奇的源码,竟藏着Agent的核心秘密?

System Prompt 是剧本,Skill 是剧本的扩展包,Agent Loop 是演员按剧本行动。欢迎留言,我们将邀请作者针对性回复你的评论,我们将选取1则优质的评论,送出腾讯云定制文件袋套装。,让 Agent 能主动"巡逻",而不只是被动等待用户消息。OpenClaw 的 System Prompt 分层结构。的"行为底线",任何 Skill 或用户命令都无法覆盖它。精华 2:Skill 的"按需加载"避免 token 浪费。精华 1:System Prompt 是"分层乐高积木"

QcloudCommunity的博客 426

QQ音乐Harness Engineering实践

一个看似简单的需求,背后可能牵动服务调用链、配置、灰度、埋点、错误码、接口契约和历史兼容性。当 AI 开始快速生成大量代码,真正的瓶颈就不再是"写不出来",而是"看不完、想不清、管不住"。在对话式编码阶段,一种典型的工作模式逐渐流行:开发者把需求丢给 AI,扫一眼输出"看起来对"就直接采纳,不审 diff、不追问逻辑、不验证边界。以音乐商业化业务为例,一个需求可能从 TAPD 单开始,经过需求评审、技术方案、服务影响面分析、IDL 契约变更、业务代码实现、测试验证、CR、灰度上线,最后才进入稳定运行。

QcloudCommunity的博客 716

从Prompt、Context到Harness,工程的三次进化与终局之战

同时,强制要求散落各处的决策记录(Slack、邮件、文档)全部迁移至代码仓库,确保 Agent 的唯一信息来源是可信的、版本受控的仓库。更坑爹的是,研究表明,当上下文过长时,模型会出现"中间遗忘(Lost in the Middle)"现象:它对开头和结尾的内容记忆较好,对中间大段内容的关注度大幅下降。这篇文章,我想带你完整走一遍这三次进化的逻辑:它们分别解决了什么问题,它们之间是什么关系,它们的边界在哪里,以及:当三者融合,AI 工程师的终极形态究竟是什么?大语言模型的本质,就是这位金鱼助理。

QcloudCommunity的博客 719

让Skill自己训练自己:8阶段Loop、3层评测、5维AND门控,从此实现自进化

所以每一轮改动都是有据可查的,不是「感觉这里可以优化」,而是「Case 41 挂了,因为 agent 把离职问题路由到了邮箱分类,但正确答案在通讯录,所以我改 root_index.md 加个易混淆提示」。但让我最后决定把它记录下来的,不是这的个「吸收」过程,而是它真的在替我探索我不想费脑力触达的边界,这看起来更像是一个机器智能应该有的样子。不准跨层,每轮只改一层的东西。但我经过这 19 轮之后觉得,更准确的描述是互补——你在明处看着,AI 在暗处替你试错,你看不见的那一半就是 AI 能贡献的地方。

QcloudCommunity的博客 1128

只加两行代码,为什么要两天?一文深度理解业务系统的复杂性

关注腾讯云开发者,一手技术干货提前解锁👇业务系统复杂性一直是令开发者头痛的问题。复杂的不是增加一个需求需要耗费多少时间,而是在增加一个需求后带来的蝴蝶效应:其它功能会不会受到影响、要如何去找到这些影响,最终如何实现系统正常运行......功能之间隐秘增加的耦合、不可避免的代码腐化在导致业务复杂性增加。大家都在说的软件开发提效到底在提什么?程序员日常工作中应该如何提升开发效率?敏捷开发、瀑布流式开发孰是孰非?欢迎阅读。业务背景与目标我依然非常清晰地记得某个时候,我所在团队 Leader 曾讲过一段话:“我担

QcloudCommunity的博客 713

从零设计生产级 Multi-Agent Harness:架构、评估、记忆、成本与 MCP 工具接入全拆解

在 AI Agent 领域,Multi-Agent Harness 指的是把多个 Agent 的能力、工具、状态、通信、编排、监控统一收束在一个运行时之内的框架。第三,Agent 路由。一个输入框,一个大模型,几个工具,一段写得很漂亮的 System Prompt,再配上一个炫酷的前端,看起来就像一个能干活的“数字员工”。Multi-Agent 完全不一样——它有计划、有中间步骤、有工具调用、有 Agent 协作、有重试、有反思、有最终合成。增加 Budget、权限、重试、压缩、轨迹评估、审计、回归测试。

QcloudCommunity的博客 710

拆完Hermes源码,我发现Agent的“自我进化“根本不需要训练模型

两个月 5.2 万 Star,Hermes Agent 用一个"LLM 审判官"机制实现了 Agent 的自我进化——不改模型权重,只改"怎么用模型"的策略。OpenClaw(社区昵称"龙虾"🦞)是 2025-2026 年最火的开源 Agent 框架,30 万+ Star,插件市场 ClawHub 里有数千个插件,能接入 Telegram、WhatsApp、Slack、飞书、企业微信——几乎是一个"个人 AI 操作系统"。Skill 是英语写的,Memory 是英语写的,审查 Prompt 也是英语写的。

QcloudCommunity的博客 911

AI Infra 其实没有多少新东西

传统 Infra 追求横向扩展,而 AI Infra 呈现 “AI 大型机”特性,是因为传统后台服务的可以容忍毫秒级延迟,但 AI 集群不行,GPU 的算力是 CPU 的数百倍,微秒级的延时等待也会造成很大的算力损耗,需要硬件的高度集成。在可预见的1-3年的未来,这样的专用硬件+网络的集中式架构很难发生比较大的改变。与之相似,模型推理的批处理就是将多个输入样本打包(batch),将原本串行的 N 次轻量的推理计算,合并为 1 次重量的计算,实现单位时间内处理更多的请求,提高了 GPU 利用率。

QcloudCommunity的博客 826

程序员越早想通这些越好

永远没有正确架构,你永远无法偿还完所有的技术债务,如同你永远不会设计出完美的界面,请避开完美主义的陷阱,永远没有完美的代码,能够满足当前需求,又为未来不管是自己还是他人留有扩展空间,就很好了。我们努力的方向就是将现实世界映射到有限的数据结构中,这就需要用户自定义类型,如果你的代码中包含类似 trader portfolio 这样的概念,你就可以使用他们的名称来建模,而不是使用基本数据类型复杂嵌套表述你的目的。从另一个角度看,代码里的注释都是补丁,是碎片化的,局部的注释很难推导模块整体的顺序及耦合关系。

QcloudCommunity的博客 466

RAG已死?不,是Grep回归了!

这样一来可以直接复用已有的计算缓存,只为新增的增量部分付全价,前面累积的大头按约 1/10 的缓存价计费。所以实际的工具组合方式是灵活的:Grep(默认模式)→ Read 是最常见的路径,但 Grep(content 模式)可以独立使用,LLM 也可以直接调 Read(如果已经知道文件路径),或者一次同时发起多个 Grep 并行搜索。它从零开始构建自己的对话历史,不继承主对话的消息,这意味着它搜索过程中产生的大量 grep 结果、代码片段都留在自己的 context 里,主对话只收到一段总结性的文本结论。

QcloudCommunity的博客 576

深入浅出Harness Engineerring之核心模式与理念

在智能体生命周期的关键节点(如会话开始、工具调用后)自动触发预设动作(如代码格式化),由系统确保关键流程被执行,不依赖可能被模型遗忘的指令。简单讲就是利用向量存储这个技术,来实现模糊检索,原理是:即使字面不同,但语义相近的文本,其向量在数学空间中的位置也很接近。根据命令类型、参数和影响,自动评估其风险等级(安全、有风险、危险),并采取自动执行、请求确认或直接拦截等不同策略。关键特性是可隔离、可重建、可扩展。不是一次判断就定终身,允许你改变、允许情况复杂,通过不断观察、思考、调整,越来越懂真实的你。

QcloudCommunity的博客 625

Harness Engineering实践心得:如何高效驾驭AI?

但如果这些经验被拆成一条条 Rule、一个个 Skill、一项项 Script 检查——"XAML 不能有中文"、"编译要用这个路径的 MSBuild"、"SVN 命令必须带认证参数"——AI 就能在秒级时间里"吸收"十年的踩坑经验。然后可以看到下方的图,我的PM会很顺利的调度其他agent分别负责不同的事项,遇到问题的时候也能准确的找到合适的agent。MCP 本质上是在扩展 AI 的"感知范围"——Rule 管"该怎么做",Skill 管"怎么操作",MCP 管"能看到什么、能碰到什么"。

QcloudCommunity的博客 843

从第一性原理思考 Agentic Engineering

需要注意的是,这一结论是有条件的:如果 AI 缺乏领域知识,过早介入反而可能引入 1.2 节所述的"似是而非"损耗——因此上下文供给(实践 1)是 AI 全链条参与的前提,而非结果。通过一个专门的自迭代 Skill 实现——当 AI 在协作过程中识别到自己被纠正(用户否定了 AI 的输出并给出了正确方向),它自动评估这个错误的根因,搜索现有的 Rules 和 Skills 中是否已有针对该类问题的处理规则。事实上,越是复杂的项目,工程师的认知负担越重(公理 3),AI 分担认知负担的潜在边际价值也越大。

QcloudCommunity的博客 757

万字干货!Harness Engineering如何工程化落地?

关注腾讯云开发者,一手技术干货提前解锁👇Harness Engineering 的概念已经火了有一阵了,全网很多文章基本都是在讲理念,讲为什么今天做 AI 开发,不能只靠一段提示词,也不能把模型当一个“更聪明的代码补全”。但与此同时,一个问题也在持续地发酵:这个问题特别重要。因为 Harness 这个词听上去很大,很像一个抽象的方法论,但它如果不能落到工程、目录、文档、脚本、工作流里,那它最后就只是一句漂亮的话。事实上,不同项目落地出来的 Harness,表面上可能完全不一样。有的项目是 CI 很强,有的

QcloudCommunity的博客 1171

全方位对比:Hermes VS OpenClaw

多账号矩阵运营 如果你的业务涉及同时管理多个社交媒体账号、多个平台的内容分发、多渠道的客户互动——OpenClaw是目前市场上的"无可替代的底座"。一个有专业背景的个人,现在可以快速构建一个垂直领域的AI助手:比如"财务分析Hermes"、"法律咨询Hermes"、"技术架构Hermes",直接通过微信提供服务,积累自己的专业IP。跨平台生态融合 如果你的工作流涉及飞书、Slack、Discord等多个平台的深度集成,需要这些平台之间的数据流转和联动——OpenClaw的生态支持是强大的。

QcloudCommunity的博客 1219

一文讲透:Harness Engineering即控制论!

而研发模式的升级我认为将会是一个飞跃的过程,之所以现在我们仍然需要需要参与编码,一个非常大的原因就是缺乏传感器和基建,仍然需要人来串流程,比如需要人来验证UI是否正确、需要人来告诉AI代码不符合代码规范,因此在有些场景我们仍然感觉 AI 完成的很吃力,但这不是 AI 能力不行,而是我们并没有为 AI 提供友好的环境……控制论中的突变理论介绍了矫枉过正和飞跃现象之间的矛盾,如果质变中经历的中间过渡态是不稳定的,那么他就是一个飞跃的过程,如果中间过渡态是稳定的,那么他就是一个渐变的过程。但是这些阶段要解决的。

QcloudCommunity的博客 1204

神级开源插件!一句话让QClaw变3D小镇,Agent工作可视化,赛博云监工

这个架构是翻了几次车才想通的—原有AI的实现机制是用 setTimeout 猜动画时长导致了幽灵 NPC、工位撞车、越改越崩,后面我停下来换了思路,推翻原有的架构,按照“意图+回传”的架构进行重构,之前的问题一次性全部解决。15 天,我和 AI 吵了 185 次架, 4.5 万行代码,开发了一款 QClaw / OpenClaw 的UGC游戏插件,这可能是人类跟 Agents 交互的新范式,插件已完全开源,有需要的欢迎自取~我天天用,用着用着我就在思考,Agent 产品现在的交互体验,基本都一个样。

QcloudCommunity的博客 1198

一文搞懂Hermes:新顶流Agent如何从经验中自我进化

Voyager 是一个能在 Minecraft 中自主探索、学习技能、无限积累能力的 AI Agent,它提出了 "Skill Library"(技能库)的概念——Agent 将成功的行为序列编码为可复用的技能函数,存储在一个持续增长的代码库中。如果 Skill 的名称和描述不够精准,或者用户的任务描述与 Skill 的触发条件有语义差距,Agent 可能会错过相关的 Skill。如果进程在写入过程中崩溃,目标文件要么是旧内容(还没被替换),要么是新内容(替换已完成),绝不会出现写了一半的损坏文件。

QcloudCommunity的博客 2637

自掏腰包一万元,拥抱AI这一年,我的工具、实践和思考

其实也很好理解,过往的每个领域(比如前端、后端、设计、测试等等)都主要是这个领域的从业者在为它添砖加瓦,但是大模型时代的 AI 应用领域却几乎是所有使用 AI 的人类一起在迭代,无分领域,无分文理,无分老少。因为每个时期的 AI 都有着不同的特点,很多时候当我费尽心思去钻研,自以为有点弄明白 AI 应该怎么玩的时候,基座模型和行业范式常常就会迎来颠覆式的变革,很多过往的经验都会倾覆,然后只能从头再来。过去一年多,被热议的 AI 范式大概是沿着四个阶段递进演化,每一个阶段其实都在解决前一个阶段的核心问题。

QcloudCommunity的博客 627

办公Agent的CI/CD时刻到来了

核心观点是:企业给员工配了一堆 AI 工具,试点跑了几百个,但真正拖慢 AI 转型速度的瓶颈不在模型能力,在"最后一公里":AI 输出和实际工作流之间的那道鸿沟。代码写完,打个 tar 包,开 FTP 传到服务器上,SSH 进去解压,改配置文件,重启服务,刷一下页面祈祷别 500。你复制,切窗口,粘贴到腾讯文档里,发现 Markdown 格式全乱了,手动调标题层级,代码块重新标记语言类型,表格散架了重排一遍。模型是越来越聪明了,但"生成"到"落地"之间那段路,还是你自己在走,一步一步,手动搬运。

QcloudCommunity的博客 608

4亿token买来5个教训:让6个AI Agent连写4天代码发生了什么?

Watchdog 检测到崩溃 → 启动诊断 Agent 分析原因 → 诊断 Agent 跑满 20 轮没搞定 → Watchdog 判定“已修复”,重启系统 → 重启的系统因为诊断 Agent 留下的环境变量被继承,连续 3 次拒绝启动 → 触发连续失败保护退出 → Watchdog 第 3 次巡检,发现进程和记录文件都没了,尝试手动重启,自己也停了。启动前我翻了论文、做了架构设计、写了监控+修复异常的脚本。这个发现让我的情绪从沮丧变成了兴奋——不是那种"终于修好了"的释然,是"我找到根因了"的快感。

QcloudCommunity的博客 584

赛博斗蛐蛐:9大模型决战三国志,天命在谁?

我猜是这样的,当Gemini面临决策的时候,一系列关键词比如 守城,劣势,粮草,三国等等,在语义层面的关联性中LLM发现了竖壁清野这个关键词概率非常高,所以以此为策略,然后再根据这个策略完美执行操作。MiMo 的外交是三方中最精明的。Kimi作为国产模型,也同样颠覆了我对他的看法,最后的比赛他甚至一度是优势者,存在很多夺冠的可能性,要知道他的对手可是claude和gemini,而他经常出兵慢,回过头来想想或许正是他的策略,毕竟中后期他的优势都来自于稳健的发展和较少的战斗频率(和claude比).

QcloudCommunity的博客 875

Claude Code是怎么知道你在骂他的?这 12 条发现值得关注

确实存在——5,500+ 行,集成了消息队列、工具装配、MCP 编排、会话状态、权限、分析、文件持久化和优雅关闭,基本上一个文件干了所有事。对抗虚假声明——"不要在输出显示失败时声称所有测试通过,不要压缩或简化失败的检查来制造绿色结果"。完整的 KAIROS 是一个持续驻留的守护进程,能感知你在不在电脑前、主动寻找有用的工作做,更像是住在终端里的全职同事。源码里藏着一个叫 "Buddy" 的电子宠物系统,完整度令人惊讶——这不是一个 TODO,而是一个从数值系统到 ASCII 动画都实现了的完整功能。

QcloudCommunity的博客 702

逆向深扒Claude Code源码,我发现了什么!?

Anthropic 内部用户获得更严格的质量控制 prompt、更好的验证机制(独立 Verification Agent)、以及针对 model 弱点的专门对策(如 Capybara v8 的 29-30% 错误声明率对策)。这不是代码混乱的标志——它是整个 Agent Loop 的心脏,所有的流式处理、工具调度、上下文压缩、子代理管理都在这个文件中协调。这种"胖核心"设计是刻意的:保持核心循环的原子性,避免分散到多个模块导致的协调复杂度。核心价值:Fork 代理的工具输出不会回到主代理的上下文窗口。

QcloudCommunity的博客 893

一文讲透如何构建Harness——六大组件全解析

本文将从"裸模型的四个硬伤"出发,逐一拆解 Harness 的六大组件——文件系统、Bash + 沙箱、记忆(AGENTS.md)、Web Search + MCP、上下文工程、编排 + Hooks——带你看清 AI Agent 真正的竞争壁垒,不在模型层,而在 Harness 层。如果你用过 Agent 做复杂任务,你一定有过这样的体验:一开始 Agent 的表现很好,但随着对话变长,它开始"变笨"——遗忘之前的约定,重复之前犯过的错误,甚至对同一个问题给出前后矛盾的回答。对于简单的问答场景,这无所谓。

QcloudCommunity的博客 762

Harness Engineering 来了,SDD 还有意义吗?

他们的解法是把「品味」编码进规则,然后用一个定期运行的「doc-gardening」Agent 自动扫描漂移、发起修复 PR——「技术债务就像一笔高息贷款,不断地以小额贷款的方式偿还,总比让债务不断累积要好」。代码仓库本地的、已版本化的工件,才是 Agent 所能看到的全部。在 Vibe Coding 模式下(即不做规划、随意向 AI 提需求的开发方式),大量设计决策、跨服务约定、「为什么不选另一个方案」的讨论,全部停留在一次性的 AI 对话里——下一个人,或者下一次 AI 会话,完全无从获取。

QcloudCommunity的博客 419

零废话!一文讲透从0构建AI Agent

每个工具都要写一套"定义→解析→执行"的胶水代码。上下文管理就是在"记住足够多"和"别超标"之间找平衡,常见策略包括滑动窗口、摘要压缩、RAG 检索增强。上下文窗口是 Agent 的"工作记忆",但它有硬性限制。LLM 负责"动脑"决策,代码负责"动手"执行。这是从"聊天机器人"进化到"Agent"的关键一步。每次调 API 都把完整对话历史发过去,LLM 本身是无状态的,"记忆"完全靠客户端的数组模拟。这样 Agent 一开始就知道自己"在哪里"、"手头有什么",不需要先花一轮工具调用去探索环境。

QcloudCommunity的博客 712

距离AI把小编我裁掉还有72小时

这是一个基于 OpenClaw 开源生态打造的本地化 AI Agent 助手,已于上周开启全量公测,无需复杂配置,三步即可上手,自带安全防护,支持微信直连绑定,内置多款优质国产大模型,现阶段也是完全免费使用,基本上前面提到过的痛点都可以靠它解决。对了,这里特别强调一点,上面的截图让产品同事汗流浃背,再三找我确认 QClaw 思考过程中优美的“草”字说法,不会是默认出现的吧?AI 好,AI 得学,但更重要的是,在你的工作和生活里,哪些东西是能结构化地被 AI 所接入的,不要死守着那些脏活累活不放。

QcloudCommunity的博客 674
上一篇: 连接人与万物,腾讯云 Serverless 助力打造更友好的世界
下一篇: “坑”这么多,为什么我们还要做 Serverless?
腾讯云开发者
腾讯云开发者 企业官方账号 企业官方账号
博客等级 码龄10年 6291粉丝 1962原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值