蚂蚁一面:Feign 第一次调用为什么会很慢?

SpringCloud服务启动后,接口第一次请求很慢 SpringCloud服务启动后,接口第一次请求很慢的优化历程 症状概述 服务启动后,请求任意接口,都很慢,响应时长达到2秒 而再次进行请求,响应很快,响应时长毫秒级。 初步诊断 很可能耗时资源在第一次接收到请求时才进行初始化 确定病因 上图为第一次请求时打印的日志,由此可知第一次请求时初始化了DataSource、Redis、Servlet 还有个网上找到的Ribbon优化,默认client... 阅读详情

👉 这是一个或许对你有用的社群

🐱 一对一交流/面试小册/简历优化/求职解惑,欢迎加入「芋道快速开发平台」知识星球。下面是星球提供的部分资料: 

d1059db28e5616040483acd3e8741ad6.gif

👉这是一个或许对你有用的开源项目

国产 Star 破 10w+ 的开源项目,前端包括管理后台 + 微信小程序,后端支持单体和微服务架构。

功能涵盖 RBAC 权限、SaaS 多租户、数据权限、商城、支付、工作流、大屏报表、微信公众号、CRM 等等功能:

  • Boot 仓库:https://gitee.com/zhijiantianya/ruoyi-vue-pro

  • Cloud 仓库:https://gitee.com/zhijiantianya/yudao-cloud

  • 视频教程:https://doc.iocoder.cn

【国内首批】支持 JDK 21 + SpringBoot 3.2.2、JDK 8 + Spring Boot 2.7.18 双版本 

来源:juejin.cn/post/
7249624466150408250


前言

首先要了解 Feign 是如何进行远程调用的,这里面包括,注册中心、负载均衡、FeignClient 之间的关系,微服务通过不论是 eureka、nacos 也好注册到服务端,Feign 是靠 Ribbon 做负载的,而 Ribbon 需要拿到注册中心的服务列表,将服务进行负载缓存到本地,然后 FeignClient 客户端在进行调用,大概就是这么一个过程。

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/ruoyi-vue-pro

  • 视频教程:https://doc.iocoder.cn/video/

Ribbon是如何进行负载的

首先我们要清楚 Ribbon 是如何进行负载的,也就是如何获取 nacos、eureka 的服务列表,这个很关键。

cd782bf34eadb4782b2b6582eac3ae87.jpeg
Ribbon是如何进行负载的

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/yudao-cloud

  • 视频教程:https://doc.iocoder.cn/video/

RibbonClientConfiguration

RibbonClientConfiguration 类中通过 LoadBalancer,我们知道 ribbon 是靠LoadBalancer 做负载的 无非就是 ILoadBalancer 接口的方法,依次是添加新的服务、在负载均衡里选择一个服务、markServerDown 服务下线、获取服务列表、获取存活的服务器、获取所有服务器(包括健康和不健康的)

9009b3bd85b143e7f0adab2005607fd1.jpeg
ILoadBalancer 接口

ZoneAwareLoadBalancer

loadBalancer 默认的是 ZoneAwareLoadBalancer 负载均衡器,通过继承父类DynamicServerListLoadBalancer 的 restOfInit 方法,里面比较重要的两个方法,enableAndInitLearnNewServersFeature和updateListOfServers 方法

1e876ffcdb959e4a894e6eecd4c0798d.jpeg
restOfInit 方法

enableAndInitLearnNewServersFeature 方法里面。

LOGGER.info("Using serverListUpdater {}", serverListUpdater.getClass().getSimpleName());
serverListUpdater.start(updateAction);

让我们看 ServerListUpdater.start 方法的实现,通过自定义线程去拿,这就是获取服务列表。

187c640786c7a75d410836981b6dfdac.jpeg
ServerListUpdater.start

Ribbon负载均衡策略

服务列表获取说了,当然负载均衡的策略这块也有必要讲一下,主要有七种;

  • RoundRobinRule(轮询策略,按照服务顺序依次循环调用)

  • WeightedResponseTimeRule(权重比策略,优先选择权重比高的服务,也就是服务响应时间比较短的,响应时间越长权重比越低)

  • RandomRule(随机策略,服务提供者列表随机选择一个服务)

  • BestAvailableRule(最小连接数策略,获取服务列表中连接数最小的服务实例)

  • RetryRule(重试策略,重试获取已经失效的服务,指定时间没有获取到返回NULL)

  • AvailabilityFilteringRule(可用性敏感策略,过滤非健康服务实例,选择lianji)

  • ZoneAvoidanceRule(区域敏感策略)

Ribbon-eager-load(饥饿加载)模式

Ribbon 对于负载 Client 是在服务启动后,发生调用的时候才会去创建 Client,所以在第一次发生 http 请求调用的时候,不光要算上 http 的请求时间,还要算上 Client 的创建时间,所以第一次调用的时候才会很慢,写个方法调用下。

System 服务调用 System2 服务

@GetMapping("/requestSystem2Api")
public String requestSystem2Api(){
    long startTime = System.currentTimeMillis();
    R<String> stringR = iTestServiceClient.testRequestMethod();
    if (null !=stringR){
        log.info("接口返回:"+stringR.getMsg());
    }
    long needTime = System.currentTimeMillis() - startTime;
    log.info("接口调用需要的时间:"+needTime);
    return "";
}

从调用日志可以看出,第一次调用 System2 服务,Ribbon 的 DynamicServerListLoadBalancer 会将 feign 客户端进行负载,然后进行调用,第一次调用的时间就是会长一些,第二次调用直接进行请求可以看到调用时间很快。

882fa5025c7bdf92f8ea24573fb13f5d.jpeg
第一次慢,第二次快

开启Ribbon饥饿加载

ribbon:
nacos:
  enabled: true # 开启naocos轮询
eager-load:
 enabled: true  # 开启Ribbon的饥饿加载模式(防止第一次请求超时的问题)
 clients: Lxlxxx-system2 # 指定需要开启的服务(需要开启Ribbon的饥饿加载模式)
 ReadTimeout: 10000
 ConnectTimeout: 10000
 MaxAutoRetries: 0
 MaxAutoRetriesNextServer: 1
 OkToRetryOnAllOperations: false

在项目启动的时候,可以从日志看到,已经把 Lxlxxx-system2 服务进行加载,从而避免了第一次请求超时的情况。

f70dd2a47a9ccfc0fdd835286ea879eb.jpeg
开启Ribbon饥饿加载

总结

其实这种饥饿加载模式,类似于“客户端负载预热”的一个操作,项目启动的时候进行加载,防止服务之间调用可以因为数据量、业务逻辑处理复杂性导致接口超时,如果你的服务之间调用业务处理比较复杂、且慢,不妨可以试试这种解决方式。


欢迎加入我的知识星球,全面提升技术能力。

👉 加入方式,“长按”或“扫描”下方二维码噢:

e5cc6de3b8ea629561a9a7e61f3f124e.png

星球的内容包括:项目实战、面试招聘、源码解析、学习路线。

0d02d062259330ec59d12cc4529a0232.png

1fd0c995080d2bda9d2bdf5145ef837a.png21fe1a12fe5c694c986cd6ac1b7395b9.pnge8215cc5f1bc666362c3a699fbb3718f.pngaa7309d081a38249145bfb30d53a0391.png

文章有帮助的话,在看,转发吧。
谢谢支持哟 (*^__^*)
Feign第一次调用为什么会很慢 通过预初始化、缓存DNS解析结果、优化连接池配置、调整超时设置、使用异步调用、开启Feign日志和GZIP压缩等策略,我们可以有效地提高Feign首次调用的性能,从而提升整个微服务架构的响应速度和稳定性。其实这个问题听起来似乎没什么特别的,但是要是深究起来还是挺复杂的,因为我们可以想一下feign做一次rpc调用要经历哪些事情,首先就是feign是跟eureka这种微服务注册中心是有关系的,毕竟你要调用一个服务,那肯定得知道目标服务都部署在哪些机器上,也就是有哪些服务实例,对不对,否则怎么调用啊? 阅读详情

相关推荐

java基础编程题及答案,三面蚂蚁金服(交叉面)定级阿里P6

前言 MySQL 是最流行的关系型数据库管理系统(RDBMS)之一。 MySQL作为一个关系型数据库管理系统,因为其速度、可靠性和适应性而备受关注。大多数人都认为在不需要事务化处理的情况下,MySQL是管理内容最好的选择。虽然功能未必很强大,但因为它的开源、广泛传播,导致很多人都了解到这个数据库。它的历史也富有传奇性。值得我们不断探索。 要谈对MySQL有多熟悉,我相信阿里的大佬们最有发言权,所以今天分享的内容,就是Alibaba内部供应的“限量笔记”,关于MySQL的精髓之处全部写在这里面了,不得不感叹:

EDGNB123的博客 303

Spring Cloud(netflix)第一次请求超时优化

修改完成后再次重启服务,超时情况得到改善,请求多次未出现超时情况。本文记录Spring Cloud的服务第一次请求超时的优化方式。排查结果是因为Ribbon客户端懒加载造成,然后分别对zuul网关和服务之间调用的Ribbon客户端进行配置,使其启动时加载好Ribbon客户端。

没有简介 1152

FeignClient 第一次调用耗时长响应慢

使用spring-cloud-openfeign框架时,在FeignClient客户端和FeignServer第一次调用时,耗时长响应慢问题的复现和解决

qq_38127559的博客 2045

面试官:Feign第一次调用为什么会很慢?

点击上方“Java基基”,选择“设为星标”做积极的人,而不是积极废人!每天14:00更新文章,每天掉亿点点头发...源码精品专栏原创 | Java 2021超神之路,很肝~中文详细注释的开源项目RPC 框架 Dubbo 源码解析网络应用框架 Netty 源码解析消息中间件 RocketMQ 源码解析数据库中间件 Sharding-JDBC 和 MyCAT 源码解析作业调度中间件 Elast...

weixin_44421461的博客 155

鸿蒙OS开机动画背后的秘密:从代码到视觉的完整解析(附源码分析)

本文深入解析了鸿蒙OS开机动画的系统级实现原理。从bootanimation服务的启动配置、与Render Service的协同,到基于VSync信号的帧率同步与绘制流水线,结合OpenHarmony源码进行了逐行解读。文章揭示了其事件驱动的优雅退出机制,并探讨了视频支持、多屏适配等高级特性与定制化可能,为开发者理解鸿蒙图形子系统提供了硬核技术视角。

sony5的博客 976

SAP MM自动化进阶:STO交货单自动创建的配置与优化

本文深入解析了SAP MM模块中实现公司间库存调拨订单(STO)交货单自动创建的完整配置流程与优化策略。通过激活自动交货与绑定发货点两大核心配置,打通自动化链路。重点探讨了如何集成ATP可用性检查以智能处理库存不足等异常场景,确保自动化流程的可靠性与业务贴合度,并提供了进阶监控与问题排查方法,助力企业显著提升供应链效率。

weixin_29206669的博客 126

Spring Cloud第一次访问很慢情况优化

项目使用Spring cloud,nacos作为注册中心。RPC使用的Feign。 在项目第一次启动的时候,访问链接会很慢,然后再次访问就会正常。 原因:Feign默认使用了Ribbon作为负载,然而Ribbon的默认加载策略是懒加载。当第一次访问的时候,不仅会发送访问请求,还有初始化相关...

chenjimo8328的博客 7235

3DMax高效建模与人工智能:一场颠覆传统创作的效率革命

AI与3DMax的结合,不仅是工具效率的升级,更是一场创作范式的革命。从“手动雕刻”到“智能共生”,设计师的角色正从执行者转向决策者。正如网友所言:“AI不是替代人类,而是赋予凡人以神笔。”在这场变革中,唯有拥抱技术、深耕创意,方能在数字艺术的浪潮中立于潮头。参考文献与工具推荐技术原理:火星时代资讯《人工智能和三维建模》工具实测:哔哩哔哩《tyDiffusion 3dsMax应用》9、Tripo AI官网教育案例:原创论文《人工智能技术介入三维动画课程建设》

m0_46478534的博客 3022

SpringCloud 学习笔记7--SpringCloud 声明式Feign客户端调用工具、服务雪崩效应

摘自:蚂蚁课堂学习视频:http://www.mayikt.com/course/video/2390 1、SpringCloud中支持两种客户端调用工具: RestTemplate基本上不用的, Feign客户端工具应用比较多,它是一个声明式的http客户端调用工具,采用接口 + 注解方式实现,易读性比较强。 最大的优势: 2、代码实现(基于Eureka注册中心) 代...

gonghua0502的专栏 310

Sigrity Power Tree如何生成电源树操作指导

Sigrity Power Tree可以方便地生成电源树,仅需要网表文件就能将系统的电源树直观的显示出来,生成的电源树文件可以用Power DC,optimizePI进行直流和交流仿真,下面介绍如何生成电源树。Base on [Device_TYPE and VALUE]就是识别网表中器件的Device_TYPE作为power tree中的模型的名字。Allegro layout netlist file,就是从Allegro layout文件中输出的netlist第三方网表文件。如何生成电源树操作指导。

weixin_54787054的博客 1539

C#实现每日定时执行制定程序(附完整源码)

C#实现每日定时执行制定程序(附完整源码)

希望我的博客,能帮上你解决学习中工作中所遇到的问题 867

Java开发两年:拼多多+携程+蚂蚁金服技术面集合

什么是 Spring Boot Java (面向对象编程语言)经过30多年的发展,产生了非常多的优秀框架。Spring (为解决企业应用程序开发的复杂性而创建的框架)曾是最受欢迎的Java框架之一, 但随着Node、Ruby、Groovy、PHP等脚本语言的蓬勃发展,使用Spring开发应用就显得繁琐了,因为它使用了大量的XML配置文件,配置繁琐,整合不易,开发和部署效率低下。这时急切需要一-种新的能解决这些问题的快速开发框架,于是Pivotal Software公司在2013开始了Spring Boot的

m0_56604931的博客 423

【数据可视化-77】中国历年GDP数据可视化分析:Python + Pyecharts 深度洞察(含完整数据、代码)

通过上述可视化分析,我们可以清晰地看到中国历年GDP的变化趋势和产业构成。玫瑰图展示了2024年的产业构成,地图和柱状图展示了GDP的时空分布,双轴折线图和雷达图则分别展示了GDP总量与人均GDP的变化以及各行业的GDP贡献。希望这篇文章能帮助您更好地理解和分析中国历年GDP数据。如果您有任何问题或建议,欢迎在评论区留言!🎉。

qq_38614074的博客 1475

【SpringCloudAlibaba】nacos注册中心(一)实现feign远程调用

【SpringCloudAlibaba】nacos注册中心

开发学习工作日志 1369

(五)深入理解Bluez协议栈之“GATT Server Profile”

上一篇介绍Bluez协议栈的了GAP Profile的实现,本章节我们继续介绍GATT Profile的实现,参考的程序是Peripheral。通过阅读它的实现代码可以发现,它广播部分是通过mgmt来实现的,然后在初始化完成之后,创建了一个L2CAP类型的socket,来负责实现GATT Server的逻辑。

1147

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

第一期蚂蚁——23-springCloud(Eureka,Feign,Ribbon,Hystrix)应用

SpringCloud 一、微服务架构 1.1什么是分布式 不同模块部署在不同服务器上 作用:分布式解决网站高并发带来问题 1.2什么是集群 多台服务器部署相同应用构成一个集群 作用:通过负载均衡设备共同对外提供服务 1.3什么是RPC RPC 的全称是 Remote Procedure Call 是一种进程间通信方式。 它允许程序调用另一个地址空间(通常是共享网络的另一台机器上)的过程或函数,而...

qq_28461661的博客 590

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

Spring 配置#EnableAsync启动报错_Feign配置扫描包出现奇葩问题

点击上方 "Java指南者"关注,星标或置顶一起成长免费送 1024GB 精品学习资源来源:https://blog.youkuaiyun.com/dtttyc/article/details/109189084配置 EnableFeignClients之后扫描包报错classcom.yunduo.netty.client.feign.fallback.NettyIMFeignClientFa...

weixin_39609770的博客 470

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

初面蚂蚁金服,java的开发环境有

原理讲解前,先看一个最经典的业务场景,如开发一个电商网站,要实现支付订单的功能,流程如下: 创建一个订单之后,如果用户立刻支付了这个订单,我们需要将订单状态更新为“已支付” 扣减相应的商品库存 通知仓储中心,进行发货 给用户的这次购物增加相应的积分 如上,微服务的应用场景和核心竞争力: 降低耦合:每一个微服务专注于单一功能,并通过定义良好的接口清晰表述服务边界。由于体积小、复杂度低,每个微服务可由一个小规模开发团队完全掌控,易于保持高可维护性和开发效率。 独立部署:由于微服务具备独立的运行进程,所以

m0_57699778的博客 165

SpringCloud-Feign[入门案例](1),金三银四我带你去BAT面试现场

蚂蚁面试比较重视基础,所以Java那些基本功一定要扎实。蚂蚁的工作环境还是挺赞的,因为我面的是稳定性保障部门,还有许多单独的小组,什么三年1班,很有青春的感觉。面试官基本水平都比较高,基本都P7以上,除了基础还问了不少架构设计方面的问题,收获还是挺大的。经历这次面试我还通过一些渠道发现了需要大厂真实面试主要有:蚂蚁金服、拼多多、阿里云、百度、唯品会、携程、丰巢科技、乐信、软通动力、OPPO、银盛支付、中国平安等初,中级,高级Java面试题集合,附带超详细答案,希望能帮助到大家。

2401_84435866的博客 339
上一篇: 取代前后端岗,国内又一新兴岗位在崛起!这才是程序员未来5年最好的就业方向!...
下一篇: Spring项目中用了这种模式,技术经理对我刮目相看!
公众号-芋道源码
博客等级 码龄10年 1640粉丝 377原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值