高并发系统中库存热点的解决方案

支付结算系统如何应对高并发、热点账户等问题 互联网金融系统的核心是支付结算,而支付结算的基础又是账户系统。金融账户系统的特点是并发量大、响应快、交易金额大,热点账户问题突出。一个合格的账户系统既要解决上述问题,又必须绝对保证资金安全。作为宜信这家互联网金融公司的支付结算中心,其账户系统也必须具备上述特征。 一、账户体系 1.1 账户结构 宜信支付结算账户体系是客户、用户、账户三层结构,证件号和证件类型唯一确定一个客户,客户号和机构号确定一个... 阅读详情

导语

本文讨论的场景是互联网业务中秒杀场景下热key的解决方案,秒杀场景不局限于电商活动,也包括:日常活动下发奖品的配额控制、春节的集卡瓜分现金、春晚的摇一摇抢红包等。更进一步的说,是探讨所有关于有热key的场景的一种解决方案。
在这里插入图片描述
以上图为例,解释下各个模块: 发货模块:先查询库存,有库存后给用户发货,进入到账流程。

到账模块:把钱发到用户账户上。

使用模块:用户看到账户上的余额,进行提现/使用操作。

发货流程中,有高并发流量,有热点key。本文重点讨论这个流程。

到账流程中,有高并发流量,无热点key。一般只有库存数量的请求才会进入到这一步,用户的请求已经少了很多,而且这里可以按用户分区治理解决高并发问题(分set分库分表等)。本文不讨论此流程。

提现流程中,用户到账后,有提现需求的用户才会发起请求,本文不讨论此流程。

解决方案

按照业务规模和流量预估,将场景分成如下几类,分别探讨下热点的解决方案。

qps < 1k

在这里插入图片描述
直接利用DB存储库存、用户的结果数据。

  • <1kqps流量的服务,db层没有压力,直接利用DB做库存控制即可。
  • 可以利用从库分担读压力:

有库存时,已经抢到的人直接读取抢的结果; 没有库存时,没抢到的人直接根据读取的库存的结果,返回已经抢完。 还要谈一下安全的问题,接入层的节点可以定时cache黑产名单,提前拦截掉请求。

1k< qps < 10w

在这里插入图片描述
这个qps下,库存的DB是瓶颈,假设采用redis,单key可以扛住10wqps的读写,用redis存储库存信息。 抢到的用户才会进入到账,这部分的并发量取决于库存数,因此这里开始把发货和到账流程分开。用户流程分几步:

  • 用户首先查询是否抢过,已经抢到的用户,可以直接返回
  • 扣库存成功后,保证到账请求成功,如果失败的话,可以异步补单重试保证最终一致。
  • 到账模块把用户结果存储后,需要构建出用户结果的cache,用来将已经抢过的用户信息存储下来,把再次请求的量挡在前面。
  • 如果库存没有了,直接返回,告诉用户已经抢完。

如果扣件库存失败了,怎么处理?

  • 如果是超时错误,此时不能确定库存是否扣成功,不能发起重试,直接告诉用户失败,让用户发起重试。这里会带来真实发出去的货比预估的库存少,可以通过定时对账算出补偿值修正库存值,补偿值=库存预估数- 真实到账数-库存余额。
  • 如果是非超时错误,直接返回失败,让用户发起重试。

10w < qps < 100w

这个qps下,redis的单key也存在瓶颈了,可以采用分治的方法解决热key问题。 一般有两种方式:

  • redis中分10个key,库存数平均分布在每个key上,用户按照hash规则到固定的key上。优点是配额能够精准控制,缺点是: redis压力大,同时分key上的库存有碎片。被路由到在无库存的key上用户,哪怕先进来抢商品,也会提示没货。
  • 库存在存储中是单key,发货服务的每个机器节点定时从库存中取固定数量的库存,预扣库存方式放在本地cache做。优点是db压力小,缺点也很大:微服务节点如果被调度走的话,预扣的库存没有发货导致库存不准。同一个用户的体验单调性差,库存节点的预扣库存耗尽时,此时用户体验时无库存,节点再次拿到预扣库存后,会提示用户有库存。

这里提出基于瞬间高并发下热key的多分片本地cache方案,如下图所示。
在这里插入图片描述
库存存储按key分片,分片公式参考:max(min(库存数, qps/10w), 1)。新加进来的库存节点,从库存db中将数据loading到本地cache住。发货访问库存步骤如下:

  • 发货请求到库存节点,首先通过hash选取一个本地分片,本地分片查询到有库存后,去db扣减库存。
  • 如果本地cache和db数据不一致导致库存扣减失败,此时刚好更新本地cache值。如图所示,本地节点从1->0。
  • 重新挑选本地非0的分片。
  • 重复2的过程,此时发现有库存,但db中的库存数更少,需要更新本地cache9->6。

如果本地分片cache都是0,代表此时库存已经没有了,直接返回上游已经瓜分完毕。 本地的分片cache本质上是个bloom滤波器,告诉你有库存时不一定有,但是告诉你没有库存时一定没有。刚好应对高并发流量下,大量抢不到商品的用户应该快速返回告知用户结果。

这个方案也解决了用户时有时无问题,也解决了先来的用户瓜分不到,后面来的用户可以抢到的问题。对db的方案压力也不大。

需要特别说明的是,当db无库存时,当本地cache有库存时,会触发扣减库存,如果10个本地cache都不为0,会触发10次的扣减库存IO,但是很快会收敛到本地cache和db一致的情况,我们测试了20wqps下的请求的放大倍数在1.003756倍。

管理员补库存后,本地库存节点会定时取到库存,cache在本地节点。

整体架构如下:
在这里插入图片描述
这里引入了瓜分服务,分担发货服务的压力,针对没有资格的用户、已经瓜分过的用户,提前把流量拦截掉。

100w < qps < 1000w

这个量级的秒杀系统,我自己没有做过,跟大佬交流后参考大佬的做法:

  • 红包业务独立部署,不影响其他业务
  • 全部逻辑在线逻辑放到接入层,峰值流量下减少峰值的调用
  • 红包模块做两个事情:a)控制速率,匀速下发红包,保证后续的到账、提现的负载在可控范围;b)定时回收没发完的红包
  • 用户开始抢红包,真正抢到的才走到账逻辑。

在这里插入图片描述

结论

  • 能用db扛,优先db
  • 能用nosql单key扛,优先单key扛
  • 超过单key压力,分治
  • 流量大得离谱,分治+提前本地cache
解密高并发系统的瓶颈:五大解决方案 在互联网应用中,高并发是指在短时间内同时有大量的用户访问一个网站或服务,造成系统压力过大,导致服务器宕机或服务停止响应的情况。高并发是互联网应用面临的一个重要问题,需要采取一系列措施来解决。负载均衡、缓存、数据库优化、异步处理和分布式架构是解决高并发问题的主要方法。在实际应用中,需要根据具体情况选择不同的方法来解决高并发问题。在高并发情况下,使用负载均衡是解决问题的一种常见方法。负载均衡可以通过将请求分配到多个服务器上,从而减少单个服务器的负载。这可以通过硬件设备或软件实现。 阅读详情

相关推荐

高并发热点更新压垮 MySQL?一个电商秒杀案例的深度复盘与优化方案

但在那之前,掌握这些“土办法+巧思”,依然是每个 DBA 和开发者的必修课,与诸君共勉。在高并发业务场景中,“热点数据更新” 是数据库性能的“头号杀手”。尤其在电商秒杀、抢红包、库存扣减等场景下,成千上万的请求同时修改同一行记录,极易引发严重的 锁争用(Lock Contention),导致数据库 CPU 飙升、响应延迟甚至服务雪崩。本文将以一个 真实电商秒杀系统 为例,深入剖析 MySQL 在热点更新下的性能瓶颈,并给出一套经过生产验证的 三层优化方案,助你从容应对高并发挑战。

gjc592的博客 824

高并发场景下的订单和库存处理方案,讲的很详细了

前言 之前一直有小伙伴私信我问我高并发场景下的订单和库存处理方案,我最近也是因为加班的原因比较忙,就一直没来得及回复。今天好不容易闲了下来想了想不如写篇文章把这些都列出来的,让大家都能学习到,说一千道一万都不如满满的干货来的实在,干货都下面了! 介绍 前提:分布式系统,高并发场景 商品A只有100库存,现在有1000或者更多的用户购买。如何保证库存在高并发的场景下是安全的。 预期结果:1.不超卖 2.不少卖 3.下单响应快 4.用户体验好 下单思路: 下单时生成订单,减库存,同时记录库存流水,在这

qq_31432773的博客 6115

库存超卖场景

方案适用场景优点缺点原子操作简单扣减高效、简单需手动补偿令牌库存库存量小避免超卖初始化慢库存分片高并发单库存减少锁冲突多库存秒杀性能差Lua 脚本复杂逻辑灵活、原子性脚本维护成本CAS 乐观锁并发适中无锁、线程安全高并发重试多简单场景:优先使用原子操作或令牌库存。复杂逻辑:推荐Lua 脚本。超高并发:可结合库存分片 + Lua 脚本。“在高并发库存抢购场景中,超卖问题主要由于并发扣减库存时缺乏原子性控制导致。

qq_45511726的博客 813

热点账户及解决方案

业务发生以后会产生业务事件,比如下单支付,业务事件需要申请入账;当在短时间内产生了大量的业务事件,或者狭义的看有大量的交易产生时,造成高并发的入账请求,高并发引起了账户系统的性能瓶颈而产生了性能问题,进而造成入账延迟、失败、账务准确性等各种账务问题;而这个过程中涉及到的账户我们就称为热点账户;所以说热点账户是由于高并发交易时频繁更新账户产生性能问题而造成的,所以这里一个关键的前提是“高并发”,那么热点账户的标准是什么呢,在一些文献里提到以下标准。

justlpf的专栏 2007

实战!如何从零搭建10万级 QPS 大流量、高并发优惠券系统--图文解析

Queries Per Second,意思是每秒查询率。就是每秒的查询数,对数据库而言就是数据库每秒执行的 sql 数( insert、select、update、delete 等)如下图:系统服务器向MySql服务器发送了一条sql,对于MySQL服务器来说,QPS为1(一秒内)和TPS的区别:tps(transactions per second)每秒事务数。以 commit 成功次数为准。

赵志强的专栏 2983

电商库存系统的防超卖和高并发扣减方案

理解,首先MCube会依据模板缓存状态判断是否需要网络获取最新模板,当获取到模板后进行模板加载,加载阶段会将产物转换为视图树的结构,转换完成后将通过表达式引擎解析表达式并取得正确的值,通过事件解析引擎解析用户自定义事件并完成事件的绑定,完成解析赋值以及事件绑定后进行视图的渲染,最终将目标页面展示到屏幕。第一关解决超卖检验可以把数据放入Redis中,每次扣减库存,都对Redis中的数据进行incryby扣减,如果返回的数量大于0,说明库存够,因为Redis是单线程,可以信任返回结果。...

m0_71777195的博客 839

业务场景——高并发商品库存扣减

4.10万以上,服务单独部署+本地缓存分桶+库存预留,比如单独部署100个服务实例只用于此接口,库存有1万,那么把接口调用策略改为轮巡(保证流量平均),同时每个实例赋值80作为库存,那么此时是这1万的库存分布为:100(实例数)X80(实例本地缓存)+2000(预留库存,防超卖),再异步改库。扣减库存的逻辑,需要依据qps量身定做,设计不足系统奔溃,设计过度徒增业务复杂度还浪费硬件资源。3.1万~10万qps,redis单key压力过大,给redis做分治,即多个key来保存数据。

w6869012的博客 677

电商 - 高并发下订单商品库存扣减方案

开发一个电商库存系统时,我们最担心的就是高并发和防超卖了。

MinggeQingchun的博客 6166

vivo全球商城:库存系统架构设计与实践

本文主要介绍vivo商城库存系统发展历程、架构设计思路以及应对业务场景的实践。

vivo互联网技术 1337

如果让你设计一个秒杀系统,你会怎么做?

这个算是一个经典面试题了,虽说是一个场景题,但是也算是老八股了。今天就从系统设计的角度来和小伙伴们聊一聊这个话题。接下来我们就这里提到的点逐一进行分析。

leyang0910的博客 3354

基于物联网技术智慧园林绿化养护管理信息平台

近几年来,随着经济不断的发展,城市面积不断的扩大,城市管理中的园林绿化工作也在这种趋势下不断的发生着深刻改变。管养企业是否按制定的管养计划严格执行?绿化事件整改是否及时到位?绿地面积是否在稳步增长?管养的效果如何?如何客观评价管养企业的管养工作?这些都是我们各级管理者需要面对的问题。   智慧园林绿化养护管理信息平台的开发思路以“考核”为核心,整个信息平台体现出“新、快、高、全、享”五个特点。   智慧园林绿化养护管理信息平台的整个开发理念为:依托五大技术手段(全球卫星定位系统技术、地理信...

Cesium的博客QQ2252224326 2460

电商高并发库存(高频写)系统设计注意事项

查询商品库存设计:类似于商品查询系统,详细见前文。本文主要为避免库存超买超卖需要注意的事项 1.启用缓存,查询库存(读缓存),缓存查不到再查数据库,判断可以扣减库存,更新数据库并更新缓存 2.防止超买超卖,sql中where语句加上前值(不能预防aba问题),添加库存版本字段(性能有影响) 3.上述防止超买超卖利用了数据库乐观锁的概念,性能并不好,且不友好,高并发场景下大量库存扣减失败并击穿到数据库,使用分布式锁提高性能 4.加分布式写锁后进行库存扣减 4.突发性热点商品下单(秒杀),高并发下单场

吉他手的私房菜 498

机器人示教器方案昆仑通态脚本实现( 三菱FX3U+昆仑通态3轴联动))

项目应用场景:最终客户需要自由的修改程序流程,如检测什么信号,多少时间,再进入下一步,轴定位轨迹可以自由修改,方便最终可以在不修改PLC程序的情况下,自由示教程序。3.指令数量可以自行添加,在内存足够的情况下,无限制,只需要在PLC框架里面写好每个指令执行的内容就可以了,不需要在程序里面重复写相同类容;4.模板有延时指令,输入指令,输出指令,伺服定位指令,焊钳控制指令,自动修磨指令,转矩模式指令,结束指令等(可自行添加);1.有类似示教器编程功能,可以任意位置插入指令,可以任意位置删除指令;

huanyuecuiyu的博客 971

分布式订单流程设计

订单流程设计 订单流程图 如何在高并发下,保证数据的唯一性?例如某商品同时有上百个定单, 如何保证定单下单成功的同时,保证库存正确 我也是想的队列或者加锁,都是串行的方式,如果数据量再大,客服端可能就响应慢 以尝试将库存扣减和下单分开,下单可以先创建成中间态订单,异步减库存,减成功再改订单状态 。热点库存在扣减时可以累加减。减少并发。读写分离,读可以缓存,异步更新。 一致的呢 只是把一个动作改成了N个动作,可以分压 秒杀系统套路 读写分离 拆单 分流 按我们的观察,如果你只做hash查询与操作还

qq_36087639的博客 1645

傻白入门芯片设计,芯片键合(Die Bonding)(四)

傻白入门芯片设计,芯片键合(Die Bonding)(四) 引线键合、倒装芯片键合、管脚贴合技术

qq_46675545的博客 3万+

【嵌入式原理系列-第七篇】ld脚本实战:从零构建MCU内存布局

本文是一篇针对嵌入式开发者的实战指南,详细讲解了如何从零开始为MCU编写ld链接器脚本以构建自定义内存布局。文章以STM32F103C8T6为例,深入剖析了MEMORY和SECTIONS指令的用法,并提供了OTA分区、非易失数据存储等高级定制案例,帮助开发者解决实际工程中的Flash与RAM管理难题,实现对程序运行的深度掌控。

weixin_29271263的博客 250

揭秘千万级QPS秒杀系统的架构设计与避坑指南

然后,再异步去实现数据持久化。不仅要在 Redis 中预热,还要在本地缓存预热,避免 Redis 出现热 key 问题,在秒杀业务里,用户频繁尝试下单支付,可能导致重复下单,额外占用库存,最终造成少卖情况。进行请求随机丢弃,被丢弃请求返回失败或提示系统繁忙,让用户重试,减少发往服务端流量。如:在手游项目实战中,游戏客户端更新包,会提前传入 CDN,并进行 CDN 预热。如:在手游项目实战中,单服会做登录人数限制,达到指定限制会加入排队系统。即在订单和商品上做标记,注明是秒杀订单,便于后续查询和数据分析,

Balance 1689

基于PLC1200与CB1241的RS485从站Modbus Rtu通信实战指南

本文提供了一份详细的西门子S7-1200 PLC与CB1241 RS485通讯板实现Modbus RTU从站通信的实战指南。内容涵盖从硬件接线、博途软件组态、关键参数设置到程序调试与测试的全过程,重点解析了Modbus_Slave指令配置与数据块映射,帮助工程师快速掌握工业自动化系统中的数据采集与设备接入技术。

Apple的专栏 798

高并发其实很简单

对于流量刚成长起来的业务,能让你的系统在后续业务流量增长时,扛住需求冲击并快速解决问题,并对头部开源解决方案也会有更深的理解。若能主持高并发改造和 RPC 建设,那都是公司的一把好手,不说多了,年薪 30W+ 也是妥妥的。我们知道,互联网服务的核心价值就是流量,流量越大,平台的可能性和空间就越大,所以这也是为什么大厂倾向于有高并发经验的研发。不仅总结出一系列技术方法论,而且配合真实的案例,娓娓道来,深入浅出。不同的需求,库存争抢的具体实现是不一样的,通过 Redis 的特性实现了六种方案,分别为:。

蓝天的博客 949

【调优】OpenClaw从零开始高阶调优之skill篇

本文详细解析了OpenClaw技能系统的核心机制。首先介绍了技能的分层加载逻辑,按照优先级从高到低依次为:工作区专属技能、全局共享技能、出厂自带技能和自定义路径技能。通过流程图展示了从扫描到注册的完整加载流程,并解释了同名技能覆盖规则。随后深入剖析了SKILL.md文件结构,包含YAML元数据定义技能属性和Markdown正文说明使用方法,以公众号写作技能为例展示了具体配置。文章还提供了技能优先级切换的实用技巧,帮助用户灵活管理不同版本的技能。

海兰 240

【光伏风电功率预测】偏差考核每月少几十万:STL-VMD + Informer-LSTM 在某基地的落地案例

摘要:某风光一体化基地通过STL-VMD二次分解与Informer-LSTM并行残差模型,在不推翻现有预测系统的情况下,将风光功率预测的综合nRMSE降低了1.2-1.5个百分点。该方案通过分解预测误差为多个子序列,并采用不同模型处理各频段特征,显著改善了关键时段的预测精度。实施后,风电nRMSE从9.0%降至7.6%,光伏从10.2%降至8.8%,每月减少偏差考核费用30-50万元。项目经验表明,数据质量优化、参数调优及与业务目标对齐是关键成功因素,该技术路线具有可复制性,为风光基地预测精度提升提供了有效

专注AI大模型,软件混淆,授权 268

系统设计——秒杀系统设计

秒杀大家都不陌生。自2011年首次出现以来,无论是双十一购物还是 12306 抢票,秒杀场景已随处可见。简单来说,秒杀就是在同一时刻大量请求争抢购买同一商品并完成交易的过程。从架构视角来看,秒杀系统本质是一个高性能、高一致、高可用的三高系统。而打造并维护一个超大流量的秒杀系统需要进行哪些关注。博文主要介绍的有关于秒杀系统的设计和底层实现原理。

庄小焱 1万+

智能车复工日记【3】:图像处理——基本扫线和基本特征提取和十字补线

目录前言基本扫线(除了进入环岛状态或者坡道或者十字路口的普通扫线)基本数据和初步特征进一步特征提取1、计算并且显示前n行左右线各丢失数目(不break和break的都有)2、计算左右线方差(以右线为例)【a】计算右线曲率(选三个点:r_start、中点、break点)【b】如果右线曲率在一定的范围,就进行右线拟合,从空白行开始计算斜率,否则则从0行开始计算 前言 图像大小185*70,通过扫线获取.........

hanhan的博客 3万+

秒杀场景设计核心:热点数据

秒杀场景遇到的问题

笔记小屋 698

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

秒杀系统的设计思考

一、前言 秒杀大家都不陌生。自2011年首次出现以来,无论是双十一购物还是 12306 抢票,秒杀场景已随处可见。简单来说,秒杀就是在同一时刻大量请求争抢购买同一商品并完成交易的过程。 从架构视角来看,秒杀系统本质是一个高性能、高一致、高可用的三高系统。而打造并维护一个超大流量的秒杀系统需要进行哪些关注,就是本文讨论的话题。 二、整体思考 1 秒杀存在的问题 对于一个日常平稳的业务系统,如果直接开...

tangyb828的博客 551

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

实战!如何从零搭建10万级 QPS 大流量、高并发优惠券系统

需求背景 十万级的用户券系统需求,负责券建立、发放、核销、查询。 需求分析 首先对需求进行拆解,大致包含两部分: 券的配置,即全批次(券模板)的创建,券模板的有效期和券的库存信息; 券的发放,即券记录的创建和管理(过期,状态流转); 技术选型 券模板、券记录都要持久化,同时还需要支持条件查询,因此选用通用的MySQL作为存储DB; 另外由于需要支持高并发的读写,所以引入Redis做缓存; 券模板、券记录都有过期时间、过期状态等状态流转,有必要引入延迟消息队列做相应的业务处理,Roc.

jyhhhhhhh的专栏 1284

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

上一篇: 看了这篇文章CAP你还不懂,我打你!
下一篇: 建设高并发系统的一些经验总结
Jack爱258
博客等级 码龄10年 1288粉丝 124原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值