ElasticSearch降本增效常见的方法 | 京东云技术团队

于 2024-01-15 10:25:14 发布
阅读量1.5k 收藏 31
点赞数 20
CC 4.0 BY-SA版权
文章标签： elasticsearch 京东云 jenkins
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/JDDTechTalk/article/details/135594643

Elasticsearch在db_ranking 的排名不断上升，其在存储领域已经蔚然成风且占有非常重要的地位。

随着Elasticsearch越来越受欢迎，企业花费在ES建设上的成本自然也不少。那如何减少ES的成本呢？今天我们就特地来聊聊ES降本增效的常见方法：

  • 弹性伸缩

  • 分级存储

  • 其他：（1）数据压缩（2）off heap

1 弹性伸缩

所谓弹性伸缩翻译成大白话就是随时快速瘦身与增肥，并且是头痛医头，按需动态调整资源。当计算能力不足的时候我们可以快速扩充出计算资源；当存储资源不足时，能够快速扩容磁盘，。

1-1 计算存储分离

ES使用计算存储分离架构之后，解决了资源预留而造成资源浪费的问题。在早期大家认为的计算存储分离的实现方式为：使用云盘代替本地盘，这种实现方式可以提高数据的可靠性、可以快速弹扩磁盘资源和计算资源，但是es自身弹性需求是无法解决，即秒级shard搬迁和replica扩容。

那么如何解决es自身的弹性呢？本文该部分将给出答案。

共享存储版ES

本文该部分将介绍我们京东云-中间件搜索团队，研发的共享存储版本ES；计算存储分离架构如图1-2所示

图 1-2 计算存储分离架构(共享)

如图1-2所示，我们只存储一份数据，primary shard负责读写，replica只负责读；当我们需要扩容replica的时候无需进行数据搬迁,直

最低0.47元/天 解锁文章

200万优质内容无限畅学
博客
业务复杂度治理方法论--十年系统设计经验总结
09-05 1931
软件设计的核心在于降低复杂性。--《软件设计的哲学》业界对于复杂度并没有统一的定义，斯坦福教授John Ousterhout从认知负担和工作量方面给出了一个复杂度量公式子模块的复杂度cp乘以该模块对应的开发时间权重值tp，累加后得到系统的整体复杂度C这里的子模块复杂度cp是一个经验值需要注意：如果一个子系统特别复杂，但是很少使用及修改，也不会对整体复杂度造成太大影响。例：spring框架内部代码较为复杂，但由于几乎不需要我们去变动，所以对系统的整体复杂度影响并不大。
博客
【转载】golang内存分配
09-05 1132
在 1.10 以前 go 的堆地址空间是线性连续扩展的, 比如在 1.10(linux amd64)中, 最大可扩展到 512GB. 因为 go 在 gc 的时候会根据拿到的指针地址来判断是否位于 go 的 heap 的, 以及找到其对应的 span, 其判断机制需要 gc heap 是连续的. 但是连续扩展有个问题, cgo 中的代码(尤其是 32 位系统上)可能会占用未来会用于 go heap 的内存. 这样在扩展 go heap 时, mmap 出现不连续的地址, 导致运行时 throw.
博客
自增主键去哪了?---一次开发过程中的思考
09-05 1350
MySQL是作为大家都经常接触的DB，相信大家都会有一定的认知，自增主键不连续大家肯定也遇到过，这次在联调过程中遇到这个情况，在跟别的小伙伴分享的时候，突然就想写一篇文章，文章里面如果有不正确或者不准确的地方也欢迎大家斧正~说实话，作为一名交易端的研发人员，业务开发任务压力真的蛮大的，我也迷茫过，如何在这个过程中成长，珍惜我们遇到的问题，将遇到的问题记录在册，深追问题，你会发现有很多问题其实真的是因为我们某些知识的薄弱点造成的。
博客
万字长文浅谈三高系统建设方法论和实践
09-04 2043
整个软件的发展历程是一部软件复杂性对抗史，软件的复杂性分为技术复杂性和业务复杂性，业务复杂性主要是建模和抽象设计，技术复杂性主要是三高（高性能，高并发，高可用）的应对，C端的业务一般以技术复杂性为主，业务复杂性为辅，而B端或者M端的业务通常以业务复杂性为主，技术复杂性为辅。本篇文章主要是从后端研发的视角结合自己多年的B C端系统建设实践谈下三高系统的建设方法论和实践，希望和大家相互交流，共同进步，同时这是我参与创作者计划的第1篇文章。
博客
Vision Pro开发实践（结合24黑马idea）
09-04 1789
利用ModelEntity加载模型，添加到RealityView的content中展示，这样可以对模型做各种操作，比如添加子模型，修改光照，材质等要素。举个例子来讲，我需要在运动鞋模型“sneaker”上面添加一个可以与用户交互的白色圆点模型，用于在用户点击的时候添加/展示对应部分的评价。这次结合的idea是我参加黑马比赛时想到的，主要内容是：在商品评价时增加商品的3D模型，用户可以在虚拟现实环境中查看商品的3D模型，并对模型的特定位置进行评论。：通过3D模型动画，用户可以直观地了解产品的特性和使用方法。
博客
买药秒送 JADE动态线程池实践及原理浅析
09-04 1600
买药秒送是健康即时零售业务新的核心流量场域，面对京东首页高流量曝光，我们对频道页整个技术架构方案进行升级，保障接口高性能、系统高可用。动态线程池是买药频道应用的技术之一，我们通过3轮高保真压测最终初步确定了线程池的核心参数。但我们仍面临一些保障系统稳定性问题：如何监控线程池运行状态？以及因流量飙升出现任务堆积和拒绝时能否实时报警，线程池核心参数能否做到不重启应用，动态调整即时生效？经调研，业界成熟的动态线程池开源项目有dynamic-tp和hippo4j。
博客
从原理聊JVM（一）：染色标记和垃圾回收算法
09-04 1542
本篇介绍了JVM中垃圾回收器相关的基础知识，后续会深入介绍CMS、G1、ZGC等不同垃圾收集器的运作流程和原理，欢迎关注。。
博客
BFF层聚合查询服务异步改造及治理实践
09-04 1541
本篇主要是思考如何依赖现有框架、环境的能力，从代码层面系统化的实现相关治理规范。最后仍引用王晓老师文章结尾来结束。
博客
QPS提升10倍的sql优化
09-04 1441
总结本次优化经历•慢sql 往往是影响数据库性能的大瓶颈，sql写好了不但可以优化性能，还能节约机器成本，降本增效。•最好能看到sql语句执行的第一现场，本次主要是由于查看代码时没有及时注意到索引字段的传参类型不对这一细节，造成花了很多时间分析问题•虽然整个问题分析过程比较曲折，但问题分析的方向应该还是对的，过程中学到不少知识。•表结构的设计也有一些历史遗留原因，site_id 字段在表中定义为整型可能比较符合业务含义。表字段定义和业务含义一致，写sql也不容易犯错。
博客
一站式统一返回值封装、异常处理、异常错误码解决方案—最强的Sping Boot接口优雅响应处理器
09-04 1616
Graceful Response内置了两种风格的响应格式，可以在文件中通过进行配置。•gr.responseStyle=0，或者不配置（默认情况）"msg": "有内鬼，终止交易"},"data": {•自定义响应格式如果以上两种格式均不能满足业务需要，可以通过自定义去满足，Response@Override@Override@Override@Overridereturn msg;注意，不需要返回的属性可以返回null或者加上注解。
博客
【原创】【深入浅出系列】之代码可读性
09-04 1427
原创声明：该文章是个人在项目中亲历后的经验总结和分享，如有搬运需求请注明出处。这是“深入浅出系列”文章的第一篇，主要记录和分享程序设计的一些思想和方法论，如果读者觉得所有受用，还请“一键三连”，这是对我最大的鼓励。一句话：见名知其义。有人说好的代码必然有清晰完整的注释，我不否认；也有人说代码即注释，是代码简洁之道的最高境界，我也不否认。但我都不完全接受，如果照搬前者，有人会在每个方法、每个循环、每个判断都添加大量注释，对于一个表达不严谨的coder来说，代码与汉字可能词不达意；
博客
动态化-鸿蒙跨端方案介绍
09-04 2138
动态化目前已经具备一份代码在iOS、Android、H5三端运行的能力，该方案就是将动态化一码多端能力对接到鸿蒙系统，降低首次适配研发投入；一次开发，四端共用，长期降低业务迭代成本；并且使业务具备随时发布能力。。
博客
【ChatGPT应用篇-1】助力Beauty代码的初体验
09-03 1181
以下是一个与ChatGPT 结对编程的一个Excel数据解析案例，大家可以根据我的思考过程进行体验，以下放了一些截图，ChatGPT的反应速度惊人，代码版本一步步进行迭代优化，感触较深的是。对于ChatGPT输出的代码没有做仔细的Review及调试，但是看代码风格基本上是改改就能用于生产的，对于代码规范、命名还是很认可的！10.提升程序效率，把解析性能在提升10倍 （架构师的成本意识，这个问题的回答有点意思）6.替换掉 poi 采用EasyExcel （替换原始的默认技术选型，替换三方包）
博客
一文了解电商大促系统的高可用保障思路-献给技术伙伴们
09-03 1698
电商大促是电商平台组织的一种大型销售推广活动，目的是通过提供各种优惠、折扣等方法，提高商品销售额和网站流量，增加消费者的购物欲望，以实现销售目标。电商大促活动通常会在一些特定的节点或者节日举行，比如“双11”、“618”、“黑色星期五”等，这些时期的电商大促极具吸引力，既有大量的商品打折优惠，又有丰富多样的活动供消费者参与，是电商平台提升销售业绩的重要手段。
博客
一起单测引起的项目加载失败惨案
09-03 1598
是相对于静态编程而言的,平时我们讨论比较多的就是静态编程语言，例如Java，与动态编程语言，例如JavaScript。最近在开发一个功能模块时，在功能自测阶段，通过使用单测测试功能的完整性，在测试单测联通性使用到静态方法测试时，发现单测报错，通过查阅解决方案发现需要对。建议大家在构建Maven项目时，仔细检查POM文件中的依赖，确保没有漏掉任何必要的库，以免因为遗漏而引起不必要的问题。但是，在我们的POM文件中，虽然我们添加了对Spring框架的依赖，但是并没有添加。: 返回修改后的字节码。
博客
京东小程序折叠屏适配探索
09-03 6893
应用在折叠屏运行时，可以从一个屏幕切换到另一个屏幕。应用应该做好配置变更的适配和界面状态的保存，以保证应用当前任务能无缝迁移到转换后的屏幕，从而为用户提供出色的连续性体验。折叠屏作为未来Android屏幕发展的新趋势，具有很大的发展前景，做好折叠屏相关适配支持也势在必行。小程序相关适配已经跟随京东主站、小家App、小家三星预装版等发布上线，本文是作者进行相关适配的一些心得体会，如有不足敬请见谅，欢迎交流探讨。
博客
KubeCon China 2024全球大会在香港举行，京东云受邀参加探讨云原生、开源及 AI
09-03 851
和数字化大潮一样，在AI化的革命下，云端也在全面拥抱AI，并在方方面面变得更安全、更高效，让全球各行各业受益。大会首日吸引了来自全球 30 多个国家和地区的 1000 多名参会者，共同探讨云原生、开源及 AI 领域的前沿进展、核心技术和最佳实践。在京东云中，联邦Serverless服务基于联邦管理模型和Serverless应用模型，为联邦应用容器部署、弹性扩展和故障迁移提供JDOS应用容器控制服务。弹性扩缩容技术方案有很广大的应用前景，京东云内部也在进行大量的生产实践和验证。1. 多集群管理和分发实践。
博客
京东搜索重排：基于互信息的用户偏好导向模型
09-03 1541
。
博客
探索AC自动机：多关键词搜索的原理与应用案例
09-03 1268
目前，大多数自由文本搜索技术采用类似于Lucene的策略，通过解析搜索文本为各个组成部分来定位关键词。这种方法在处理少量关键词时表现良好。但当搜索的关键词数量达到10万个或更多时，这种方法的效率会显著下降，尤其是在需要与词典进行详尽对比的场景中。本文将介绍的Aho-Corasick（AC）自动机作为多模式匹配中的经典算法，不仅能够处理大规模文本数据，还能确保搜索过程的实时性和准确性。AC自动机可以被形象地比喻为一个超级找词机器。
博客
“前端”工匠系列（一）：合格的工匠，究竟该搞什么
09-03 856
有效的交流是需要以有效的信息为载体的。在用户端日志查询、特殊边界场景复现、日志排查定位故障等场景，“实时”就不是必要的，这种场景下一般采用T+1查询，但是又引入了大量级日志的存储周期的话题，一般企业应用级的用户日志保存14天就完全够用了，因为对于C端日志来说，更多的是对现场故障的复现、处理及跟进，如果算法策略对用户日志有需要，只需要在一定时间内采用处理任务对用户日志进行一次处理，把输出的标签、行为特征等关键数据存储就可以，基础的用户日志还是应该被存档或清除释放资源供给更有价值的最新日志来使用。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值