我在京东做研发丨【混合多云第二课】混部技术如何每年为京东节省上亿元成本？...

于 2023-03-15 18:00:31 发布
阅读量149 收藏
点赞数
CC 4.0 BY-SA版权
文章标签： 人工智能 大数据
原文链接：https://mp.weixin.qq.com/s?__biz=MzU1OTgxMTg2Nw==&mid=2247504732&idx=2&sn=6eea4fa6556d1ee08a5a77a12b67cf9a&chksm=fc130f28cb64863e67c88c4fba50ab6938d8d455d8c0f5d0b4fa771d1c3accd9b8427abd7fc6&scene=126&sessionid=0

1363ad61cce1e3c8774a2a9d7a2b7dc1.gif

面对不断增长的业务需求

如何使现有的资源释放出最大的价值？

可大幅提升算力资源利用率的混合部署

成为各大企业的共同选择

本期，京东云资深混部专家将为你揭秘

如何通过混部使资源利用率保持在80%

e1f4b6c2e24f80c6007099a4e165f504.jpeg

嘉宾介绍

侯竹玲

京东云资深产品经理

目前负责京东云混合云云舰产品中容器平台、全场景混部、边缘计算和Serverless等产品的整体规划和设计。京东云混合云部门成立以来，从云舰v1.0，云舰v2.0，云舰v3.0的整体规划与设计，到产品模块拆解、产品架构优化，侯竹玲都深度参与其中，并支持了多角色在云舰平台的协同操作，助力云舰成为真正企业级的paas平台。

-end-

博客
开源 Ai Agent 智能体，能用、能改、能学，美滋滋！
07-28 542
作者：福禄娃，先是 RAG 知识库，再到 MCP 服务，越来越多的互联网公司掀起了 Ai 智能体的设计和落地。作为程序员👨🏻‍💻，我们是最早一波接触和使用了各类的 Ai Agent 产品的暖水鸭🦆，包括；Coze、Dify、Claude，以及编程类软件智能体，Cursor、Trae.ai 等。但是，也是作为程序员，其实我们更好奇，这东西是如何实现的。——我说的，Ai Agent 就不能是那种工作流配置的，太固定的东西，没法适应更多的场景。
博客
【手把手】使用JoyAgent-Genie，基于Deepseek模型构建自己的Manus
07-27 522
虽然是一个开源项目，但贴心的项目团队提供了一个一键使用的链接，使用京东/京东云账户登陆后，就可以直接体验了。修改resources/applicaition.yml文件中的llm-default配置如下，特别注意deepseek模型，需要配置max_tokens为8192，否则会出错。项目默认使用的是gpt4.1模型，因为国内无法访问，我这里来配置Deepseek模型，涉及到两个地方的改动。仅仅在线体验显然是不能满足我们的好奇心的，怀着对产品技术的追求，我们当然是想要在本地来部署的。
博客
Genie：产品级Agent开源产品
07-27 495
第三，支持子智能体和工具，包括：子Agent和工具可插拔（预制多种子智能体和工具），支持多种文件交付样式：html、ppt、markdown，支持plan和工具调用 RL优化迭代，支持全链路流式输出。整体页面简洁大方，智能体提供了网页模式，文档模式，PPT模式和表格模式，同时支持深度研究。然后，“数据分析师”智能体基于刚才收集到的信息，形成条理清晰的结构化分析内容，并保存为一个Markdown文件，这个生成Markdown的过程是通过Python代码实现的。1、多阶段思考：支持多层级的规划和思考。
博客
JoyAgent综合测评报告
07-27 956
在工作空间的文件可以查看全部结果，对于结果的保存很人性化提供了三种方案，直接转化Joyspace，下载md文件和复制功能，满足我日常所需，这个细节我很满意。结果的生成确认让我眼前一亮，首先推荐的店铺结果符合我的要求，三站地铁，人均100，烧烤，其次整个生成的文档不仅做了总览还很贴心的对每个区域的店铺做了详解，可以让我更好的做选择,体验感更加优秀。问题解析：旅行规划 首先解析关键地址是北京和阿尔山，住宿地址在阿尔山，时间5天包含往返，当地景点查询，酒店查询，路线安排。
博客
【纯干货】三张图深入分析京东开源Genie的8大亮点
07-27 209
CodeTool构建智能代码生命周期管理。精心打磨的System Prompt。可插拔多Agent和多种工具。可配置的MCP Server。大模型+搜索构建深度搜素。跨任务上下文和文件共享。数字员工提升用户体验。
博客
100%开源！行业首个企业级智能体
07-26 674
相较于通用智能体，JoyAgent在企业场景展示出更多优势，依托多智能体协同引擎，JoyAgent 可实现高效协作，面对复杂请求，由多个智能体提议、讨论或投票选出最佳方案执行，并融合大小模型优势，构建动态 DAG 执行引擎，主动聚焦问题，确保任务高效精准执行。作为一站式 AI 智能体搭建与发布平台，JoyAgent智能体已接入数十个大模型，预置了海量智能体配置模版，100多个行业解决方案模版，以及1000多种插件，用户可根据自己的场景需求，选择合适的模版，快速开始构建满足自有业务流程的智能体。
博客
一次线上生产库的全流程切换完整方案
07-25 945
本文详细梳理了线上生产环境的全流程，包括迁移和切换的灰度方案对比。在数据源选型方面，根据实际业务需求选择合适的中间件是整个工作的基石。在代码改造和数据异构方面，选择恰当的设计模式和合理的架构方案是关键所在。存量数据迁移和增量数据同步是不可或缺的步骤。上线过程中，确保系统具备可监控、可回滚和可灰度的能力，是实现平滑切换的保障。欢迎各位同学与我交流探讨。
博客
物流KA商家业务监控能力建设与实践
07-25 757
在过去的这段日子里，我们全力投入到业务监控能力的构建和实践中。如今，我们欣喜地看到，物流大部分的KA商家都已成功搭建起了独立的业务监控面板。随着不断优化的告警规则，我们可以第一时间感知并解决商家问题，确保技术和业务的同步。然而，业务监控只是手段，而非最终目标。我们的真正使命是提升系统的可用率，进而保障商家的使用体验。作为服务于京东物流KA商家的技术BP，KA商家研发组将继续坚定地走在这条大道上，不断探索与前行，以确保每一位KA商家都能享受到最佳的服务体验。
博客
本地（或自下载）浏览器插件 安装指南
07-25 692
作者：京东科技 贾玉龙。
博客
大语言模型在电商定价中的实践
07-23 130
在每一步推理中，模型会生成多个候选解，通过过程奖励选取当前阶段中质量较高、潜在价值较大的候选保留，并将其作为下一阶段的扩展起点。准确性：之前的线上的传统深度学习模型是针对文具、办公用品等少数品类进行定制化开发的，包含了大量专门设计的特征，因此难以扩展到全品类，对从常见三级类目中随机抽取一定量商品进行测试，整体准确率仅为44%。而在我们的优化中，引入了过程奖励设计：我们在每一步中设置过程奖励，同时考虑后续步骤的奖励并将其累积到前面的步骤中，从而确保初期关键token也能获得合理的reward。
博客
前端调试实践
07-21 719
本文介绍了断点调试、sources面板和日常使用到的一些调试技巧，帮助我们在后续的开发中，提供一些新角度、新方式来解决问题，翻倍提高我们的开发效率。
博客
B端体验深耕-洞察用户需求，打造心有灵犀的使用体验
07-21 774
我们常以“心有灵犀”来形容与合作伙伴的默契配合，若我们的产品能与用户达到同样的默契，将极大地提升用户在任务旅程中的流畅体验。在B端体验设计领域，我们深知用户对我们产品的期待───快速完成任务、即用即走；然而，随着业务需求和产品功能的不断扩展，流程复杂化、功能冗余、信息过载和引导不足等问题逐渐浮现，这不仅增加了新用户的学习成本，也使得老用户丧失了使用产品时的专注和效率。为应对这些挑战，上一篇文章《
博客
Spring 拦截器：你的请求休想逃过我的五指山！
07-21 334
WebApplicationContext是Spring Web应用的IoC容器扩展，它继承自ApplicationContext，并添加了Web应用特有的功能。拦截器通过WebApplicationContext进行注册和管理，成为请求处理管道的一部分。在Spring框架中，拦截器(Interceptor)是一种强大的机制，它允许开发者在请求处理的不同阶段插入自定义逻辑。WebApplicationContext作为Spring Web应用的上下文容器，为拦截器的配置和管理提供了基础支持。
博客
Spring 拦截器：你的请求休想逃过我的五指山！[特殊字符][特殊字符][特殊字符]
07-18 241
在Spring框架中，拦截器(Interceptor)是一种强大的机制，它允许开发者在请求处理的不同阶段插入自定义逻辑。WebApplicationContext作为Spring Web应用的上下文容器，为拦截器的配置和管理提供了基础支持。拦截器主要作用于以下场景：权限验证日志记录性能监控事务管理通用行为注入等。
博客
揭秘Chrome DevTools：从原理到自定义调试工具
07-18 591
CDP（Chrome DevTools Protocol）是Chrome DevTools与浏览器内核通信的协议。它基于WebSocket，允许开发者通过发送JSON格式的命令来控制浏览器行为，并获取调试信息。通过 CDP，DevTools 能够实时与页面交互，实现断点调试、性能分析等功能。为何需要自定义调试工具？DevTools 的局限性▪针对网页设计。
博客
如何一眼定位SQL的代码来源：一款SQL染色标记的简易MyBatis插件
07-18 980
答：org.mybatis:mybatis 版本较低。可以将sword-mybatis-plugins 升级至 1.0.5-SNAPSHOT 或之上版本，对低版本 mybatis 做了兼容。
博客
前沿论文分享 | 京东零售技术团队5篇论文入选SIGIR 2025
07-18 257
这些两阶段算法存在一定局限性：首先，GSU 需要为不同的目标物品检索不同的目标子序列，这使得 ESU 只能采用次优的 MHTA 网络，而非更有效的基于 Transformer 的网络；针对电商相关性判别场景所面临的难样例数据稀缺，线上浅层模型推理判别能力较弱的问题，本文提出了基于思维链推理的相关性大模型，自动分析在线曝光商品并生成领域特定的难样本，并通过KTO强化学习算法自动对齐线上用户行为。利用判别器的反馈信号，我们训练了一个多目标对齐的买词生成器，以最大化这三个目标的综合效果。
博客
纯配时效服务-双Redis集群设计
07-16 806
纯配时效服务作为物流下单环节中计算时效的重要组成部分，直接决定了下单的成功与否。其性能与稳定性至关重要，因为它们直接影响整个物流下单系统的运行效率及客户满意度。一个高效且稳定的纯配时效服务能够确保预计送达时间准确无误地展示给用户，从而提升客户体验和信任度。反之，若纯配时效服务出现故障或延迟，可能会导致订单处理延误，甚至影响客户的业务运营。因此，在设计和维护纯配时效服务时，必须确保其具备高可靠性和快速响应能力，以应对各种突发情况，确保物流链条的顺畅运行。
博客
工作中对InheritableThreadLocal使用的思考
07-16 1028
作者：京东科技 王奕龙代码评审时，发现在线程池中使用InheritableThreadLocal上下文会使其中的线程变量失效，无法获取到预期的变量值，所以对问题进行了复盘和总结。
博客
京东广告基于Apache Doris的冷热数据分层实践
07-16 802
京东广告围绕Apache Doris建设广告数据存储服务，为广告主提供实时广告效果报表和多维数据分析服务。历经多年发展，积累了海量的广告数据，目前系统总数据容量接近1PB，数据行数达到18万亿行+，日查询请求量8,000万次+，日最高QPS2700+。随着业务的不断增长与迭代，数据量持续激增，存储资源逐渐成为瓶颈。近两年存储资源经历了多次扩容，存储容量增加了近十倍，而日查询请求量仅增长两倍。同时，计算资源的利用率因频繁扩容而相应降低，导致资源浪费。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值