
架构设计
文章平均质量分 92
人生的道路上充满了希望和绝望,只要我们找准了方向,找对了方向,一路前行,不畏荆棘,我们总会到达梦想的地方
数据与算法架构提升之路
我是一名专注于AI和数据架构的技术专家,拥有扎实的编程与数学基础。在大数据框架重构和底层源码开发方面积累了丰富经验,擅长自动驾驶、数据架构和深度学习等领域的研究与实践。目前,我主要从事数据AI架构相关工作,并曾在新能源汽车行业积累了深厚的技术背景。对技术创新和持续学习充满热情,致力于推动前沿技术的应用与发展。
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
揭秘数据库革命:向量化引擎如何让查询速度飞跃提升
向量化执行引擎通过列存储和SIMD技术,大幅提升了数据库查询效率,尤其适用于分析型工作负载。原创 2024-08-13 09:37:09 · 392 阅读 · 0 评论 -
互联网时代架构师都面临哪些新挑战
在实际的架构活动中,我并没有按照步骤一个一个执行。不过在初学时期,我会想办法把完整的流程多跑几遍,将每个节点及其底层逻辑烂熟于心。然后再根据具体项目、工作环境和参与团队来做精简。不要连基本的招数都没学会,一上来就想着无招胜有招。在我们团队做规划时,我总会给团队 Leader 们一套固定的架构规划模版,帮助他们提升架构能力。一旦我看到某个人理解得很透彻,做得很到位。我反倒劝他丢掉模版。这就是:先固化,再内化原创 2024-05-07 07:25:50 · 766 阅读 · 2 评论 -
架构师的六大生存法则与价值创造
架构师在软件架构设计中需遵循六大生存法则,确保方案与企业目标一致,尊重人性,最大化商业价值,考虑技术生命周期,注入外部适应性,并在文化环境中生存。这些法则帮助架构师在资源限制下,通过技术洞察和设计,实现商业模式的创新和效率提升,同时要求架构师具备良知和勇气,以全局和长期视角推动架构成功,为公司创造持续的商业价值。原创 2024-04-26 22:27:32 · 1313 阅读 · 1 评论 -
微观理解: 探索ZooKeeper的工作机制和领导者选举原理
原子广播,这个机制保证了各个Server之间的同步。实现这个机制的协议叫做Zab协议。Zab协议有两种模式,它们分别是恢复模式(选主)和广播模式(同步)原创 2019-03-26 07:55:29 · 1446 阅读 · 0 评论 -
Reactor网络线程模型
Reactor模式由浅入深的设计原创 2023-11-30 18:57:01 · 1705 阅读 · 1 评论 -
IOTDB的TsFile底层设计
TsFile 是 IoTDB 中使用的时间序列文件格式。它是一种面向时序数据定义的一种文件格式,其提供了一套将时序数据转换为字节的规则,在减少磁盘占用的前提下,有效地提升了数据查询分析的效率,能够为上层应用提供良好的数据存储和查询支持。原创 2023-09-26 18:47:49 · 828 阅读 · 0 评论 -
Druid、Doris中构建bitmap索引和维度字典实现高效查询
bitmap 索引广泛应用于很多大数据OLAP引擎中,如Druid、Kylin、Doris等,是一种高效的索引技术原创 2023-05-06 22:43:22 · 753 阅读 · 0 评论 -
Kubernetes Memory Requests超标引发的血案
Kubernetes Memory Requests超标引发的血案原创 2022-04-30 17:51:08 · 1561 阅读 · 0 评论 -
灰度(金丝雀)发布、蓝绿部署、滚动发布
你听说过金丝雀发布(Canary Deployment)和蓝绿发布(Blue-Green Deployment)吗?你能说出它们是什么意思吗?实际上,有了 Deployment 的能力之后,你可以非常轻松地用它来实现金丝雀发布、蓝绿发布,以及 A/B 测试等很多应用发布模式原创 2022-03-27 21:32:22 · 3573 阅读 · 0 评论 -
Hadoop DataNode如何将TB级大文件的上传性能优化上百倍
为什么需要这么多缓冲机制呢?就像漏斗灌水一样,如果漏斗的锥形倾斜度太大的话无法起到有效缓冲的作用,反而影响水流速度原创 2022-01-07 09:58:38 · 938 阅读 · 0 评论 -
Hadoop NameNode如何承载每秒上千次的高并发访问
双缓存(Double Buffering)是一种常见的技术,用于解决写入速度差异较大的问题,比如内存和磁盘。在双缓存系统中,通常会有两个缓冲区:一个用于快速写入(通常是内存),另一个用于慢速写入(比如磁盘)原创 2022-01-07 09:40:04 · 973 阅读 · 0 评论 -
ShardingSphere原理分析和实战总结
代码模块架构原理官方文档:https://shardingsphere.apache.org/document/current/cn/quick-start/sharding-jdbc-quick-start/分片策略Sharding-JDBC认为对于分片策略存有两种维度:数据源分片策略(DatabaseShardingStrategy):数据被分配的目标数据...原创 2020-07-28 07:26:05 · 5173 阅读 · 0 评论 -
Auth2.0与单点登录
从信任角度来看。OAuth2.0授权服务端和第三方客户端不属于一个互相信任的应用群(通常都不是同一个公司提供的服务),第三方客户端的用户不属于OAuth2.0授权服务端的官方用户;而单点登录的服务端和接入的客户端都在一个互相信任的应用群(通常是同一个公司提供的服务),各个子系统的用户属于单点登录服务端的官方用户。从资源角度来看。OAuth2.0授权主要是让用户自行决定——“我”在OAuth2.0服务提供方的个人资源是否允许第三方应用访问;而单点登录的资源都在客户端这边,单点登录的服务端主要用于登录,以及原创 2019-07-12 15:29:42 · 1920 阅读 · 0 评论 -
RcoketMQ内部机制和应用场景的分享
目录概述1.重要概念2.消息存储3底层实现4.部署模式5.RocketMq官方源码结构6.RocketMq的三种消息类型7.RocketMQ发送消息的三种方式8.负载均衡9.消息重试10.如何保证消息不被重复消费11.如何保证高可用性(面试常问)12.如何解决消息队列的延时以及过期失效问题13.启动的时候从哪里消费14.消息ACK机制...原创 2018-09-07 17:42:03 · 1967 阅读 · 0 评论 -
数据中台之元数据管理系统的搭建
元数据可以划分为三类元数据:技术元数据、业务元数据和管理元数据。这三种元数据的具体描述如下:l技术元数据 技术元数据是描述经营分析系统中技术领域相关概念、关系和规则的数据,主要包括对数据结构、数据处理方面的特征描述,覆盖经营分析系统数据源接口、数据仓库与数据集市存储、ETL、OLAP、数据封装和前端展现等全部数据处理环节;l 业务元数据 业务元数据是描述经营分析系统中业务领域相关概念、关系和规则的数据,主要包括业务术语、信息分类、指标定义和业务规则等信息;PDF 文件使用 "pdfFacto原创 2021-06-21 07:56:25 · 2082 阅读 · 5 评论 -
基于DDD的微服务设计和拆分要坚持哪些原则
由于企业发展历程以及企业技术和文化的不同,DDD和微服务的实施策略也会有差异。那么面对这种差异,我们应该如何落地DDD和微服务呢?今天我们就来聊聊微服务的设计原则和演进策略。最常见的单体遗留系统如果我们面对的是一个单体遗留系统,只需要将部分功能独立为微服务,而其余仍为单体,整体保持不变,比如将面临性能瓶颈的模块拆分为微服务。我们只需要将这一特定功能,理解为一个简单子领域,参考简单领域建模的方式就可以了。在微服务设计中,我们还要考虑新老系统之间服务和业务的兼容,必要时可引入防腐层(为了屏...原创 2021-05-25 20:16:24 · 1183 阅读 · 4 评论 -
DDD基础理论的理解和思考
公司在 IT 系统建设过程中,由于预算和资源有限,对不同类型的子域应有不同的关注度和资源投入策略,记住好钢要用在刀刃上。很多公司的业务,表面看上去相似,但商业模式和战略方向是存在很大差异的,因此公司的关注点会不一样,在划分核心域、通用域和支撑域时,其结果也会出现非常大的差异...原创 2020-11-16 15:20:48 · 706 阅读 · 0 评论 -
供应链业务架构设计概览
本文以具体案例维度对供应链的进行认知升级,期间会引入一些专业术语。目的是用于致学原创 2021-04-05 19:57:42 · 10290 阅读 · 5 评论 -
基于Hbase和SpringBoot的分布式HOS文件存储系统
本文详细剖析了HOS分层对象存储系统的内部结构,探讨了RowKey设计、seqId的巧妙应用以及表结构优化对于提升HBase性能和数据管理有效性的关键作用,揭秘如何在大数据环境中实现高效存取与管理。原创 2021-03-31 19:31:26 · 1115 阅读 · 0 评论 -
基于SpringCloud+BinLog的广告系统设计总结
广告系统应该需要实现的最基本的功能广告投放系统 -> 既然是广告系统, 一定得有广告数据, 数据当然是由广告主或代理商投放, 那么, 也就需要有个投放广告的平台, 这就是广告投放系统广告检索系统 -> 媒体方对广告系统发起请求, 广告系统能够检索符合要求的广告数据, 这就是广告检索系统的核心功能完整的广告系统需要包的些子系统曝光监测系统 -> 监测广告数据的曝光记录报表系统 -> 构建广告数据报表, 比如广告 A 在地域 B 中一共曝光了多少次, 主...原创 2020-09-20 23:00:04 · 894 阅读 · 0 评论