
数据库架构
西门仙忍
从事数据库领域8年
展开
-
show engine innodb status
注意:以下使用mysql5.5.24版本做解读,mysql5.6.x和5.7.x输出内容有些地方有调整。1.第一段是头部信息,它仅仅声明了输出的开始,其内容包括当前的日期和时间,以及自上次输出以来经过的时长。=====================================16012912:07:26INNODBMONITOROUTPUT#第二行是当前日期和时...原创 2020-03-11 14:19:31 · 483 阅读 · 0 评论 -
hyperscale的架构分析
目录架构分析计算层:Page Server:Log Server:优劣势分析:参考链接架构分析计算层:Page Server:Log Server:push log to PageServer push log to 从计算节点 归档 Log优劣势分析:优势:引入LogServer,降低主计算节点的负载(主从计算节点的日志同步)...原创 2019-11-05 23:40:59 · 2887 阅读 · 0 评论 -
Write-Behind-Logging
论文地址:https://www.ixueshu.com/document/9cd210e04def3c2b318947a18e7f9386.html硬件背景:传统的HDD盘具有高数据密度,价格低廉,持久化稳定的优点,但也无法摆脱机械盘寻道带来的开销,而且顺序访问和随机访问的性能差异巨大。SSD相比HDD来说具备更加好的读写性能,其读写时延相比HDD来说低3个数量级。但针对DBMS系统...原创 2019-11-05 07:06:45 · 977 阅读 · 0 评论 -
待整理的知识点
插入意向锁和隐式锁 hyperscale分析 ok 云数据库分析 ok ART分析 新引擎分析 OK ...原创 2019-10-24 16:38:07 · 242 阅读 · 1 评论 -
Disk is Tape, Flash is Disk
这张图让我想到之前在使用Redis时看到Jim Gray那句被坊间流传许久的话:"Tape isDead, Disk is Tape, Flash is Disk, RAM Locality is King".(磁带已死,磁盘是新磁带,闪存是新磁盘,随机存储器局部性是为王道.) 这句话的原始出处在此:http://www.signallake.com/innovation/Flash...转载 2019-10-15 19:33:37 · 208 阅读 · 0 评论 -
Append写入方式的收益和成本分析
目录Append写入收益:Append成本分析:首先分析Append方式对数据访问的影响:Compaction的目标:Compaction的原则:RocksDB Compaction 成本分析(逐层缓存,Batch合并):写入放大:有目的的合并:BwTree(LLAMA) 合并成本分析(这个可能不准):Append写入收益:SSD友好:追加写vs随机写...原创 2019-09-17 16:05:57 · 378 阅读 · 0 评论 -
Lock-Free?还是多入口?
最近一段时间,感觉大家对于Lock-Free的兴趣又高涨了起来,Lock-Free大有包治百病、一统江湖之势,特写下此文,希望对围观者有所帮助。让我们先从一个简单的场景开始:考虑一个需要频繁并发访问的Freelist,这应该是许多应用程序中最常见的结构了,如果我们使用基本设计,用一个简单的Mutex量来保护这个Freelist,那么在高并发环境下它很容易成为性能的瓶颈。然后该如何优...转载 2019-09-12 11:44:03 · 169 阅读 · 0 评论 -
Free链表的申请方式分析
MySQL理解BP是数据的管理结构,多个BP相当于把数据进行比如HASH的拆分了。原地写,每次读写,如果不在BP中,都会从对应的BP中申请一个BLOCK。RocksDBBP是数据的管理结构,同MySQL。在写场景下,多个线程并发append有序写入。貌似使用一个BLOCK不大好搞。使用内存池比较好因此从arena中申请内存到memtable。但是可以做到比如把in memt...原创 2019-09-05 19:44:19 · 247 阅读 · 0 评论 -
HBase最佳实践-用好你的操作系统
终于又切回HBase模式了,之前一段时间因为工作的原因了解接触了一段时间大数据生态的很多其他组件(诸如Parquet、Carbondata、Hive、SparkSQL、TPC-DS/TPC-H等),虽然只是走马观花,但也受益良多。对视野、思维模式都有极其重要的作用,至少,扩展了大数据领域的对话圈。这里也斗胆建议朋友能在深入研究一门学问的同时博览周边学问,相信必然会大有裨益。来说正题,操作系统这...转载 2019-09-03 14:38:55 · 197 阅读 · 0 评论 -
CHANGE MASTER TO语法
master_def:MASTER_HOST = 'host_name'| MASTER_USER = 'user_name'| MASTER_PASSWORD = 'password'| MASTER_PORT =port_num| MASTER_CONNECT_RETRY =count| MASTER_LOG_FILE = 'master_log_name'| MA转载 2015-07-03 18:44:15 · 1179 阅读 · 0 评论 -
数据库基线
基线是度量变化的一个参考。基线常常用于医药领域。医生在为病人开药时,会测量病人的血压和心率,采集体重或者进行血液检查。在过了一段时间以后,医生会重新采集同样的数据来观察什么指标发生了变化,以便充分评估药物的影响。在IT领域,也存在同样的方式。DBA们也能够使用基线来衡量计划或者未计划的变化的影响。在最好的情况下,这些数据可以用来快速识别那些计划外的导致性能问题的行为。同转载 2015-06-12 18:50:59 · 5311 阅读 · 1 评论 -
flex详解
flex 此篇不会讲述规则表达式,自从.net流行之后,大量的原本只是在unix才使用的规则表达式现在广泛使用在各种系统中。略.1.内置变量 yy_create_buffer:见后面的缓冲管理 yy_delete_buffer:见后面的缓冲管理 yy_flex_debug:见后面的缓冲管理 yy_init_buffer:见后面的缓冲管理 yy_flush_bu转载 2015-03-12 20:45:53 · 1264 阅读 · 0 评论 -
Under the hood: MySQL Pool Scanner (MPS)
Under the hood: MySQL Pool Scanner (MPS)由 Shlomo Priymak 于 2013年10月22日上午 9:58 发布Facebook has one of the largest MySQL database clusters in the world. This cluster comprises many thousands of转载 2015-02-10 16:40:12 · 598 阅读 · 0 评论 -
怎么跳出MySQL的10个大坑
MySQL · 性能优化· Group Commit优化背景关于Group Commit网上的资料其实已经足够多了,我这里只简单的介绍一下。众所周知,在MySQL5.6之前的版本,由于引入了Binlog/InnoDB的XA,Binlog的写入和InnoDB commit完全串行化执行,大概的执行序列如下: InnoDB prepare (持有prepare_c转载 2015-01-18 23:30:26 · 569 阅读 · 0 评论 -
MongoDB
1.1、为什么要用NoSQL1.1.1、NoSQL简介NoSQL,全程Not Only SQL,指的是非关系型的数据库,这类数据库主要有这些特点:非关系型的、分布式的、开源的、水平可扩展的,原始的目的是为了大规模web应用,这场全新的数据库革命运动早期就有人提出,发展至2009年趋势越发高涨,NoSQL的拥护者们提倡运用非关系型的数据存储,通常的应用如:模式自由、支持建议复制、简单转载 2015-01-04 10:04:35 · 409 阅读 · 0 评论 -
Key-value存储
Key-value存储简介具备高可靠性及可扩展性的海量数据存储对互联网公司来说是一个巨大的挑战,传统的数据库往往很难满足该需求,并且很多时候对于特定的系统绝大部分的检索都是基于主键的的查询,在这种情况下使用关系型数据库将使得效率低下,并且扩展也将成为未来很大的难题。在这样的情况下,使用Key-value存储将会是一个很好的选择。它被广泛应用于缓存,搜索引擎等等领域。所谓的Key-Val转载 2015-01-02 23:38:59 · 1638 阅读 · 0 评论 -
LeanStore论文分析
目录摘要:构筑BLock:指针移动高效的页面替换:线程同步的扩展能力:LEANSTORE数据结构概述Swizzling的详细设计Cooling Stage输入输出缓冲区管理的数据结构乐观锁Epoch-Based Reclamation内存分配和NUMA友好的实现细节和优化方案汇总:摘要:论文认为,传统的采用BufferP...原创 2020-11-10 20:54:33 · 812 阅读 · 0 评论