MIT 6.824 Lecture 9: 分布式事务

mit_6.824_2021_lab4A_The_Shard_controller mit_6.824_2021_lab4A_The_Shard_controller lab4 系列除了构建一个 键值存储系统,还需要将系统按键 分片(shard) 或对一组副本进行分区; 分片的策略有很多,比如:所有以 “a” 开头的键是一个分片,所有以 “b” 开头的键是一个分片,等等 为什么需要分片?从性能考虑,每个副本只处理一部分分片的 put 和 get,并且这些副本之间是支持并行操作的;因此,系统的总吞吐量和副本的数量成比例增加 shard kv 系统组成 分片键值对存储系统将由两个组件组成; 首 阅读详情

6.824 2016 Lecture 9: Distributed Transactions

Topics:

 distributed transactions = distributed commit + concurrency control  two-phase commit
  • Distributed commit:
      A bunch of computers 在一些任务上合作, e.g. bank transfer
      每个计算机都有不同的作用, e.g. src and dst bank account
      要确保原子性:所有都执行,或都不执行
      Challenges: failures, performance

  • Example:
      calendar system, each user has a calendar
      想要安排有多个参与者的会议
      一服务器 holds calendars of users A-M, 另一服务器 holds N-Z
      [diagram: client, two servers]

sched(u1, u2, t):
    begin_transaction
        ok1 = reserve(u1, t)
        ok2 = reserve(u2, t)
        if ok1 and ok2:
            commit
        else
            abort
    end_transaction
 the reserve() calls are RPCs to the two calendar servers
  (this is *not* Thor -- this a more traditional design)
 我们想要原子性: 要么都保留,要么都不保留
 What if 1st reserve() returns true, and then:
  2nd reserve() returns false (time not available) 超时?
  2nd reserve() doesn't return (丢失 RPC msg, u2的服务器crash了)
  client fails before 2nd reserve()
 我们需要一个“分布式提交协议”

- Idea: 暂时修改,以后提交或撤消(放弃)

reserve_handler(u, t):
    if u[t] is free:
        temp_u[t] = taken -- A TEMPORARY VERSION
        return true
    else:
        return false
commit_handler():
    copy temp_u[t] to real u[t]
abort_handler():
    discard temp_u[t]
  • Idea: 使用单个实体决定是否提交
      防止任何不一致的机会
     let’s call it the Transaction Coordinator (TC)
     [time diagram: client, TC, A, B]
     客户端发送 RPCs to A, B
     在end_transaction, 客户端 sends “go” to TC
     TC/A/B 执行分布式提交协议…
     TC 向客户端报告“commit”或“abort”

  • 我们需要分布式提交协议满足一下两个属性:
      Correctness:
      if any commit, none abort
      if any abort, none commit
     Performance:
      (由于什么都不做总是对的…)
      如果没有失败,A和B可以commit,then commit.
      如果失败,尽快得出conclusion.

We’re going to develop a protocol called “two-phase commit”

用于分布式数据库的多服务器事务

  • Two-phase commit without failures:
      [time diagram: client, TC, A, B]
     client sends reserve() RPCs to A, B
     client sends “go” to TC
     TC 向 A、B 发送 “prepare” messages
     A and B respond, 回应它们是否准备commit.
      Respond “yes” 如果没有crashed 或者超时 等等.
     如果A、B同时回答"yes", TC sends “commit” messages.
     如果A、B同时回答"no", TC sends “abort” messages.
     如果A/B收到commit message, 则他们commit.
      I.e. they actually modify the user’s calendar.

  • 为什么到目前为止这是正确的?
      除非双方同意,否则双方都不能commit。
     关键: 它们都没有在发送准备信息之后改变主意(change mind)
      即使失败!

  • What about failures?
      Network broken/lossy/slow
     服务器宕机
     我们在failure方面的目标是什么?
      修复后恢复正确操作
      I.e. recovery, not availability
     Single symptom: timeout when expecting a message.

  • Where do hosts wait for messages?
      1) TC waits for yes/no.
     2) A and B wait for prepare and commit/abort.

*. 终止协议 summary:(t/o -> timeout)

 TC t/o for yes/no -> abort
 B t/o for prepare, -> abort
 B t/o for commit/abort, B voted no -> abort
 B t/o for commit/abort, B voted yes -> block

  • 1. TC timeout while waiting for yes/no from A/B.
      TC没有发送任何"commit" messages.
     因此,TC可以安全地abort,并发送"abort" message.

  • 2. A/B timeout while waiting for prepare from TC
     have not yet responded to prepare, 所以TC不能决定提交
     所以A/B可以单方面abort
     respond “no” to future prepare

  • 3. A/B timeout while waiting for commit/abort from TC.
     让我们来讨论一下B(A是对称的).
     If B voted “no”, 它可以单方面abort.
     So what if B voted “yes”?
     B可以单方面决定中止吗?
      No! TC可能从两个方面得到“是”,
      发送"commit"到A,但在发送到B之前崩溃.
      所以 A would commit and B would abort: incorrect.
     B也不能单方面commit:
      A might have voted “no”.
     所以:如果 B voted “yes”, 它必须 “block”: 等待TC决定.

  • 如果B崩溃并重新启动怎么办?
     如果B在宕机前发送“yes”,B必须记住!
     重启后 不能 更改为“no”(并因此abort)
     因为TC可能已经看到以前的“yes”,并告诉A commit

  • 因此,参与者必须编写持久的(磁盘上的)状态:
     B必须记住在磁盘之前说“yes”,包括修改后的数据
     如果B重启,磁盘表示“yes”但 not “commit”,则B必须询问TC.
     如果TC说 “commit”, B将修改后的数据复制到实际数据中.

  • 如果TC崩溃并重新启动怎么办?

    • 如果TC可能在崩溃之前发送“commit”或“abort”,TC必须记住!
    • 如果有客户端重复询问,则重复发送 (i.e. A/B 客户端没有收到message).
      因此,在发送提交MSG之前,TC必须将“commit”写入磁盘。.
      TC不能change its mind ,因为A/B 客户端可能已经执行了.
  • *. 这个协议被称为 “two-phase commit”.

    • 所有hosts达到同一decision.
    • No commit unless everyone says “yes”.
    • TC故障可使服务器block直至修复.

*. 并发事务怎么办?

我们通常希望并发控制并同时满足原子提交
 x and y are bank balances
 x and y start out as $10
 T1 正在把 x上的 $1 转移到 y上

 
 T1:
  add(x, 1)  -- server A
  add(y, -1) -- server B
 T2:
  tmp1 = get(x)
  tmp2 = get(y)
  print tmp1, tmp2

  • Problem:
     如果T2在两个 add() RPC 之间运行会发生什么?
     然后T2将 print 11, 10
     money will have been created!
     T2应该 print 10,10 or 9,11

  • 传统的方法是提供"serializability"
     结果应该与 在某一order下,同一时间执行一个transaction最终产生的结果相同(和某一顺序下串行执行结果相同)
     就好比先T1, 再T2; 或者先T2,在T1
      两者的结果不同; 但都是可行的

  • 你可以测试一个特定的执行情况是否是serializable的
     通过寻找是否存在一个特定的串行顺序可以获得相同的结果.
     这里没有串行的顺序能够 print 11,10, 不过有能够print 10,10 或者 9,11的串行顺序

  • 为什么串行化对程序员有好处?
     它允许应用程序代码忽略并发的可能性
     只需将事务从一个合法状态转移到另一个合法状态
     在内部,事务可以暂时违反 invariants
      但序列化保证没有人会注意到这一点

  • Why is serializability OK for performance?
     不冲突的事务可以并行运行。
      i.e. not in any serial order
     因为,如果T3和T4不冲突, results from T3 || T4
      will be the same as T3, then T4 (and T4, then T3)

  • "Two-phase locking" 是实现串行化的一种方式
     每个database record 都有一个 lock
     每个database record 和其相应的lock 存储与同一个服务器
     每个记录的使用自动 waits for and acquires the record’s lock
      因此 add() handler 在使用record X或Y时隐式地获取 lock
     locks 将一直保持, 直到完成 commit or abort

  • Why hold locks until after commit/abort?
     为什么不在完成对record的操作后立刻释放呢?
     e.g. 为什么T2不释放 x’s lock 在第一个 get()之后?
      T1 能够在 T2的 2个get()之间执行
      T2 从而会 print 10,9
      但这样并不是一个serializable execution: 既不是T1;T2 也不是 T2;T1

  • What are locks really doing?
     当事务冲突时, locks 延迟一个事务以强制串行执行.
     当事务不冲突时, locks 允许 fast parallel execution.

  • 锁如何与两阶段提交交互?
     服务器在执行客户端请求时必须获取和记住locks
      So client->server RPCS have two effects: acquire lock, use data.
     服务器必须在崩溃+重新启动时保存准备好的 transaction’s locks .
      因此在接收到prepare message时,必须要记录locking的状态.
     但是在重启之后可以释放non-prepared transation的locks.
      probably implicitly by not even writing them to disk.
      只要之后对于Tc的prepare回答no就行了

2PC 观点

Used in sharded DBs when a transaction uses data on multiple shards
 但它名声不好:
  slow because of multiple phases / message exchanges
  lock在 prepare/commit转换阶段一直保持,导致block其他的xaction
  TC 宕机时如若持有lock, 将会导致无限期的block
 因此只在一个较小的领域使用
  E.g. not between banks, not between airlines, not over wide area
 Better transaction schemes are an active area of research

  • Raft and two-phase commit solve different problems!
     Use Raft to get high availability by replicating
      i.e. 能够在某些服务器崩溃时操作
      服务器都做同样的事情
     Use 2PC 当每个参与者做不同的事情时
      And all of them must do their part
     2PC 对于availability没有任何帮助
      因为完成任何事都需要所有服务器正常运作
     Raft 不能保证所有服务器都做某些事情
      因为只要求大多数服务器必须live

  • What if you want high availability and distributed commit?
     [diagram]
     -每一个"server"应当是 Raft-replicated service
     -同时 TC 也应当是 Raft-replicated的
     在replicated services 之间运行two-phase commit
     -Then you can tolerate failures and still make progress
     You’ll build something like this to transfer shards in Lab 4

MIT 6.824 Lab4 AB 完成记录 说明 这里提供详细的实现思路和实验原理详解,提供骨架级别的绝大部分代码。不提供全部代码。 完整代码,如确实需要,请私信或留言。 整体架构 lab4 整体的实验说明十分冗长,我们需要详细阅读它来完全理解我们需要构建什么。话不多说,直接上图: 在这个实验中,我们要创建一个 “分布式的,拥有分片功能的,能够加入退出成员的,能够根据配置同步迁移数据的,Key-Value数据库服务”。 在Lab4A中,我们需要构造 ShardCtrler , 运行时,多个ShardCtrler Servers 组成一个Raf 阅读详情

相关推荐

mit_6.824_2021_lab4B_Sharded_Key/Value_Server

mit_6.824_2021_lab4B_Sharded_Key/Value_Server 最后,构建一个分片的 kv 容错系统;感觉比 lab2 更难理解,因为 lab2 有一个模板论文可以参考,但是 lab4b 基本没有一个固定的范式 Part B: Sharded Key/Value Server 每个 shardkv server 相当于副本组的一部分,每个副本组相当于 lab3,都支持Get, Put, Append操作,当然它们各自仅维护各自的分片; 客户端使用key2shard()去找到一个

一把健 1226

MIT-6.824-lab4B-2022(万字思路讲解-代码构建)

对于lab4B的数据库做了详细的分析。

幸平的博客 5305

【MIT 6.824 Lab4】——Sharded Key/Value Service

本部分实验需要完成分配服务器和分片之间的控制器实验流程对象设计主要的对象为服务器ShardCtrler,指令Op,客户端ClerkShardCtrler服务器需要记录自己的编号和对应的Raft服务,以及相应的ApplyCh用于Raft服务器应用,也可以通知自身日志已经存储完成。存储所有的config的信息,并且设置通道用于通知服务器对应的指令是否已经在Raft处存储完成,为了防止不同的客户端请求不重复,设置lastRequestId记录每个客户端上次请求的ID。 Op指令需要记录类型,并且记录请求的客户

Kaychenl的博客 691

MIT 6.824 Lab 4 ShardKV详细实现思路及过程

MIT 6.824 分布式系统 2020春季课程 Lab3 ShardKV实现思路

qq_43460956的博客 3284

MIT6.824分布式系统实践:Lab2-Lab4实验详解

MIT6.824分布式系统课程旨在引导学生深入理解分布式系统的设计与实现,通过一系列的实验(Lab)加深对理论知识的理解。Lab2至Lab4着重于探讨并发编程、分布式数据存储以及分布式系统高级挑战等核心主题,为学生搭建了一个实践与理论知识相结合的平台。同步(Synchronization)是指在多任务环境下,多个执行单元在协调执行时保持一致的行为。在并发编程中,同步机制用于控制多个线程的执行顺序,避免竞态条件的发生。

weixin_36212459的博客 1156

MIT6.824-LAB:Lab2-Lab4

MIT6.824-LAB:Lab2-Lab4

MIT-6.824-lab4A-2022(万字讲解-代码构建)

讲解了lab4A的详细过程。

幸平的博客 4793

MIT6.824-2018-Chinese:MIT 6.824(分布式系统)的中文版

MIT6.824-2018-中文 MIT 6.824(分布式系统)的中文版 有关详细信息,请参见 。 介绍 之前的项目( )由于个人原因(懒狗一条,外加毕业和工作的事)虎头蛇尾地扔在了一边。最近突然翻出来一看,觉得自己写的真的很shi。现在重开一坑,直接从lab2开始写吧。 还是先总结下之前的失败点: 竞争的种族条件没有妥善处理 代码不够优美,主循环的选择中,忙询raft状态,并在Leader的处理逻辑中sleep。 避免种族状况是非常关键的要求,因为如果没有通过go test -race测试的代码有几率导致某些测试用例失败。而这要求更好的raft结构设计。 进度 Lab1:mapreduce请移步 Lab2:木筏 实验3:KV木筏

MIT6.824-lab1-2022篇(万字推导思路及代码构建)

MIT6.824-lab1-2022篇(万字推导思路及代码构建)

幸平的博客 3万+

MIT_6.824:MIT6.824作业答案

MIT_6.824分布式系统课程作业 根据课程目录,阅读论文,完成以下的作业demo。 src/mapReduce src/raft, 基于go实现的raft协议 src/kvraft, 基于raft的分布式kv存储

Coordinator完整demo

Coordinator完整demo

笔记 MIT6.824 Lecture 13: Spanner

目录前言一、Spanner1.11.2 Big challenges二、Read/Write Transactions三、Read/Only Transactions3.1 improve只读performance3.2 Correctness constraints on r/o transactions3.3 Snapshot isolation(SI)3.4 Time sync总结 前言 这个是在讨论了了Two Phase Commit(TPC)之后,Google的一个practice,应用了Paxo

Bokk的博客 457

基于Cohesive单元的二维水力压裂(二)

部件 2D-deformabel-shell 尺寸100 矩形工具(-20,-20)(20,20) 刨分:预知cohesive单元&定位注液点位置,定义全局网格尺寸0.2 X方向采用过渡网格,向中间加密。指定网格类型:CPE4P,指定单元类型,COH2D4P,粘性正则化系数:0.0001 材料属性 材料1 弹性模量10e9,泊松比0.25,渗透率1e-7,孔隙比0.1,液体比重...

s0302017的博客 1600

【Mit6.824】实验-Lab4-Shard KV Service

shardCtler 是一个分片控制器

栗子的博客 1237

Fluent新手必看:如何正确解读scaled residuals曲线(附常见问题排查)

本文详细解析了Fluent中scaled residuals曲线的解读方法及常见问题排查技巧。针对continuity残差居高不下、湍流模型收敛困难等典型问题,提供了网格质量检查、边界条件验证和求解策略调整的实用解决方案,帮助CFD新手快速掌握计算收敛性的关键判断标准。

weixin_28698059的博客 379

多普勒效应及多普勒频移的简单推导

多普勒频移的简单推导

m0_47867419的博客 3万+

MIT6.5840(6.824)-2023 lab4实验记录

要求实现一个具有容错能力的,实际上就是lab3的一个翻版,同样是client与server的一对多结构,每一个server对应一个raft节点,所有的server与client共同组成了一个。的功能是保存并修改分片存储系统的,也就是保存了分片的存放位置(存放到哪个replica group上),并且提供接口,供管理员(测试程序)进行配置信息的修改,比如添加replica groups(),删除replica groups(),移动某个分片到某个replica group(),查询当前的配置信息()在做完了前

nanguxiaosheng的博客 1649

SPAD单光子雪崩二极管:从基础原理到前沿应用

本文深入解析SPAD单光子雪崩二极管的基础原理、硬件实现关键及核心性能参数,并探讨其在激光雷达、量子通信和生物医学成像等前沿领域的创新应用。SPAD凭借超高灵敏度和精确的时间分辨率,正在推动自动驾驶、量子技术和医学诊断等领域的革命性发展。

weixin_30335575的博客 664

MIT 6.5840(6.824) Lab 4:Fault-tolerant Key/Value Service 设计实现

例如,在下面这张图中:x初始值为0,client1发送put请求(x,1),client2发送put请求(x,2),并在put请求前后发送get请求,此时如果put请求因为超时不断重发,如果在client2的put请求之后才被应用,则导致最后client2读到的是1,RaftKV的结果也是1,这就违背了线性一致性。为单一服务器提供线性化相对容易,但如果服务是复制的,则较为困难,因为所有服务器必须为并发请求选择相同的执行顺序,避免使用过时的状态回复客户端,并在故障恢复时以保留所有确认的客户端更新为前提。

pursuit的博客 2810

Vmware虚拟机克隆详解:固定ip + 修改uuid等内容

分两大步 设置固定ip 克隆后修改相关配置 本文引用的其他地方的图片。会附上链接 若侵权,删 一、设置静态ip 先进行虚拟网络的编辑 接下来的操作需要管理员权限。(给权限就完事了) 接下来设置网卡: 网络和共享中心→ 更改适配器设置→VMware Network Adapter VMnet8 -> 右键属性 修改TCP/Ipv4的配置,网上常见是这种,笔者是英文的...

Unknownfuture的博客 9072

ABAQUS中CDP模型在钢筋混凝土节点低周反复荷载模拟的关键技术解析

本文深入解析了ABAQUS中CDP模型在钢筋混凝土节点低周反复荷载模拟中的关键技术。通过详细介绍CDP模型的核心价值、建模关键技术、滞回曲线优化方法及典型问题排查指南,帮助工程师精准模拟混凝土的拉伸开裂和压缩压碎行为,提升抗震分析效率。文章还提供了实用的工程应用技巧,如快速建模模板和后处理自动化脚本。

weixin_30555125的博客 528

MIT 6.824学习记录(一)——课程介绍

课程介绍 MIT6.824是一门MIT开设的讲解分布式系统的课程,因为老师讲解得很好,并且网络上资源较多,很多人都自学过这个课程,我也决定对于学习这门课程的过程进行记录,本系列博客主要记录该课程的 lab(实验) 完成思路。 资源 该课程的资源不少,首先推荐一个有字幕的视频: 2020 MIT 6.824 分布式系统课程-B站 不过我感觉视频看起来比较消耗时间,而且需要随着自己的思考进行暂停或者倍速,比较麻烦,因此我还是看的文字版。 这里推荐一个从知乎上看到的一个大佬翻译的文本: 文本版 2020 MIT

dayeguilaiye的技术成长之路 2715

一张图讲透银行个人外汇业务逻辑和实操

个人外汇业务主要分为结售汇和外币兑换两类,前者满足日常跨境需求,后者因投机属性多数银行已暂停。业务核心是利用汇率波动实现货币兑换,满足支付或投资需求。交易涉及客户分类、主流币种、多种渠道和汇率计算规则,需区分直接/间接标价法判断汇率走势。银行通过"货币兑换"科目核算损益,采用期末折算确认盈亏。监管要求包括5万美元年度额度、合法渠道、真实性原则及大额申报等。随着跨境金融数字化发展,掌握基础逻辑和合规要求是安全参与外汇业务的关键。

银行信息系统应用架构详解 296

MIT6.824-lab4A-The Shard controller(基于Raft的Shard KV数据库-分片控制器)

在本实验中,我们将构建一个带分片的KV存储系统,即一组副本组上的键。每一个分片都是KV对的子集,例如,所有以“a”开头的键可能是一个分片,所有以“b”开头的键可能是另一个分片…。分片的原因是性能。每个replica group只处理几个分片的 put 和 get,并且这些组并行操作;因此,系统总吞吐量(每单位时间的投入和获取)与组数成比例增加。replica groups(复制组)。每个replica group负责分片的一个子集。副本由少数使用 Raft 复制组的分片的服务器组成;

迷雾总会解 2082

组合导航 | RTK、IMU与激光雷达组合导航算法:原理、实现与验证

当激光雷达噪声增加至0.1m时,系统位置RMSE仅上升18%,验证了滤波算法的鲁棒性[110]:融合方案在RTK信号丢失30秒后,位置误差仍控制在1.5m内,显著优于IMU单独导航[28]:ESKF框架能有效建模传感器误差特性,状态向量需包含外参与时间偏移等关键参数。:传感器标定精度直接影响系统性能,建议每3个月进行一次重新标定。:IMU预积分与特征匹配是系统实时性的关键瓶颈,需重点优化。:维持10秒窗口内的关键帧,平衡精度与实时性[132]:特征匹配占总耗时的65%,可通过。

尘世冰封的专栏 952

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

上一篇: Thinking in Java 笔记 - Part I
learner_slc
博客等级 码龄10年 2粉丝 4原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值