
纠删编码
文章平均质量分 83
飞哥前程似锦
这个作者很懒,什么都没留下…
展开
-
纠删码项目总结
随着数据的持续增长,在 PB 级别的数据中心,多副本技术会引入极大的存储开销。比如,现有的分布式存储系统,如 HDFS(Hadoop distributed file system)、Ceph,普遍采用三副本的配置,这将占用原始数据的 3 倍存储空间。面对如此情况,纠删码技术因其低存储开销的特点近年来受到越来越多的关注。其中,RS 编码(Reed-Solomon code)是目前被广泛使用的纠删码方案,它。原创 2022-09-21 09:23:00 · 1703 阅读 · 0 评论 -
Erasure Code - EC纠删码原理
https://blog.youkuaiyun.com/shelldon/article/details/54144730?ops_request_misc=&request_id=&biz_id=102&utm_term=%E7%BA%A0%E5%88%A0%E7%A0%81%E7%BC%96%E8%AF%91%E7%A0%81%E5%8E%9F%E7%90%86&utm_medium=distribute.pc_search_result.none-task-blog-2allsobaiduweb~default-原创 2022-09-20 09:02:59 · 137 阅读 · 0 评论 -
纠删码创新点整理
当前分布式存储系统多采用多副本方式进行冗余存储以保证可靠性和读写性能,当数据变冷之后转换为纠删码方式进行冗余存储以提高存储效率;业界把这种通过数据访问热度变化来触发的“多副本-纠删码”的冗余机制变化称作为“容错转换”(Fault Tolerance Transition)。- 学术界提出多云存储架构,用以缓解单云故障和云服务提供商垄断问题,并快速被工业界所普遍认可和部署使用。- 单云存储因云故障而无法保证数据的高可用性要求,同时当用户需要迁移数据时,也会产生昂贵的成本。根据节点分布,云存储可分为。原创 2022-09-10 09:40:20 · 2026 阅读 · 2 评论 -
Erasure-Code-擦除码-2-实现篇
加法单位元: 0乘法单位元: 1每个元素对加法都有逆元(可以实现减法): 逆元就是它本身( (x+1) + (x+1) = 0 )每个元素对乘法都有逆元(除了0)(可以实现除法):P₈(x)是不可约的, 因此不存在a和b都不是0但ab=0;又因为GF(2⁸)只有255个非0元素, 因此对a,总能找到1个x使得 aˣ = a . 所以 aˣ⁻² a = 1. aˣ⁻² 是a的乘法逆元.PS, 看到 aˣ = a 是不是想起了费马小定理?😃 费马小定理的群论的证明。原创 2022-09-16 21:09:50 · 619 阅读 · 0 评论 -
Erasure-Code-擦除码-1-原理篇
为什么计算 y₂ 的系数是1, 2, 4, 8…系数的选择有很多种方法, 1, 2, 4, 8是其中一个. 只要保证最终丢失2个数字构成的方程组有唯一解就可以. 在k+2的场景中, 选择1, 2, 3, 4…现在我们把它再推广到更一般的情况: 直线方程只有2个系数 d₁, d₂ , 只能用于对2块数据做冗余, 如果要用描点方式来为更多的数据块生成冗余数据, 我们就需要有更多系数的方程, 也就是使用高次的曲线.而 y₃ 的计算我们需要再为所有的 dⱼ 选择1组不同的系数, 例如1,3,9,27…原创 2022-09-14 12:55:30 · 383 阅读 · 0 评论 -
RAID-6技术详解
RAID-6激素详解原创 2022-09-14 12:29:10 · 10198 阅读 · 1 评论 -
基于柯西矩阵的Erasure Code技术详解
可以说柯西编码是在范德蒙编码基础之上的一种优化。其主要有两点:第一降低了矩阵求逆的运算复杂度;第二通过有限域转换,将GF(2^w)域中的元素转换成二进制矩阵,简化了乘法运算。所以,柯西编解码要优于范德蒙矩阵的方法,柯西编码的运算复杂度为O(n(n- m)),解码复杂度为O(n^2)。©著作权归作者所有:来自51CTO博客作者wuzhongjie的原创作品,如需转载,请与作者联系,否则将追究法律责任基于柯西矩阵的Erasure Code技术详解。原创 2022-09-12 12:45:06 · 417 阅读 · 0 评论