网易开源分布式存储系统 Curve,性能彪悍!

网易数帆Curve加入PolarDB开源数据库社区 简介:Curve社区签署阿里巴巴开源CLA(Contribution License Agreement, 贡献许可协议), 正式与阿里云PolarDB 开源数据库社区牵手。 Curve社区签署阿里巴巴开源CLA(Contribution License Agreement, 贡献许可协议), 正式与阿里云PolarDB 开源数据库社区牵手。 PolarDB for PostgreSQL 是阿里云自主研发的云原生数据库产品,并于2021年5月正式宣布开源。在2022年3月2日的开源 PolarDB 阅读详情

网易这回良心了:

7月16日,网易公司旗下云服务商网易数帆宣布开源一款名为 Curve 的高性能分布式存储系统,官方称其性能可达 Ceph 的 1.84 倍。

据官方介绍,Curve 的定位是提供一个高性能、低延迟的存储底座,基于这个存储底座,企业可以打造适用于不同应用场景的存储系统,如块存储、对象存储、云原生数据库等。

CURVE 的设计开发始终围绕三个理念:

一是顺应当前存储硬件设施发展趋势,做到软硬件结合打造顶级的存储产品;

二是秉持 “Simple Can be harder than complex”,了解问题本质情况下选择最简单的方案解决问题;

三是拥抱开源,在充分调研的前提下使用优秀的开源项目组件,避免造轮子。

当前网易基于 CURVE 已经实现了高性能块存储系统,支持快照克隆和恢复 ,支持 QEMU 虚拟机和物理机 NBD 设备两种挂载方式, 在网易内部作为高性能云盘使用。

目前,网易数帆已经实现了高性能块存储系统。根据项目文档介绍,Curve 主要具有三大特性:高性能、高可用和自治。

1、高性能

Curve 团队参考了业界一些高效的开源存储系统,设计了一个新架构以实现高性能低延迟的核心能力。采用 brpc 保证网络数据流的高性能和低延迟,基于 braft 实现多副本一致性下的低延迟,并对 braft 的快照实现进行了进一步的优化。

磁盘 IO 方面,Curve 通过更细粒度的地址空间的 hash 减少 IO 碰撞,增加 IO 并发度,并采用 chunkfilepool 减小 IO 放大倍数,从而最大限度地发挥硬件的性能。

网易公布了 Curve 和 Ceph L 版本的测试数据对比,在单卷的场景下,核心的 4K 随机读/写的IOPS 性能,Curve 分别是 Ceph 的 1.84 倍和 1.58 倍,同时延迟相比 Ceph 分别降低 48.39%和 37.50%。

图:Curve与Ceph性能测试对比

2、高可用


Curve 被设计为核心组件都能容忍部分实例失败而不影响整个集群的可用性。

网易介绍,无论是单台存储故障,还是系统扩容,Curve 的客户端 IO 都不会受到影响,插拔硬盘、服务进程中断这些常见异常,IO 抖动也很小。

当然,故障恢复过程对上层 IO 也不会造成明显影响。

3、自治


Curve 可实现一键部署、一键升级,运维只要很少的人工干预,并基于 bvar、Promethues 和 Grafana 等开源项目打造了全面的度量标准和告警体系。

目前,基于 Curve 的高性能块存储系统已经应用在网易的一些核心业务中,支持快照克隆和恢复, 支持 QEMU 虚拟机和物理机 NBD 设备两种挂载方式。

网易介绍,系统上线至今 400 多天,尚未出现数据不一致和丢数据的情况,也没有发生过重大故障,具备相当的可靠性和成熟度。

网易透露,Curve 目前还有一些创新的性能优化工作尚未完成,如细粒度哈希、io_uring 落盘方案,项目团队下一阶段的主要任务就是解决这些问题,预计完成优化之后下个版本还会有 30% 的性能提升。

鉴于目前开源领域还没有足够高性能和低延迟的分布式存储系统,网易数帆方面表示希望把 Curve 开源出来,回馈社区,让业界一起来使用它,也希望大家一起参与把 Curve 打造得越来越好。

开源地址:

https://github.com/opencurve/curve

文章整理转载自 OSCHINA 社区 [http://www.oschina.net]

www.oschina.net/news/117237/netease-opensource-curve

https://www.oschina.net/p/curve

curve:Curve是一个分布式块,对象和文件存储平台 曲线 CURVE是由网易独立设计和开发的分布式存储系统,具有高性能,高可用性,高可靠性和良好的可扩展性,并且可以作为针对不同场景(例如块存储,对象存储和云)设计的存储系统的基础。数据库)。 到目前为止,我们已经实现了高性能的块存储系统,该系统支持快照,克隆和恢复,并且可以连接到QEMU虚拟机或物理机(通过curve-nbd)。在一段时间内,CURVE一直被用作网易内部的弹性块存储服务,在此期间,其性能和可靠性得到了体现。 设计文件 想看一眼CURVE吗?单击此处了解! 需要更多细节吗?我们针对每个组件的文档: 基于CURVE的应用 快速开始 想尝试一下吗?慢慢来!我们会逐步帮助您,但请务必在开始之前阅读本。 部署多合一环境(以尝试CURVE的工作方式) 部署多计算机集群(在生产环境中尝试) curve_ops_tool简介 对于开发人员 部署构建和开发环境 编译测试用例并运行 编码风格 立即下载

相关推荐

这些主流分布式存储系统,你都知道吗?

Hadoop分布式文件系统(HDFS)是一个分布式文件系统,适用于商用硬件上高数据吞吐量对大数据集的访问的需求。该系统仿效了谷歌文件系统(GFS),数据在相同节点上以复制的方式进行存储以实现将数据合并计算的目的。该系统的主要设计目标包括:容错,可扩展性,高效性和可靠性。HDFS采用了MapReduce,不迁移数据而是以将处理任务迁移到物理节点(保存数据)的方式降低网络I/O。HDFS是Apache Hadoop的一个子项目并且安装Hadoop。OpenStackSwift提供一个类似AmazonS3的对象存储。其主要特点为:所有的

网易国产开源分布式存储系统——Curve

Curve 是云原生计算基金会 (CNCF) Sandbox 项目,是网易主导自研和开源的高性能、易运维、云原生的分布式存储系统。本文将介绍 CurveBS(块存储)相关的部分,并分享Curve在一些场景的应用。

weixin_59925054的博客 1231

双相机坐标系标定

工业双相机对位标定

sinat_33762356的博客 8320

开源主流分布式文件系统简单介绍

文章目录一、分布式文件系统简介1.特点2.主要指标及分类对比二、开源分布式文件系统1.GFS(1)GFS与NFS,AFS的区别(2)BigTable(3)Chubby2.HDFS3. Ceph4. Lustre5.MogileFS6.mooseFS7.FastDFS8.TFS9.GridFS文件系统10.NFS(1)多服务器存储(2)pNFS(3)AFS11.PFS(parallel file s...

喜欢打篮球的普通人 3万+

用MATLAB从零实现六足机器人步态仿真:交替三角与波动步态保姆级教程

本文详细介绍了如何使用MATLAB从零实现六足机器人的两种经典步态仿真:交替三角支撑步态和波动步态。通过参数定义、相位设置、运动轨迹生成和三维可视化等步骤,帮助读者掌握六足机器人步态规划的核心技术。教程包含完整代码和详细解析,适合机器人爱好者和相关专业学生学习实践。

weixin_26765363的博客 231

代谢组学数据分析实战:用R语言从PCA、PLS-DA到OPLS-DA一步步搞定(附代码)

本文详细介绍了使用R语言进行代谢组学数据分析的全流程,从数据预处理到PCA、PLS-DA和OPLS-DA模型构建与验证。通过实际案例和代码示例,帮助研究者掌握关键分析技术,提升数据解读能力,特别适合生命科学领域的研究人员。

weixin_28689507的博客 133

分布式系列之开源分布式存储技术分析

分布式存储在云计算及容器技术中将广泛使用,本文仅简单介绍了下几个主流的开源分布式技术,整个分布式存储系列相当复杂,文中介绍略微粗浅且当引子。

牧羊人的方向 6523

【微服务】Spring Aop原理深入解析

spring原理深度解析

congge 1万+

网易开源分布式存储系统 Curve,性能彪悍!这是要吊打阿里?

网易这回良心了:7月16日,网易公司旗下云服务商网易数帆宣布开源一款名为 Curve 的高性能分布式存储系统,官方称其性能可达 Ceph 的 1.84 倍。据官方介绍,Curve 的定位...

emprere的博客 688

QT+OSG/osgEarth编译之七十六:gltf+Qt编译(一套代码、一套框架,跨平台编译,版本:osgEarth-3.3插件库osgdb_gltf)

通过一套gltf代码和框架,实现osgdb_gltf跨平台编译。 在Qt环境下,集成头文件、库文件,构建跨平台编译的pro文件。 通过构建的一套配置工程,基于Qt Creator IDE,完成跨平台的编译实践。 在Windows、Linux、MacOS等操作系统上进行测试,成功编译,形成的成果(头文件、库文件等)可在不同系统下调用或使用,从而更好地构建跨平台解决方案。 采用的是osgEarth3.3版本。 读者可参考博客中的集成原理,构建不同版本的osgdb_gltf跨平台包。

LuckyHanMo的博客 1802

【ComfyUI】Wan2.2 Rapid-AIO-Mega 二次元文生视频

通过 SD3 采样体系与 Wan 系列专用的 **WanVaceToVideo** 视频生成节点,整个流程从模型加载、文案编码、潜空间采样到视频合成一气呵成,能够稳定输出画面精致、角色统一、光影氛围鲜明的动态画面。这套工作流重点整合了视频长度、帧率、分辨率等核心参数控制,并结合 KSampler 的细节生成能力,旨在让用户能在 ComfyUI 中快速生成高质量的二次元叙事视频。

Mr数据杨 1989

四大开源分布式存储_网易开源分布式存储系统 Curve,性能彪悍!

Java技术栈www.javastack.cn关注阅读更多优质文章网易这回良心了:7月16日,网易公司旗下云服务商网易数帆宣布开源一款名为 Curve 的高性能分布式存储系统,官方称其性能可达 Ceph 的 1.84 倍。据官方介绍,Curve 的定位是提供一个高性能、低延迟的存储底座,基于这个存储底座,企业可以打造适用于不同应用场景的存储系统,如块存储、对象存储、云原生数据库等。CUR...

weixin_39717692的博客 573

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

网易开源分布式存储系统 Curve,性能彪悍

网易这回良心了: 7月16日,网易公司旗下云服务商网易数帆宣布开源一款名为 Curve 的高性能分布式存储系统,官方称其性能可达 Ceph 的 1.84 倍。 据官方介绍,Curve 的定位是提供一个高性能、低延迟的存储底座,基于这个存储底座,企业可以打造适用于不同应用场景的存储系统,如块存储、对象存储、云原生数据库等。 CURVE 的设计开发始终围绕三个理念: 一是顺应当前存储硬件设施发展趋势,做到软硬件结合打造顶级的存储产品; 二是秉持 “Simple Can be harder than c

代码界的扛把子 1693

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

常见开源分布式存储系统

系统整体对比 对比说明 /文件系统 TFS FastDFS MogileFS MooseFS GlusterFS Ceph 开发语言 C++ C Perl C C C++ 开源协议

一休求索 1519

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

盘点分布式文件存储系统

在项目的数据存储中,结构化数据通常采用关系型数据库,非结构化数据(文件)的存储就有很多种方式,服务器本地存储、Nas挂载、ftp等等,今天就来盘点一下,分布式文件存储系统。

三分恶的博客 9257

现在主流开源分布式系统架构都有哪些?

分布式计算Hadoop分布式系统现在主流开源分布式系统架构都有哪些?关注者950被浏览112,808关注问题写回答​添加评论​分享​邀请回答​14 个回答默认排序​知乎用户68 人赞同了该回答分布式系统是一个非常广泛的概念,它最终要落实到解决实际问题上,不同的问题有不同的方法和架构。所有的开源软件都是以某个应用场景出现,而纯粹以“分布式”概念进行划分的比较少见。但如果以算法划分,到能分出几类:1....

许恒的博客 3万+

03-MongoDB快速上手

MongoDB快速上手 v1.2.03_201908 By BoBo MongoDB用起来-快速上手和集群安全系列 课程目标: 理解MongoDB的业务场景、熟悉MongoDB的简介、特点和体系结构、数据类型等。 能够在Windows和Linux下安装和启动MongoDB、图形化管理界面Compass的安装使用 掌握常用的MongoDB基本常用命令实现数据的CRUD 掌握MongoDB的索引...

weixin_45156610的博客 761

四大开源分布式存储_OpenEuler开源社区成立Ceph SIG

2020年6月16日,openEuler开源社区(以下简称“openEuler社区”)正式成立Ceph SIG(Special Interest Group 特别兴趣小组),完善openEuler操作系统在分布式存储场景的适配。openEuler社区参与者和用户可获得由专业存储团队维护的稳定的Ceph版本构建分布式存储系统,并通过openEuler社区获得技术支持。Ceph是一个具备高性...

weixin_39637233的博客 789

【FaskDFS】别找了,主流开源分布式系统存储系统三剑客:FastDFS、Minio、MongoDB零基础入门实战教程!

FastDFS 是一个开源的高性能分布式文件系统(DFS)。它的主要功能包括:文件存储,文件同步和文件访问,以及高容量和负载平衡。主要解决了海量数据存储问题,特别适合以中小文件(建议范围:4KB < file_size < 500MB)为载体的在线服务。FastDFS设计是用来存储小文件的,过大的文件处理方案是拆分为小文件,可跟踪小文件的上传情况。如果应用场景都是处理大文件,可能选择其他分布式文件系统方案更合适。

weixin_43827399的博客 3076

Curve 分布式存储在 KubeSphere 中的实践

Curve 介绍 Curve 是网易开发的现代存储系统,目前支持文件存储 (CurveFS) 和块存储 (CurveBS)。现在它作为一个沙盒项目托管在 CNCF。 Curve 是一个高性能、轻量级操作、本地云的开源分布式存储系统。Curve 可以应用于 : 1) 主流云本地基础设施平台 OpenStack 和 Kubernetes; 2) 云本地数据库的高性能存储 ; 3) 使用与 s3 兼容的对象存储作为数据存储的云存储中间件。 实现效果 通过部署 CurveFS 集群、Helm 部署 Curv

KubeSphere 2099
上一篇: 史上最烂的项目:苦撑 12 年,600 多万行代码
下一篇: 卧槽!这个50K Star的开源项目,太牛了!
Java思维导图
博客等级 码龄10年 306粉丝 71原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值