网易开源分布式存储系统 Curve :性能是 Ceph 的 1.84 倍

2020-07-20 15:45:59 来源:IT之家
        【每日科技网】
网易开源分布式存储系统 Curve :性能是 Ceph 的 1.84 倍

  近期,网易公司旗下云服务商网易数帆宣布开源一款名为Curve 的高性能分布式存储系统,官方称其性能可达 Ceph 的 1.84 倍。

  据官方介绍,Curve 的定位是提供一个高性能、低延迟的存储底座,基于这个存储底座,企业可以打造适用于不同应用场景的存储系统,如块存储、对象存储、云原生数据库等。目前,网易数帆已经实现了高性能块存储系统。根据项目文档介绍,Curve 主要具有三大特性:高性能、高可用和自治。

  高性能:Curve 团队参考了业界一些高效的开源存储系统,设计了一个新架构以实现高性能低延迟的核心能力。采用 brpc 保证网络数据流的高性能和低延迟,基于braft 实现多副本一致性下的低延迟,并对 braft 的快照实现进行了进一步的优化。磁盘 IO 方面,Curve 通过更细粒度的地址空间的 hash 减少 IO 碰撞,增加 IO 并发度,并采用 chunkfilepool 减小 IO 放大倍数,从而限度地发挥硬件的性能。

  网易公布了 Curve 和 Ceph L 版本的测试数据对比,在单卷的场景下,核心的 4K 随机读/写的IOPS 性能,Curve 分别是 Ceph 的 1.84 倍和 1.58 倍,同时延迟相比 Ceph 分别降低 48.39%和 37.50%。

  高可用:Curve 被设计为核心组件都能容忍部分实例失败而不影响整个集群的可用性。网易介绍,无论是单台存储故障,还是系统扩容,Curve 的客户端 IO 都不会受到影响,插拔硬盘、服务进程中断这些常见异常,IO 抖动也很小。当然,故障恢复过程对上层 IO 也不会造成明显影响。

  自治:Curve 可实现一键部署、一键升级,运维只要很少的人工干预,并基于 bvar、Promethues 和 Grafana等开源项目打造了全面的度量标准和告警体系。

  目前,基于 Curve 的高性能块存储系统已经应用在网易的一些核心业务中,支持快照克隆和恢复, 支持 QEMU 虚拟机和物理机 NBD 设备两种挂载方式。网易介绍,系统上线至今 400 多天,尚未出现数据不一致和丢数据的情况,也没有发生过重大故障,具备相当的可靠性和成熟度。

  网易透露,Curve 目前还有一些创新的性能优化工作尚未完成,如细粒度哈希、io_uring 落盘方案,项目团队下一阶段的主要任务就是解决这些问题,预计完成优化之后下个版本还会有 30% 的性能提升。

  鉴于目前开源领域还没有足够高性能和低延迟的分布式存储系统,网易数帆方面表示希望把 Curve 开源出来,回馈社区,让业界一起来使用它,也希望大家一起参与把 Curve 打造得越来越好。

免责声明:本文仅代表作者个人观点,与每日科技网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
    本网站有部分内容均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,若因作品内容、知识产权、版权和其他问题,请及时提供相关证明等材料并与我们联系,本网站将在规定时间内给予删除等相关处理.

猜你喜欢

持续践行科技向善,熵基科技深化布局脑机接口场景应用

在全球科技迅猛发展的浪潮中,人工智能(AI)与脑机接口技术的融合正为人类社会带来前所未有的变革。作为生物识别与人工智能领域的先行者,熵基科技以“AI认知让空间更智能,让世界更美好”为使命,持续深耕多模

1周前

AI原生APP月活破2.7亿

截止到2025年3月,中国移动互联网月活跃用户规模达到12.59亿,同比增长2.2%;全网用户月人均使用时长超过175.8小时,同比增长6.2%,显示出用户黏性重回高增长区间,背后则与实用工具、视频娱

1周前

科技前沿动态

在当今这个科技日新月异的时代,新材料技术正以前所未有的速度改变着我们的生活。北京同益中新材料科技股份有限公司以下简称“北京同益中”作为行业的佼佼者,其通州分公司更是凭借卓越的研发实力和创新能力,在新材

3周前

智慧社区:开启未来生活新篇章

随着科技的飞速发展,“智慧社区”已成为当今社会的一大热点话题。这一概念不仅代表着技术的革新,更是对人们生活方式的一次深刻变革。我们将深入探讨智慧社区的核心组成部分——智慧养老系统平台,解析智慧社区的内

3周前

达摩院发布2022十大科技趋势

阿里巴巴旗下的达摩院发布了备受瞩目的2022年度十大科技趋势。这些趋势不仅展示了人工智能、量子计算、生物技术等前沿领域的最新进展,还揭示了未来科技发展的新方向和新机遇。达摩院发布2022十大科技趋势:

3周前

Web开发主流技术

随着互联技术的飞速发展,Web开发已成为科技领域的热门话题。从前端的交互设计到后端的逻辑处理,每一个环节都离不开先进的技术支持。本文将深入探讨Web应用开发的主流技术、前端3D技术、三大主流框架、Ja

3周前