网易开源分布式存储系统 Curve :性能是 Ceph 的 1.84 倍

2020-07-20 15:45:59 来源:IT之家
        【每日科技网】
网易开源分布式存储系统 Curve :性能是 Ceph 的 1.84 倍

  近期,网易公司旗下云服务商网易数帆宣布开源一款名为Curve 的高性能分布式存储系统,官方称其性能可达 Ceph 的 1.84 倍。

  据官方介绍,Curve 的定位是提供一个高性能、低延迟的存储底座,基于这个存储底座,企业可以打造适用于不同应用场景的存储系统,如块存储、对象存储、云原生数据库等。目前,网易数帆已经实现了高性能块存储系统。根据项目文档介绍,Curve 主要具有三大特性:高性能、高可用和自治。

  高性能:Curve 团队参考了业界一些高效的开源存储系统,设计了一个新架构以实现高性能低延迟的核心能力。采用 brpc 保证网络数据流的高性能和低延迟,基于braft 实现多副本一致性下的低延迟,并对 braft 的快照实现进行了进一步的优化。磁盘 IO 方面,Curve 通过更细粒度的地址空间的 hash 减少 IO 碰撞,增加 IO 并发度,并采用 chunkfilepool 减小 IO 放大倍数,从而限度地发挥硬件的性能。

  网易公布了 Curve 和 Ceph L 版本的测试数据对比,在单卷的场景下,核心的 4K 随机读/写的IOPS 性能,Curve 分别是 Ceph 的 1.84 倍和 1.58 倍,同时延迟相比 Ceph 分别降低 48.39%和 37.50%。

  高可用:Curve 被设计为核心组件都能容忍部分实例失败而不影响整个集群的可用性。网易介绍,无论是单台存储故障,还是系统扩容,Curve 的客户端 IO 都不会受到影响,插拔硬盘、服务进程中断这些常见异常,IO 抖动也很小。当然,故障恢复过程对上层 IO 也不会造成明显影响。

  自治:Curve 可实现一键部署、一键升级,运维只要很少的人工干预,并基于 bvar、Promethues 和 Grafana等开源项目打造了全面的度量标准和告警体系。

  目前,基于 Curve 的高性能块存储系统已经应用在网易的一些核心业务中,支持快照克隆和恢复, 支持 QEMU 虚拟机和物理机 NBD 设备两种挂载方式。网易介绍,系统上线至今 400 多天,尚未出现数据不一致和丢数据的情况,也没有发生过重大故障,具备相当的可靠性和成熟度。

  网易透露,Curve 目前还有一些创新的性能优化工作尚未完成,如细粒度哈希、io_uring 落盘方案,项目团队下一阶段的主要任务就是解决这些问题,预计完成优化之后下个版本还会有 30% 的性能提升。

  鉴于目前开源领域还没有足够高性能和低延迟的分布式存储系统,网易数帆方面表示希望把 Curve 开源出来,回馈社区,让业界一起来使用它,也希望大家一起参与把 Curve 打造得越来越好。

免责声明:本文仅代表作者个人观点,与每日科技网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
    本网站有部分内容均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,若因作品内容、知识产权、版权和其他问题,请及时提供相关证明等材料并与我们联系,本网站将在规定时间内给予删除等相关处理.

猜你喜欢

英伟达Vera Rubin全面量产,正式进军AI PC市场

近日,英伟达CEO黄仁勋在GTCTaipei2026主题演讲中宣布,新一代AI计算平台VeraRubin已全面投入生产,标志着继Hopper、Blackwell之后的第三代旗舰架构正式进入交付阶段,产

2个月前

Apple Intelligence正式入华 适配多终端开启智能新体验

近日,苹果公司宣布升级Siri后的AppleIntelligence正式落地中国市场,该功能优先向iPhone16Pro及M4芯片Mac用户推送,带来屏幕理解、跨App操作等全新智能体验。此次入华的A

4个月前

Google Gemini推“切换工具”,打响AI聊天机器人用户争夺战

当前,AI聊天机器人市场正上演一场激烈的用户争夺战。为吸引其他平台的用户“跳槽”,Google于3月27日宣布推出一项名为“切换工具”的新功能,允许用户将其他聊天机器人的“记忆”和完整聊天记录直接导入

4个月前

NVIDIA发布全新大模型,这5个功能直接封神

在GTC2026大会上,NVIDIA创始人兼CEO黄仁勋正式发布了Nemotron3系列大模型。这一全新模型家族被定位为“扩展多模态智慧以提供专业化的代理式AI”,在本地部署、隐私保护和多模态理解等维

4个月前

Air Street Capital募资2.32亿美元 成欧洲最大单一人GP AI风投基金

伦敦风投AirStreetCapital宣布完成第三期基金募资,规模达2.32亿美元,成为欧洲最大的单一管理人风险投资基金之一。据该公司3月24日发布的消息,新基金将聚焦于欧洲及北美地区的人工智能早期

4个月前

苹果地图将引入广告 搜索功能或迎商业化

据报道,苹果公司正计划在iOS系统的地图应用中增加广告功能。知情人士透露,这一变化最快可能在本月正式公布,并于今年夏季开始逐步在应用中展示广告。根据目前的方案,商家将通过竞价方式,使其在用户进行相关关

4个月前