首页
学习
活动
专区
圈层
工具
发布

国产信创分布式对象存储系统 RustFS 开源

介绍 RustFS 是一款简单、高效、分布式的对象存储。 同时,也是一种高效、开源、自由的对象存储解决方案。它 100% 兼容 S3 协议,使用 Apache2 许可证发行的开源软件。...它是由全世界优秀的工程师参与并贡献的一款对于商用友好的分布式对象存储产品,RustFS 可以平替非常多非友好开源协议的对象存储产品。...特征 S3 兼容: 100% 兼容 S3 协议,优秀的兼容性与大数据、数据湖、备份软件、图像处理软件、工业生产软件兼容; 分布式: RustFS 是一个分布式的对象存储,因此,RustFS 可以满足各种需求...; 商用友好: RustFS 是 100% 的开源软件,并且使用 Apache v2.0 许可证发型,因此,RustFS 是商用友好的; 快速: Rust 这一门开发语言的性能无限接近于 C 语言的速度...安全的; 跨平台: RustFS works on Windows, macOS, and Linux; 可扩展: RustFS 支持自定义插件,因此,RustFS 可以满足各种需求; 可定制: 由于开源的特性

2.2K10

MinIO作为一种开源的对象存储系统,具有以下核心特点

MinIO作为一种开源的对象存储系统,具有以下核心特点 简介:本文讲解MinIO作为一种开源的对象存储系统,有哪些核心特点。...S3兼容性:MinIO使用S3兼容的API,这是亚马逊S3对象存储服务使用的标准接口。这意味着用户可以直接使用现有的S3工具和应用程序与MinIO进行集成。...S3接口提供了简单、灵活的数据访问方式,可以通过HTTP协议直接上传、下载和管理对象。这种兼容性使得MinIO成为与云原生应用程序和工具集成的理想选择。...这些实验产生了大量的数据,需要一个可靠的存储系统来存储和管理这些数据。CERN选择了MinIO作为他们的存储解决方案。...通过以上实例和案例,我们可以看到MinIO作为一种开源的对象存储系统,具有高性能、可扩展性、数据保护和S3兼容性等核心特点。

84000
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    常见开源分布式存储系统

    V3 GPL GPL V3 GPL V3 LGPL 数据存储方式 块 文件/Trunk 文件 块 文件/块 对象/文件/块 集群节点通信协议 私有协议(TCP) 私有协议(TCP) HTTP 私有协议.../块/文件方式存储的开源分布式文件系统,其设计之初,就将单点故障作为首先要解决的问题,因此该系统具备高可用性、高性能及可扩展等特点。...BTRFS(B-Tree文件系统),同时支持按OSD方式存储,因此其性能是很卓越的, 因为该系统处于试商用阶段,需谨慎引入到生产环境 §特性 1)Ceph底层存储是基于RADOS(可靠的、自动的分布式对象存储...),它提供了LIBRADOS/RADOSGW/RBD/CEPHFS方式访问底层的存储系统,如下图所示 2)通过FUSE,Ceph支持类似的POSIX访问方式;Ceph分布式系统中最关键的MDS节点是可以部署多台...且处理性能大大提升 3)Ceph通过使用CRUSH算法动态完成文件inode number到object number的转换,从而避免再存储文件metadata信息,增强系统的灵活性 §优点 1)支持对象存储

    5.2K20

    腾讯开源 DCache,分布式 NoSQL 存储系统

    将这几种技术方案整合起来,我们可以设计出分布式 NoSQL 缓存系统,当前这一类系统有一些比较强大的开源方案,比如 Memcached 和 Redis,它们对整个服务系统的可用性、可扩展性与性能起到至关重要的作用...听说最近腾讯开源了一个分布式 NoSQL 存储系统 DCache,它的典型应用场景就在分布式缓存。...当前开源的分布式缓存系统中,Memcached 与 Redis 是很普遍的选择,腾讯此次为什么要自己造一个系统呢?...基于内存的 NoSQL 存储系统在运维上会产生巨大的额外开销,它需要对相关技术进行深入理解,并且在紧要关头果断做出正确决策。 ?...嘉宾介绍 山宝银,腾讯后台高级工程师,专注于分布式 NoSQL 存储领域的技术研发工作,参与腾讯多个自研存储系统的开发,在分布式系统、高可用与高性能服务等领域有较丰富的经验。 ?

    1.4K20

    腾讯重磅开源 DCache,分布式 NoSQL 存储系统

    将这几种技术方案整合起来,我们可以设计出分布式 NoSQL 缓存系统,当前这一类系统有一些比较强大的开源方案,比如 Memcached 和 Redis,它们对整个服务系统的可用性、可扩展性与性能起到至关重要的作用...听说最近腾讯开源了一个分布式 NoSQL 存储系统 DCache,它的典型应用场景就在分布式缓存。...DCache:https://www.oschina.net/p/dcache-nosql 当前开源的分布式缓存系统中,Memcached 与 Redis 是很普遍的选择,腾讯此次为什么要自己造一个系统呢...基于内存的 NoSQL 存储系统在运维上会产生巨大的额外开销,它需要对相关技术进行深入理解,并且在紧要关头果断做出正确决策。...嘉宾介绍 山宝银,腾讯后台高级工程师,专注于分布式 NoSQL 存储领域的技术研发工作,参与腾讯多个自研存储系统的开发,在分布式系统、高可用与高性能服务等领域有较丰富的经验。

    97120

    MinIO——云原生时代的高性能对象存储系统

    一、 MinIO核心定义 MinIO 是一个开源的、与 Amazon S3 API 兼容的、高性能的对象存储服务。 你可以把它想象成:“可以自己部署在私有服务器上的 AWS S3”。...这个定义包含三个核心信息: 开源:免费使用、无厂商锁定、代码透明,社区活跃。 S3 兼容:所有为 S3 开发的工具和应用几乎无需修改即可运行于 MinIO。...安全性与加密 端到端加密:支持服务器端和客户端加密,对象可以使用 AWS KMS、Hashicorp Vault 等外部密钥管理服务进行加密。...Ceph 维度 MinIO Ceph 架构 极简,专注对象存储 复杂,支持块、文件、对象 性能 更高(尤其对象读写) 通用性强,但对象性能略低 易用性 部署简单,运维轻松 配置复杂,学习曲线陡峭 社区与生态...活跃,云原生友好 庞大但偏传统 适用场景 专注对象存储需求 需要统一存储平台(块+文件+对象) 选择 MinIO:如果你只需要一个高性能、易维护的对象存储,MinIO 是更优选择。

    1.5K10

    腾讯开源分布式NoSQL存储系统DCache | 技术头条

    作者 | 山宝银,腾讯后台高级工程师,专注于分布式 NoSQL 存储领域的技术研发工作,参与腾讯多个自研存储系统的开发,在分布式系统、高可用与高性能服务等领域有较丰富的经验。...将这几种技术方案整合起来,我们可以设计出分布式 NoSQL 缓存系统,当前这一类系统有一些比较强大的开源方案,比如 Memcached 和 Redis,它们对整个服务系统的可用性、可扩展性与性能起到至关重要的作用...腾讯最近开源了一个分布式 NoSQL 存储系统 DCache,它的典型应用场景就在分布式缓存。...当前开源的分布式缓存系统中,Memcached 与 Redis 是很普遍的选择,腾讯此次为什么要自己造一个系统呢?...基于内存的 NoSQL 存储系统在运维上会产生巨大的额外开销,它需要对相关技术进行深入理解,并且在紧要关头果断做出正确决策。

    1.1K30

    Alluxio 开源数据编排技术(分布式虚拟存储系统)

    Alluxio概览 什么是 Alluxio Alluxio 是世界上第一个面向基于云的数据分析和人工智能的开源的数据编排技术。...它以 Apache License 2.0 协议的方式开源。...Alluxio 是发展最快的开源大数据项目之一,已经吸引了超过 300 个组织机构的1000多名贡献者参与到 Alluxio 的开发中,包括 Alluxio、 百度、 CMU、 Google、 IBM、...简化云存储和对象存储接入:与传统文件系统相比,云存储系统和对象存储系统使用不同的语义,这些语义对性能的影响也不同于传统文件系统。...在云存储和对象存储系统上进行常见的文件系统操作(如列出目录和重命名)通常会导致显著的性能开销。当访问云存储中的数据时,应用程序没有节点级数据本地性或跨应用程序缓存。

    1.9K20

    开源、高可用的分布式键值对存储系统etcd

    etcd作为一种开源、高可用的分布式键值对存储系统,为解决这个问题提供了一种优雅的方案。...什么是分布式键值对存储系统? 分布式键值对存储系统是一种允许在多个节点之间共享和同步键值对数据的系统。它提供了一种简单且高效的方式来存储和管理分布式系统中的状态信息。...etcd是怎样的分布式键值对存储系统 etcd是由CoreOS开发的一种开源、高可用的分布式键值对存储系统。它使用Raft协议来确保数据在分布式环境中的强一致性。...同时,etcd在云原生架构中扮演着关键的角色,它被用作共享配置和服务发现的分布式、一致性KV存储系统,被用来存储Kubernetes集群中的所有配置数据和状态信息。...首先,etcd是云原生架构中的核心组件之一,它提供了分布式一致性的键值对存储系统,使得微服务架构中的各个组件可以共享配置和服务发现信息。

    81100

    MinIO与传统的对象存储系统相比有以下几个不同之处

    MinIO与传统的对象存储系统相比有以下几个不同之处 架构设计:传统的对象存储系统通常采用集中式的架构,将所有的数据存储在一个中心化的存储设备中。...数据访问:传统的对象存储系统通常使用基于文件系统的接口来访问数据,如NFS或CIFS。而MinIO使用S3兼容的API,这是亚马逊S3对象存储服务使用的标准接口。...S3接口提供了更简单、更灵活的数据访问方式,可以通过HTTP协议直接上传、下载和管理对象。 部署方式:传统的对象存储系统通常需要在专用的硬件设备上部署,并且需要进行复杂的配置和管理。...开源性质:MinIO是一个开源的对象存储系统,可以免费使用和修改。这意味着用户可以根据自己的需求和场景对MinIO进行定制和扩展。...我们需要一个可靠的对象存储系统来存储和管理商品图片、用户上传的文件以及其他非结构化数据。在这种情况下,MinIO可以作为我们的存储后端。

    1.2K10

    蚂蚁图团队开源高性能原生图存储系统CStore

    图存储系统 百艺通,不如一艺精 在设计数据存储引擎时,需要考虑众多因素。...例如,所应用的具体场景,是联机分析处理(OLAP)还是联机事务处理(OLTP);再如,数据存储方式的选择,内存、本地硬盘或分布式存储;还有就是存储数据的格式,像是文档、JSON,宽表,对象,键值对等。...目前,CStore系统已全部开源到TuGraph Analytics仓库(geaflow-cstore模块),当前推送的代码涵盖了CStore的核心功能特性,仍有大量的增强功能还在整合中。...TuGraph团队将持续投入图存储系统CStore的建设工作,也非常欢迎图计算和图存储的开发者一起参与进来,共同推进CStore的开源和演进。...同时我们也非常欢迎图存储系统/Rust爱好者加入到CStore开源项目的建设中来。

    1K10

    TBDS大数据套件对接cos对象存储系统配置化实现

    腾讯TBDS大数据处理套件除了可以对原生HDFS分布式文件系统中的数据文件做大批量离线数据分析外,还可以支持对腾讯cos对象系统中的数据文件进行直接访问并进行大批量离线数据分析。...本文将重点讲述腾讯TBDS套件如何与cos对象系统相结合,让cos对象存储系统充当TBDS中的sprak、hive等数据分析组件的底层文件系统,实现spark、hive访问cos对象系统像访问本地的HDFS...TBDS组件集成cos对象系统的配置流程如下: 第一步:在cos对象存储系统官网下载hadoop-cos插件工具,下载地址如下:https://cloud.tencent.com/document/product...5.png 第五步:待重启HDFS完成后,测试hadoop命令行访问cos对象系统是否成功。能够正常访问到cos对象中的文件,即代表hdfs已经配置成功。...6.png 第六步:使用spark访问cos对象中的文件对象--在提交spark任务时使用—jars指定cos插件提交指定的任务即可。 提交示例如下: .

    2.6K20

    构建和维护星球最强对象存储系统的一点微小经验

    我们知道,Amazon S3 是云时代最重要的存储基础设施之一,现在各家云厂商的对象存储基本都兼容 S3 接口,所有云原生的基础设施,比如云原生数据库,其最终存储都要落到对象存储上。...在开始之前,我们首先看下Andy Warfield 给出的一组数据,来感受下星球最强的对象存储已经到了什么量级: AWS S3 的一些指标 即, 容量和吞吐:超过 280 万亿个对象,QPS 平均超过...我们发现一个特点:在 S3 上运行的工作负载越多,不同对象请求间的去相关性(decorrelated)就越强。...数据复制:数据放置和持久性 在存储系统里,总是会用数据冗余来保护数据免于硬件故障。但冗余,同样可以用来管控热度。在多机上有多个副本,给了我们在流量过来时选择机器的自由度。...将同一个桶的对象摊到不同的硬盘后,同一个用户的访问流量便也随之打到了不同硬盘集合。

    57530

    网易开源的分布式存储系统 Curve 正式成为 CNCF 沙箱项目

    Curve 项目特色 Curve 的研发,萌芽于开源 Ceph 存储系统难以满足网易业务发展的朴素需求,成长于云原生在各业务快速落地的契机。...即便从当前 CNCF Landscape 来看,云原生存储项目依然远不及计算侧和网络侧丰富,开源的更是稀缺(图中白底部分),如果再加上稳定、高性能、公有云私有云均可使用的灵活弹性、简单易运维这些云原生场景下对存储系统的基础要求...得益于 Raft 一致性协议及创新架构的技术路线,目前,无论采用 SATA SSD 块存储,还是 NVMe 块存储,Curve 的随机读写、延迟性能都远优于老牌开源存储系统 Ceph,异常状态下的性能稳定性同样有接近一倍半关系的领先程度...关于 Curve Curve 是一款高性能、易运维、云原生的开源分布式存储系统。...Curve 亦可作为云存储中间件使用 S3 兼容的对象存储作为数据存储引擎,为公有云用户提供高性价比的共享文件存储。

    1.2K30
    领券