前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >【存储】2022 年的 4 个开源对象存储平台

【存储】2022 年的 4 个开源对象存储平台

作者头像
首席架构师智库
发布2022-03-08 16:41:01
9.1K0
发布2022-03-08 16:41:01
举报
文章被收录于专栏:超级架构师超级架构师

介绍

在处理大量非结构化数据时,我们需要一个地方来存储它。我们选择存储数据的方式有很多种,但今天我们要关注的一种是对象存储或基于对象的存储。这是处理大量数据时的最佳选择,特别是因为它并不昂贵,并且可以更轻松地管理这些数据。 如果您不熟悉它,对象存储是一种数据存储架构,允许您将大量非结构化数据存储在可扩展的对象结构中。它将数据存储为具有元数据和唯一标识符的对象,从而更容易访问该数据。现在,有许多平台提供对象存储设施。 这就是为什么在本文中,我们将告诉您四个有用的开源对象存储平台,它们包含强大的功能,使它们成为 2022年的重大投资。

1.LakeFS

LakeFS 是一种开源数据环境工具,可让您管理基于对象存储的数据湖。这些数据湖是存储库,您可以在其中转储所有结构化和非结构化类型的数据。LakeFS 还集成了许多工具并支持 Amazon S3 和 Google Cloud Storage。此外,它适用于所有主要数据框架,例如 Hive、Spark、Presto、AWS Athena 等。 使用 LakeFS,您可以扩展 PB 级数据,还可以通过其类似于 Git 的分支和版本控制方法向其中添加数据,这使您可以在不破坏数据的情况下添加更新。这种类似于 Git 的方法还有助于轻松撤消数据更改,这使得处理数据更加容易和安全。 您还可以通过查看 LakeFS 文档了解其他特性和功能。

2.Ceph

Ceph 是对象存储、块存储和文件系统的开源平台。它提供与 Amazon 的 S3 REST API 和 OpenStack 的 API Swift 完全兼容的对象存储功能。 Ceph 的对象存储允许您使用本地语言绑定和 Ceph 提供的其他技术轻松访问数据对象。如果您想转变公司的 IT 基础架构及其管理大量非结构化数据的能力,这是一个很好的解决方案。他们还有一些软件库,使用 Java、C、C++、Python、PHP 和其他几个编写的软件能够使用原生 API 的强大功能访问 Ceph 的对象存储系统。

3. MinIO

MinIO 是一款开源云存储软件,提供高性能分布式对象存储,专为大规模数据基础设施而设计。它与 Amazon S3 API 兼容,并且它在 GitHub 上拥有超过 26,000 颗星,有超过 680 名贡献者在为它工作。 MinIO 服务器存储所有类型的非结构化数据,例如照片、视频、日志文件等。它也可在开源 Apache V2 许可下使用,许多最强大的大数据和机器学习应用程序都使用 MinIO S3 对象存储。您可以在 MinIO 网站上查看许多其他功能。

4.OpenIO

OpenIO 是一种开源对象存储解决方案,用于管理和保护大量非结构化数据。它允许您构建和操作具有弹性且安全的大规模存储基础架构。 OpenIO 与 S3 兼容,可以在任何硬件上部署或云托管。添加新硬件时也不需要重新分配数据;您可以立即使用额外的容量。OpenIO 还专为大规模基础设施和大数据工作负载而设计。除此之外,它还提供了一个直观的用户界面来简化存储管理员的日常生活。因此,您的数据变得非常易于访问且易于管理。

5.Apache Ozone

Ozone是Hadoop的可扩展、冗余和分布式对象存储。除了可以扩展到数十亿个大小不等的物体之外,Ozone还可以在Kubernetes和YARN等容器环境中有效发挥作用。使用ApacheSpark、Thread和Hive等框架的应用程序在本地运行,无需任何修改。Ozone建立在一个名为Hadoop分布式数据存储(HDD)的高可用复制块存储层上。Ozone现在已经普遍可用(GA),版本为1.2.1。

可伸缩

Ozone被设计成可以扩展到数百亿个文件和块,将来甚至更多。

一致的

Ozone是一种高度一致的物体存储。这种一致性是通过使用RAFT等协议实现的。

云原生

Ozone被设计成在像纱线和库伯内特斯这样的集装箱环境中很好地工作。

保护

Ozone与kerberos基础架构集成以实现访问控制,并支持TDE和在线加密。

多协议支持

Ozone支持不同的协议,比如S3和Hadoop文件系统API。

高可用

Ozone是一个完全复制的系统,旨在经受多次故障。

结论

您可以使用许多开源对象存储提供程序,它们提供了我们提到的许多功能中的一些功能。它们为您的所有存储需求提供了良好的解决方案,并避免了高昂的财务成本。因此,选择具有您需要的所有功能的对象存储平台非常重要。

超级的点评:

超级比较看好Apache Ozone ,比较商业友好的许可证,兼容不同的协议,可做企业统一的存储平台,运维成本比较低,活跃的社区,对于大文件性能比较好。

本文

https://jiagoushi.pro/4-open-source-object-storage-platforms-2021

讨论:知识星球【首席架构师圈】或者加微信小号【cea_csa_cto】或者加QQ群【792862318】

公众号

【jiagoushipro】【超级架构师】精彩图文详解架构方法论,架构实践,技术原理,技术趋势。我们在等你,赶快扫描关注吧。

微信小号

【cea_csa_cto】50000人社区,讨论:企业架构,云计算,大数据,数据科学,物联网,人工智能,安全,全栈开发,DevOps,数字化.

QQ群

【792862318】深度交流企业架构,业务架构,应用架构,数据架构,技术架构,集成架构,安全架构。以及大数据,云计算,物联网,人工智能等各种新兴技术。加QQ群,有珍贵的报告和干货资料分享。

视频号

【超级架构师】1分钟快速了解架构相关的基本概念,模型,方法,经验。每天1分钟,架构心中熟。

知识星球

向大咖提问,近距离接触,或者获得私密资料分享。

喜马拉雅

路上或者车上了解最新黑科技资讯,架构心得。

【智能时刻,架构君和你聊黑科技】

知识星球

认识更多朋友,职场和技术闲聊。

知识星球【职场和技术】

微博

【智能时刻】

智能时刻

哔哩哔哩

【超级架构师】

抖音

【cea_cio】超级架构师

快手

【cea_cio_cto】超级架构师

小红书

【cea_csa_cto】超级架构师

谢谢大家关注,转发,点赞和点在看。

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2022-02-09,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 首席架构师智库 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 介绍
  • 1.LakeFS
  • 2.Ceph
  • 3. MinIO
  • 4.OpenIO
  • 5.Apache Ozone
  • 结论
相关产品与服务
对象存储
对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。腾讯云 COS 的存储桶空间无容量上限,无需分区管理,适用于 CDN 数据分发、数据万象处理或大数据计算与分析的数据湖等多种场景。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档