前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >【大家的项目】helyim: 纯 Rust 实现的分布式对象存储系统

【大家的项目】helyim: 纯 Rust 实现的分布式对象存储系统

作者头像
MikeLoveRust
发布2024-01-12 15:43:27
3000
发布2024-01-12 15:43:27
举报

helyim 是使用 rust 重写的 seaweedfs,具体架构可以参考 Facebook 发表的 haystack 和 f4 论文。

主要设计目标为:

  1. 精简文件元数据信息,去掉对象存储不需要的 POSIX 语义(如文件权限)
  2. 小文件合并成大文件,从而减小元数据数,使其完全存在内存中,以省去获取文件元数据的磁盘IO
  3. 支持地域容灾,包括 IDC 容灾和机架容灾
  4. 架构简单,易于实现和运维

支持的特性:

  1. 支持使用 Http 的文件上传,下载,删除,查看集群状态等接口
  2. Volume 数据支持 Replica Placement
  3. 基于 Openraft 的元数据服务的 Failover 功能
  4. 冗余数据的定时删除
  5. 元数据接口的请求重定向

未来可能实现的功能:

  1. 支持纠删码(高优先级)
  2. 支持 Filer 服务(高优先级,以支持 S3,HDFS,Fuse 等 proxy)
  3. 支持 io-uring
  4. 支持 kernel bypass(RDMA,DPDK,SPDK)
  5. GPU direct storage(大概率不做,但是会学习相关知识)

使用方法:

1. 启动 master 服务
代码语言:javascript
复制
> cargo run --bin helyim master
2. 启动 volume 服务
代码语言:javascript
复制
> cargo run --bin helyim volume --port 8080 --folders ./data:7
3. 上传文件
代码语言:javascript
复制
# 获取文件 ID
> curl http://localhost:9333/dir/assign

{"fid":"6,16b7578a5","url":"127.0.0.1:8080","public_url":"127.0.0.1:8080","count":1,"error":""}

# 上传文件
> curl -F file=@./sun.jpg http://127.0.0.1:8080/6,16b7578a5

{"name":"sun.jpg","size":1675569,"error":""}
4. 删除文件
代码语言:javascript
复制
> curl -X DELETE http://127.0.0.1:8080/6,16b7578a5

更多用法请参考 https://github.com/helyim/helyim

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2024-01-07,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 Rust语言学习交流 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 主要设计目标为:
  • 支持的特性:
  • 未来可能实现的功能:
  • 使用方法:
    • 1. 启动 master 服务
      • 2. 启动 volume 服务
        • 3. 上传文件
          • 4. 删除文件
          相关产品与服务
          对象存储
          对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。腾讯云 COS 的存储桶空间无容量上限,无需分区管理,适用于 CDN 数据分发、数据万象处理或大数据计算与分析的数据湖等多种场景。
          领券
          问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档