前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >SeaweedFS学习笔记

SeaweedFS学习笔记

作者头像
Li_XiaoJin
发布2022-06-10 21:33:02
5110
发布2022-06-10 21:33:02
举报
文章被收录于专栏:Lixj's BlogLixj's Blog

最近在重构项目,文件存储系统用的 SeaweedFS,学习一下。

GitHub地址:https://github.com/chrislusf/seaweedfsSeaweedFS 相关文章:

  1. https://cloud.tencent.com/developer/article/1701097
  2. seaweedfs学习笔记
  3. eaweedfs 源码笔记(一)

SeaweedFS 是一个非常优秀的由 golang 开发的分布式存储开源项目。它是用来存储文件的系统,并且与使用的语言无关,使得文件储存在云端变得非常方便。

SeaweedFS简介

SeaweedFS 是基于 go 语言开发的高可用文件存储系统,主要特征

  • 存储上亿的文件(最终受限制于硬盘大小)
  • 速度快,内存占用小
  • 上手使用比fastDFS要简单很多,自带Rest APIfastDFS我也没用过,改天去了解一下。

SeaWeeDFS作为对象存储库来有效地处理小文件。不是管理中央主机中的所有文件元数据,中央主机只管理文件卷,它允许这些卷服务器管理文件和它们的元数据。 这减轻了来自中央主机的并发压力,并将文件元数据扩展到卷服务器,允许更快的文件访问(仅一个磁盘读取操作)。

每个文件的元数据只有40字节的磁盘存储开销。

概述

在逻辑上Seaweedfs的几个概念:

  • master 存储映射关系,文件和fid的映射关系 weed master
  • Node 系统抽象的结点,抽象为datacenter、rack、datanode
  • datacenter 数据中心,包含多个rack,类似一个机房
  • rack :属于一个datacenter,类似机房中的一个机架
  • datanode : 存储节点,存储多个volume,类似机架中的一个机器 weed volume
  • volume :逻辑卷,存储needle
  • needle: 逻辑卷中的object,对应存储的文件
  • collection:文件集,默认所有文件都属于””文件集。如果想给某些文件单独分类,可以在申请id的时候指定相同的文件集
  • filer :指向一个或多个master的file服务器,多个使用逗号隔开。

weed volume会创建一个 datanode ,可以指定所属的 datacenter rack和master ,会根据配置存储文件,默认一开始没有volume,当开始存储文件的时候才会创建一个volume,当这一个volume大小超过了volumeSizeLimitMB 就会新增一个volume,当volume个数超过了max则该datanode就不能新增数据了。那就需要在通过weed volume命令新增一个datanode。

未完待续。。。。。

目前找到的资料有点少,还在学习中。。后续更新

Copyright: 采用 知识共享署名4.0 国际许可协议进行许可 Links: https://lixj.fun/archives/seaweedfs学习笔记

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2021-06-08,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • SeaweedFS简介
  • 概述
  • 未完待续。。。。。
相关产品与服务
文件存储
文件存储(Cloud File Storage,CFS)为您提供安全可靠、可扩展的共享文件存储服务。文件存储可与腾讯云服务器、容器服务、批量计算等服务搭配使用,为多个计算节点提供容量和性能可弹性扩展的高性能共享存储。腾讯云文件存储的管理界面简单、易使用,可实现对现有应用的无缝集成;按实际用量付费,为您节约成本,简化 IT 运维工作。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档