ZFS文件系统的英文名称为Zettabyte File System,也叫动态文件系统（Dynamic File System）,是第一个128位文件系统。最初是由Sun公司为Solaris 10操作系统开发的文件系统。作为OpenSolaris开源计划的一部分，ZFS于2005年11月发布，被Sun称为是终极文件系统，经历了 10 年的活跃开发。而最新的开发将全面开放，并重新命名为 OpenZFS。
内容来源：2018 年 8 月 7 日，VMware大中华区原厂高级技术讲师史峻在“VMware直播分享 第二期”进行《vSAN常见错误故障排错》演讲分享。IT 大咖说经主办方和演讲者审阅授权转载发布。
首先说下 BLOB 的意思， 英文全称是 Binary Large OBjects，可以理解为任意二进制格式的大对象；在 Facebook 的语境下，也就是用户在账户里上传的的图片，视频以及文档等数据，这些数据具有一次创建，多次读取，不会修改，偶尔删除 的特点。
GlusterFS (Gluster File System) 是一个开源的分布式文件系统，主要由 Z RESEARCH公司负责开发。GlusterFS 是 Scale-Out 存储解决方案 Gluster 的核心，具有强大的横向扩展能力，通过扩展能够支持数PB存储容量和处理数千客户端。GlusterFS 借助 TCP/IP 或 InfiniBand RDMA 网络将物理分布的存储资源聚集在一起，使用单一全局命名空间来管理数据。GlusterFS 基于可堆叠的用户空间设计，可为各种不同的数据负载提供优异的性能。
Glusterfs是一个开源的分布式文件系统，容量可以按比例的扩展，且性能却不会因此而降低。 廉价且使用简单，完全抽象在已有的文件系统之上。 扩展和容错设计的比较合理，复杂度较低 适应性强，部署方便，对环境依赖低，使用，调试和维护便利。
GlusterFS (Gluster File System) 是一个开源的分布式文件系统，主要由 Z RESEARCH 公司负责开发。GlusterFS 是 Scale-Out 存储解决方案 Gluster 的核心，具有强大的横向扩展能力，通过扩展能够支持数PB存储容量和处理数千客户端。GlusterFS 借助 TCP/IP 或 InfiniBand RDMA 网络将物理分布的存储资源聚集在一起，使用单一全局命名空间来管理数据。GlusterFS 基于可堆叠的用户空间设计，可为各种不同的数据负载提供优异的性能。
GlusterFS 是一个开源的分布式文件系统，同时也是Scale-Out存储解决方案Gluster的核心，在存储数据方面有强大的横向扩展能力。GlusterFS主要由存储服务器、客户端及NFS/Samba存储网关（可选组件）组成。GlusterFS架构中最大的设计特点是没有元数据服务器组件，也就是说没有主/从服务器之分，每一个节点都可以是主服务器。 . 1、Gluster相关参考文档如下（我下面的配置是基于本地yum配置的，若需要搭建最新版本，可直接按照下面的文档链接进行配置）： . Gluster官网 :https://wiki.centos.org/SpecialInterestGroup/Storage/gluster-Quickstart 基于centos7/Redhat安装Gluster官方文档:https://blog.csdn.net/daydayup_gzm/article/details/52748812 . 2、 GlusterFS相关术语： .
准备把ASM这部分好好捋一下，主要是学习ASM部分的官方文档，去掉一些废话，补充一些大佬的总结。也有看不太明白的地方，暂时先放原文。
Berkeley:伯克利提出：A case for Redundent Arrays of Inexpensive Disks 为RAID(廉价冗余阵列)
理论和实践上分析，GlusterFS 目前主要适用于大文件存储场景，对于小文件尤其是海量小文件，存储效率和访问性能都表现不佳。建议存放文件大小大于 1MB
经过pool，rbd，object、pg的层层映射关系，在PG这一层中，已经知道存储数据的3个OSD所在位置及主从关系。 客户端与primay OSD建立SOCKET 通信，将要写入的数据传给primary OSD，由primary OSD再将数据发送给其他replica OSD数据节点。
Ceph客户端的对象映射是一种机制，用于将Ceph存储集群中的对象映射到客户端的文件系统上，使其能够像使用本地文件系统一样读取和写入数据。
EC（纠删码）是一种编码技术，在HDFS之前，这种编码技术在廉价磁盘冗余阵列（RAID）中应用最广泛(RAID介绍：大数据预备知识-存储磁盘、磁盘冗余阵列RAID介绍)，RAID通过条带化技术实现EC，条带化技术就是一种自动将 I/O 的负载均衡到多个物理磁盘上的技术，原理就是将一块连续的数据分成很多小部分并把他们分别存储到不同磁盘上去，这就能使多个进程同时访问数据的多个不同部分而不会造成磁盘冲突（当多个进程同时访问一个磁盘时，可能会出现磁盘冲突），而且在需要对这种数据进行顺序访问的时候可以获得最大程度上的 I/O 并行能力，从而获得非常好的性能。在HDFS中，把连续的数据分成很多的小部分称为条带化单元，对于原始数据单元的每个条带单元，都会计算并存储一定数量的奇偶检验单元，计算的过程称为编码，可以通过基于剩余数据和奇偶校验单元的解码计算来恢复任何条带化单元上的错误。
GlusterFS是开源的分布式文件系统，由存储服务器、客户端以及NFS/Samba存储网关组成的无元数据服务器
分布式文件系统 分布式文件系统（Distributed File System）是指文件系统管理的物理存储资源并不直接与本地节点相连，而是分布于计算网络中的一个或者多个节点的计算机上。目前意义上的分布式文件系统大多都是由多个节点计算机构成，结构上是典型的客户机/服务器模式。流行的模式是当客户机需要存储数据时，服务器指引其将数据分散的存储到多个存储节点上，以提供更快的速度，更大的容量及更好的冗余特性。 目前流行的分布式文件系统有许多，如MooseFS、FastDFS、GlusterFS、Ceph、Mogile
我们知道NAS是远程通过网络共享目录, SAN是远程通过网络共享块设备。那么分布式存储你可以看作拥有多台存储服务器连接起来的存储输出端。把这多台存储服务器的存储合起来做成一个整体再通过网络进行远程共享,共享的方式有目录(文件存储),块设备(块存储),对象网关或者说一个程序接口(对象存储)。
HDFS是一个高吞吐、高容错的分布式文件系统，但是HDFS在保证高容错的同时也带来了高昂的存储成本，比如有5T的数据存储在HDFS上，按照HDFS的默认3副本机制，将会占用15T的存储空间。那么有没有一种能达到和副本机制相同的容错能力但是能大幅度降低存储成本的机制呢，有，就是在HDFS 3.x 版本引入的纠删码机制。
一台HP 服务器，挂接一台HP MSA50磁盘阵列，内接5块1TB硬盘，原先结构为RAID5。
大家好，又见面了，我是你们的朋友全栈君。 RAID0、RAID1、RAID5、RAID6、RAID10、RAID50的异同与应用
最近链家删库跑路事件闹得沸沸扬扬，就有人说准备使用RAID冗余磁盘阵列防止这等事件，仔细想想，防止删库和RAID有毛关系？为了防止不必要的事情发生，这里简单做个RAID的科普。
分布式文件系统用于解决海量数据存储的问题，腾讯大数据采用HDFS（Hadoop分布式文件系统）作为数据存储的基础设施，并在其上构建如Hive、HBase、Spark等计算服务。 HDFS块存储采用三副本策略来保证数据可靠性，随着数据量的不断增长，三副本策略为可靠性牺牲的存储空间也越来越大。如何在不降低数据可靠性的基础上，进一步降低存储空间成本，成为腾讯大数据迫切需要解决的问题。 我们对facebook版本的hadoop raid分析发现，还有很多细节需要优化改进，本文就hadoop raid存在的问题进行探
ASM磁盘是ASM体系结构的重要组成部分，ASM磁盘由ASM实例来定位、管理，本文主要讲述ASM磁盘组、故障组等等。
一台HP 服务器，挂接一台raid5磁盘阵列，内接5块1TB硬盘，原先结构为RAID5。
摘要 VMware vSAN 通过 vSphere 原生的高性能体系结构支持业界领先的超融合基础架构解决方案。 vSAN是 Software-Defined Data Center 的核心构造块。 借助 VMware 支持的超融合基础架构，您能够安全发展、降低 TCO 以及根据未来发展需求扩展规模。 vSAN概述 SDDC概述 在软件定义的数据中心内，整个基础架构都实现了虚拟化，并且数据中心完全由软件自动控制。vSphere是软件定义的数据中心基础。 关于vSAN vSAN是借助软件将服务器本地众多的空白磁
Fayson在前面的文章中介绍过CDH6，参考《Cloudera Enterprise 6正式发布》和《如何在Redhat7.4安装CDH6.0》。CDH6主要集成打包了Hadoop3，包括Hadoop3的一些新特性的官方支持，比如NameNode联邦，纠删码等。纠删码可以将HDFS的存储开销降低约50%，同时与三分本策略一样，还可以保证数据的可用性。本文Fayson主要介绍纠删码的工作原理。
最小化安装的CentOS 7.5 内存大于1GB 关闭selinux，防火墙端口放行（port：24007，111）（测试建议关闭firewalld） 一、环境部署 所有软件包离线安装，原因是yum安装的不能很好的控制版，用到的软件包统一放到/gfs目录，包已整理好 测试用的磁盘分配以及服务器架构图 📷 basic代表服务器本来使用的磁盘，基础上再添加上图相应的磁盘，由于是测试用，为方便直观理解，磁盘大小就是后面的数字：如sdb3，该磁盘大小为3GB。 卷的分布方案 卷名称 卷类型 空间大小
回首腾讯云存储十年的历程，腾讯云存储业务中心总监邹方明将其划分为四个阶段：萌芽时代、图片时代、视频时代和云时代。 腾讯云存储面临的第一个大挑战正是在UGC图片时代兴起之初。当时，传统的三层储存架构模式在性能、IO及成本方面都明显难以招架海量的日志和图片上传。腾讯云存储适时推出了系统自动化运营方案，通过实时监测物理区域，在3秒内就能做出反应，对校表储存量超过80%的存储磁盘进行扩容，极大地节省了传统扩容方式所耗费的时间与人力。 [1506329635659_1993_1506329631381.png] 但在
Raid0 ：最少需要两块盘， 没用冗余数据，不做备份，任何一块磁盘损坏都无法运行。n块磁盘（同类型）的阵列理论上读写速度是单块磁盘的n倍（实际达不到），风险性也是单一n倍（实际更高），是磁盘阵列中存储性能最好的。适用于安全性不高，要求比较高性能的图形工作站或者个人站。
分布式文件系统（Distributed File System）是指文件系统管理的物理存储资源并不直接与本地节点相连，而是分布于计算网络中的一个或者多个节点的计算机上。目前意义上的分布式文件系统大多都是由多个节点计算机构成，结构上是典型的客户机/服务器模式。流行的模式是当客户机需要存储数据时，服务器指引其将数据分散的存储到多个存储节点上，以提供更快的速度，更大的容量及更好的冗余特性;
答：SSD 用于读取缓存 (70%) 和写入缓冲 (30%)。每次写入都会先转到 SSD，稍后再取消暂存到 HDD。
但由于GNSS，船体测量环境，声速等多重因素的影响，多波束声呐测量设备所采集的点云数据会出现不同程度的噪点。
ASM是Automatic Storage Management（自动存储管理）的缩写。ASM是一个集成的高性能的文件系统和卷管理器。Oracle将所有的存储分为disk groups，我们只需要管理这些disk groups，而不用去管具体的数据文件，也就是所谓的Oracle自动存储管理ASM。
分布式文件系统（Distributed File System）是指文件系统管理的物理存储资源并不直接与本地节点相连，而是分布于计算网络中的一个或者多个节点的计算机上。目前意义上的分布式文件系统大多都是由多个节点计算机构成，结构上是典型的客户机/服务器模式。流行的模式是当客户机需要存储数据时，服务器指引其将数据分散的存储到多个存储节点上，以提供更快的速度，更大的容量及更好的冗余特性;
RAID(Redundant Array of Independent Disk 独立冗余磁盘阵列)技术是加州大学伯克利分校1987年提出，最初是为了组合小的廉价磁盘来代替大的昂贵磁盘，同时希望磁盘失效时不会使对数据的访问受损失而开发出一定水平的数据保护技术。RAID就是一种由多块廉价磁盘构成的冗余阵列，在操作系统下是作为一个独立的大型存储设备出现。RAID可以充分发挥出多块硬盘的优势，可以提升硬盘速度，增大容量，提供容错功能，能够确保数据安全性，易于管理的优点，在任何一块硬盘出现问题的情况下都可以继续工作，不会 受到损坏硬盘的影响。
https://docs.oracle.com/cd/B19306_01/server.102/b14231/storeman.htm#ADMIN036
幂等是一个数学与计算机学概念，在数学中某一元运算为幂等时，其作用在任一元素两次后会和其作用一次的结果相同。
小甲师兄有个喜好——喜欢下雨：每逢下雨天，不是诗兴大发，就是代码撸的飞起。再加上最近在优化rbd，小甲把之前分析的OSDC代码分享给大家
VSAN的虚拟机存储策略 VSAN的虚拟机存储策略有5种功能，或者说5种规则（Rule）。从各家磁盘阵列厂商对Virtual Volumes的支持，我们可以看到VMware SPBM所涵盖的规则要比VSAN的5个规则丰富得多，随着VSAN在数据服务（Data Services，也即存储功能）的不断发展，未来会支持更多的规则。在新的VSAN版本里，去重、纠删码、QoS（IOPS Limit），也放到了存储策略里。
原文 https://sonnati.wordpress.com/2019/12/03/thoughts-around-vmaf-contentawareencoding-and-no-ref-metrics/
原文 https://sonnati.wordpress.com/2020/01/12/defeat-banding-part-i/
LVM或逻辑卷管理是一种存储设备管理技术，使用户能够汇集和抽象组件存储设备的物理布局，从而实现更轻松，更灵活的管理。利用设备映射器Linux内核框架，当前迭代LVM2可用于将现有存储设备收集到组中，并根据需要从组合空间分配逻辑单元。
RAID5的空间利用率高、读出速度快、安全性高、不需要专门的校验码磁盘，而且解决了写入速度相对较慢的问题。尽管优点很多但还是会有出现故障的情况，当遇到RAID-5磁盘阵列的两块盘掉线，表现为两块硬盘亮黄灯应该怎么办呢？
UML中描述对象和类之间相互关系的方式包括：依赖（Dependency），关联（Association），聚合（Aggregation），组合（Composition），泛化（Generalization），实现（Realization）等。
Raid大家都知道是冗余磁盘的意思（Redundant Arrays of Independent Disks，RAID），可以按业务系统的需要提供高可用性和冗余性，目前市面上比较常见的是通过服务器的raid阵列卡来实现此功能。
MGS,MDS,OSS节点是在lustre中可以成为前端，MDT和IST被ldiskfs或者zfs格式化来存储元数据和数据对象的成为后端
客户故障存储设备为IBM V5000存储，由于存储设备的控制器损坏，导致存储中数据卷无法访问，需恢复数据卷中的Oracle数据库文件。
为了实现降本增效，京东HDFS 团队在 EC 功能的移植、测试与上线过程中，基于自身现状采取的一些措施并最终实现平滑上线。同时自研了一套数据生命周期管理系统，对热温冷数据进行自动化管理。在研发落地过程中还构建了三维一体的数据校验机制，为 EC 数据的正确性提供了强有力的技术保障。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
