文件服务器是一个应用必要的组件之一。最早我搞过FTP，然后又用过FastDFS，接私活的时候我用MongoDB也凑合凑合。现如今时代不同了，开始流行起了OSS。
过去的相当长的一段时间里，商用对象存储占据了市场上的大量的份额。国外的Amazon S3，国内的阿里云OSS都成为了大多数公司的选择。但是构建一个企业级的数据湖（包括结构化和非结构化数据）已经成为了越来越多公司的目标。那么Hadoop还能满足我们的要求吗？还是我们需要更多的选择？
随着数据量的爆发式增长，数字化转型称为了整个IT行业的热点，数据也开始需要更深度的价值挖掘，因此需要确保数据中保留的原始信息不丢失，从而应对未来不断变化的需求。当前以oracle为代表的数据库中间件已经逐渐无法适应这样的需求情况，于是业界也开始进行不断的产生的计算引擎，以便应对数据时代的到来。在此背景下，数据湖的概念被越来越多的人提起，希望能有一套系统在保留数据的原始信息情况下，又能够快速对接多种不同的计算平台，从而在数据时代占比的先机。
在当今数字化时代，数据量不断增长，对于存储系统提出了更高的要求。传统的存储方式已经难以满足大规模数据的存储和管理需求，因此，对象存储（Object Storage）应运而生。对象存储是一种面向海量数据的存储架构，以其高扩展性、弹性存储、高性能和简单管理等特点，成为了云计算、大数据分析和企业数据管理中的重要组成部分。
AutoMQ[1] 是新一代基于共享存储架构实现的云原生 Kafka。得益于其存算分离的共享存储架构，通过和阿里云合作，深度使用阿里云可靠、先进的云服务如对象存储 OSS、块存储 ESSD、弹性伸缩 ESS 以及抢占式实例实现了相比 Apache Kafka 10 倍的成本优势并且提供了自动弹性的能力。
近年来，云计算已成为主流，企业从自身利益出发，或是不愿意被单一云服务商锁定，或是业务和数据冗余，或是出于成本优化考虑，会尝试将部分或者全部业务从线下机房迁移到云或者从一个云平台迁移到另一个云平台，业务迁移涉及到数据的迁移。正好 JuiceFS 已经对接了各种对象存储的 API ，也实现了数据同步的逻辑，让我们来了解下 JuiceFS 的 sync 命令。
本文主要讲解企业级OSS对象存储服务Spring Boot Starter制作，开箱即用，为项目进行赋能。基于AmazonS3协议，适配市面上的对象存储服务如：阿里云OSS、腾讯COS、七牛云OSS、MInio等等 什么是OSS? OSS（Object Storage Service），对象存储服务，对象存储服务是一种使用HTTP API存储和检索对象的工具。就是将系统所要用的文件上传到云硬盘上，该云硬盘提供了文件下载、上传、预览等一系列服务，具备版本，权限控制能力，具备数据生命周期管理能力这样的服务以及技术可以统称为OSS OSS在项目中的使用 OSS对象存储在目前大部分项目中必不可少的存在，如下图所示。
HDFS 是 Hadoop 生态的默认存储系统，很多数据分析和管理工具都是基于它的 API 设计和实现的。但 HDFS 是为传统机房设计的，在云上维护 HDFS 一点也不轻松，需要投入不少人力进行监控、调优、扩容、故障恢复等一系列事情，而且还费用高昂，成本可能是对象存储是十倍以上。
在早前这篇文章中 《ClickHouse已支撑S3和HDFS存储的零拷贝复制》，我介绍过 ClickHouse 为了更好的适应当前云原生的发展，利用多层存储的机制，打通了 S3 这样的对象存储。
存储是大数据的基石，存储系统的元数据又是它的核心大脑，元数据的性能对整个大数据平台的性能和扩展能力非常关键。本文选取了大数据平台中 3 个典型的存储方案来压测元数据的性能，来个大比拼。
在公网对对象存储进行读取，有公有读和私有读两个方式，但是由于CDN无法进行验证，导致如果非同一厂商支持内网验证的CDN环境下，必须使用公有读才可以正常从外网访问。 最近腾讯云CDN的源站多了一个新选项第三方对象存储，控制台对此的注释是AWS S3和阿里云OSS。 言下之意，就是腾讯云CDN支持私有访问第三方存储桶了。
该文是 [Delta Lake 数据源](https://docs.byzer.org/#/byzer-lang/zh-cn/datasource/dw/delta_lake) 一个补充。
在上期，我们提到，如果我们想把对象存储用在生产环境，仅仅在单AZ内部实现三副本只能保证数据99.9999999%的持久性。如果我们还期望业务的可用性达到99.999%以上，还需要实现对象存储的跨AZ部署，也就是所谓的“同城双活”。
使用velero可以对集群进行备份和恢复，降低集群DR造成的影响。velero的基本原理就是将集群的数据备份到对象存储中，在恢复的时候将数据从对象存储中拉取下来。可以从官方文档查看可接收的对象存储，本地存储可以使用Minio。下面演示使用velero将openstack上的openshift集群备份恢复到阿里云的openshift上。
关于thanos的介绍可以参考这篇官方博客的翻译文档，本文不作部署操作介绍。下图是thanos的官方架构图，主要有5个组件：
我们介绍过很多关于EasyDSS的定制项目，其中大部分都是通过Go语言完成的，例如通过Go语言 gorm 框架钩子函数精简代码，或者通过Go语言生成归档文件功能，现下基于部分用户的使用需求，我们还需要做出小幅调整，目前的调整是需要将录像存储在云的OSS中。
“ 之前尝试过在各种不同的云平台、云算力，部署清华大模型 ChatGLM2-6B，有失败有成功，但不是很理想。这次使用免费的阿里云机器学习GPU资源，终于成功了。”
在数字化时代，数据已经成为各行各业的核心资产，需要以一种高效、可扩展和高可靠性的方式进行存储和管理。对象存储是一种以对象为中心的存储方式，将数据存储为对象而不是文件，它具有高度可靠性、高扩展性和高性能等优点。
JuiceFS 是一个创新性的软件产品，很多初次尝试的小伙伴对产品和用法感到很多疑惑，所以为了帮助大家快速理解并上手 JuiceFS，我们整理了24个关于 JuiceFS 经典的问题答案，相信经过这 24 问，大家对 JuiceFS 会有更清晰的认识，使用上也会更加得心应手。
对于数字和文本类型的数据，比方说名字和电话号码相关的信息。我们需要有个地方存起来。
近几年来，人工智能逐渐火热起来，特别是和大数据一起结合使用。人工智能的主要场景又包括图像能力、语音能力、自然语言处理能力和用户画像能力等等。这些场景我们都需要处理海量的数据，处理完的数据一般都需要存储起来，这些数据的特点主要有如下几点：
Lustre 如何工作的 📷 Lustre 架构说明 lustre是一个基于对象的分布式文件系统。它核心有三个组件元数据服务(mds)、对象存储服务(oss)和客户端(client).lustre采用块设备来存储文件和元数据，每个块设备由单一独立的lustre服务来管理。比如lustre的元数据服务，元数据需要存储在块设备上，元数据进程需要把元数据写入到这个块设备上。lustre的总容量是所有的ost(oss管理的块设备)之和。lustre客户端是通过标准的Posix/IO的系统调用。 📷 MDS(meta
composer 作为 PHP 的包管理器，有很多优秀的扩展包供开发者使用, 本文记录在工作中使用过的优秀扩展包
在近日的一个风和日丽的下午，正在快乐的写 bug 时，突然间钉钉就被 call 爆了，原来是 k8s 测试集群的一个 namespace 突然不见了。这个 namespace 里面有 60 多个服务，瞬间全部没有了……虽然得益于我们的 CI/CD 系统，这些服务很快都重新部署并正常运行了，但是如果在生产环境，那后果就是不可想象的了。在排查这个问题发生的原因的同时，集群资源的灾备和恢复功能就提上日程了，这时 Velero 就出现了。
云场景攻防：公有云，私有云，混合云，虚拟化集群，云桌面等 云厂商攻防：阿里云，腾讯云，华为云，亚马云，谷歌云，微软云等 云服务攻防：对象存储，云数据库，弹性计算服务器，VPC&RAM等 云原生攻防：Docker，Kubernetes(k8s)，容器逃逸，CI/CD等
不同于市面上其他远控工具，虽然支持各项协议的远控如dns、https、tcp、smtp层出不穷，但是一、各种对Cobra Strike 、冰蝎、恶意dns的流量检测技术逐步完善，从协议的隐蔽性和对抗性来说还远远不够；二、云环境下的渗透测试的目标环境会设置严格的安全组或者在vpc内，不能对外出入流量；三、出入的流量均会经过云安全厂商的检测，存在暴露风险。
搭建博客图床 前言 随着博客内容的增加，文章图片的数量也不断增长，如何引用存储图片就成了一个问题。对于我这样没什么访问量，只是写给自己看的博客，要求就是简单方便（当然能白嫖最好 😬），最后采用 GitHub + JsDelivr + uTools 图床插件的办法。 图床选择 先来说一下其他图床吧，简单来说，如果你有一个备案域名的话，做什么事都比较简单，国内的许多平台的对象存储都需要一个 备案域名。如果像我一样仅仅是为 Hexo + github pages 博客搞个图床，感觉再弄那些就有些麻烦了。 公益
所有框架类的 js 和 css 一律不用本地的，使用 bootcdn 上的链接，自己修改后的库可以买 oss、cdn 等加速了。
如果我们有接触到七牛云存储、又拍云、阿里云OSS云存储，肯定比较理解其产品的特点，一般我们可以用于文件的私有存储，以及网站静态文件分离备份和加速。以及我们还可以用于数据的第三方备份存储，总之用途还是比较多的。腾讯云也有提供对象存储COS，且免费可以提供50GB存储容量，免费有10GB流量每月，超过是需要付费的。
对于很多站长朋友来说，网站数据是非常重要的，所以一定要勤备份，以防服务器出问题，数据不至于丢失无法还原。
在项目中,我们难免会遇到要上传文件的需求,例如头像,文章图片,等等相关的文件需求,那么如何才能做好文件上传呢?我将从 上传方式,存储方式等几个方向来做说明. 跟随表单上传 跟随表单上传是我们最早接触的
Hello，今天想跟大家分享一下我近期做的项目中使用的文件上传与文件下载，其实在以前我们想要做文件上传可能要自己去搭建一个专门的服务器，然后将我们的文件上传到这个服务器上，下载就从我们这个服务器上去进行下载就行了。
物联网云平台是一个连接设备和互联网的系统，通过传感器、设备和网络进行数据采集和传输，需要一个可靠和高效的存储系统来存储和管理大量的物联网数据。存储的意义在于提供数据的持久性和可访问性，使得数据可以在任意时间被查询、分析和应用。
所谓动静分离就是通过nginx（或apache等）来处理用户端请求的静态页面，tomcat（或weblogic）处理动态页面，从而达到动静页面访问时通过不同的容器来处理。 0x01网站“动静分离”分
近期有接到许多朋友咨询迁移上云和本地IDC备份扩容，如何快速构建一个私有化的备份解决方案，背景也就是，一些传统企业，IDC业务快速增长，服务器及存储容量暴涨，导致本地IDC超融合服务器等瓶颈。物理扩展周期长，费用昂贵，加之近期受国外芯片封锁，导致国内外服务器硬件价格暴涨，听说之前信创服务器，被哄抬价格“天价”，因此，许多企业智慧选择更为实惠的公有云，但有些重要的客户，希望资料提供私有化，不想全部业务数据上云，那么如何解决【企业数据本地化】又能解决IDC扩容【存储上云备份】呢？
我们的系统离不开文件存储系统，因为系统会存储各种文件，所以选择一个好的文件存储系统是十分有必要的，我们选择文件系统一般需要看其使用是否简单，是否可靠，对各种环境是否适配，社区是否活跃，分布式等，随着云的普及，现在很多云厂商提供了文件存储服务，我们成为OSS，我们的文件由云厂商进行托管，我们只需要按时按量付费，这就是SAAS模式，使用OSS，那么自然得付费，加上文件是存储在别人家，对于很多行业来说，文件得存储在自己的网络，所以OSS自然不行，所以我们得搭建自己的文件服务器，常见的分布式文件服务器有HDFS，FastDFS等，不过对于HDFS，FastDFS，他们的学习成本有点高，加上随着云原生的普及，可能就不太适合我们现在使用，所以我们就说到了MinIO。
前一段时间，老蒋在管理客户网站过程中由于图片太多且占用服务器的资源，所以希望将图片资源独立至阿里云OSS存储中，但是搜寻到网上已有的插件有一些问题，比如不能独立存储到云存储中，于是让ZDL同学重新完善一个这样子的插件，于是乎我们在网站中看到有发布的WPOSS和WPCOS插件，考虑到可能有些朋友也需要使用到，于是就准备投递到WordPress官方插件平台。
企业数据上云后，面临数据定期备份的需要，传统的一体机受制于网络带宽的限制不再适用于云上数据的灾备。为此，云服务商开发了很多备份的工具，最简单、易用的工具也就是快照。用过vmware等虚机环境的同学，一定非常喜欢“快照”服务，通过设置云快照服务（支持自动、手工），可以在故障环境快速恢复。今天我们来看一下该服务。
大家好，我是鱼皮。今天分享一个超好用的springboot文件上传工具。 文件上传是再平常不过的一个功能，做后端开发的基本都会接触到，虽然不难可着实有点繁琐。数据流的开闭、读取还容易出错，尤其是在对接一些OSS对象存储平台，一个平台一堆SDK代码看起来乱糟糟的。 下边给我大家推荐一个工具Spring File Storage，上传文件只要些许配置一行代码搞定，开发效率杠杠的，一起看看是不是有这么流批！ “官网：https://spring-file-storage.xuyanwu.cn Spring Fi
据IDC发布的《数据时代2025》报告显示，全球每年产生的数据将从2018年的33ZB增长到2025年的175ZB，平均每天约产生491EB数据。随着数据量的不断增长，数据存储成本成为企业IT预算的重要组成部分。例如1PB数据存储一年，全部放在高性能存储介质和全部放在低成本存储介质两者成本差距在一个量级以上。由于关键业务需高性能访问，因此不能简单的把所有数据存放在低速设备，企业需根据数据的访问频度，使用不同种类的存储介质获得最小化成本和最大化效率。因此，把数据存储在不同层级，并能够自动在层级间迁移数据的分层存储技术成为企业海量数据存储的首选。
又是做好人好事的一天，有个小可爱私下问我有没有好用的springboot文件上传工具，这不巧了嘛，正好我私藏了一个好东西，顺便给小伙伴们也分享一下，demo地址放在文末了。
云原生安全 1 SASE “解体”，Gartner公布首个SSE魔力象限排名 SSE的独立并非偶然，是零信任架构和防火墙产生不可调和矛盾的产物，SSE也不仅仅是SASE的子集，而是有可能取而代之成为市场主流https://www.secrss.com/articles/39478 2 Tigera 以零信任加强云原生应用程序安全性 Tigera 正在将零信任应用于容器安全以减少云原生应用的攻击面https://www.sdxcentral.com/articles/news/tigera-tightens
WebDAV 是一种基于 HTTP 的文件共享协议，最初被设计用于多用户文档协作编辑的场景，也被广泛应用在基于互联网的文件存储、数据同步等网盘类应用场景。
网友说自己的小型网站部署服务器上，随着网站数据增多、访问量变大后，用什么办法解决大流量访问，扩容增配置还是动静分离呢？这个问题对于很多站长来说是一个挺纠结的问题。业务在高速增长中，传统的方法是扩容增配，CPU/内存/带宽等等都是扩容的对象。那么现在随着云服务器的普及率越来越高，也可以利用动静分离的办法来解决这个问题。本文中魏艾斯博客说一下整体思路，有了思路再去操作就容易很多了。
由于项目中需要图片上传的功能，所以买了腾讯云的对象存储功能，下面就记录下具体流程，希望能给xdm做些参考
所有框架类的 js 和 css 一律不用本地的，使用 bootcdn.cn（staticfile.org，jsdelivr.com 等） 上的链接，自己修改后的库可以买 oss、cdn 等加速了。
3、从快照中恢复数据，注意：在源集群中全量备份数据，恢复的时候，会有索引冲突的现象
lustre介绍 lustre是一个开源、分布式、高性能的分布式存储。lustre广泛被HPC领域使用。lustre目前仅仅支持本地数据容错，在未来版本2.16推出会支持EC，做到数据容错。 lustre 运行在linux操作系统，采用了C/S的网络架构。lustre的整个软件栈是在linux内核实现，提供统一的文件系统命名空间。 lustre组件介绍 MGS+MGT:MGS提供注册lustre server、lustre client以及lustre文件系统的配置信息。MGT是为MGS提供存储的stora
用户希望将历史数据迁移到OSS上的用户目标存储桶。需要迁移的源数据可能来自某个OSS桶，也可能来自本地或第三方云存储(例如腾讯云COS)。等等，HTTP等。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
实时音视频
云直播
