前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >技术干货| 如何在MongoDB中轻松使用GridFS?

技术干货| 如何在MongoDB中轻松使用GridFS?

作者头像
MongoDB中文社区
发布2022-04-14 16:14:21
6.3K0
发布2022-04-14 16:14:21
举报
文章被收录于专栏:MongoDB中文社区MongoDB中文社区

点击下方公众号关注并分享,获取MongoDB最新资讯!

GridFS是用于存储和检索超过16 MB大小限制BSON文档文件的规范。

注意 GridFS 不支持多文档事务

相较于将一个文件存储在单条文档中,GridFS将文件分为多个部分或块[1],并将每个块存储为单独的文档。默认情况下,GridFS使用的块默认大小为255kB;也就是说,除最后一个块,GridFS会将文件划分为255 kB的块。最后一个块只有必要的大小。同样,最后的那个块也不会大于默认的块大小,仅使用所需的空间以及一些其他元数据。

GridFS使用两个集合来存储文件。一个集合存储文件块,另一个集合存储文件元数据。 GridFS集合一节详细介绍了每个集合。

当你从GridFS查询文件时,驱动程序将根据需要重新组装该文件所有的块。你可以对GridFS存储的文件进行范围查询。你还可以从文件的任意部分访问其信息,例如“跳到”视频或音频文件的中间。

GridFS不仅可用于存储超过16 MB的文件,而且还可用于存储您要访问的任何文件而不必将整个文件加载到内存中。另请参阅何时使用GridFS

什么时候使用GridFS

在MongoDB中,使用GridFS存储大于16 MB的文件。

在某些情况下,在MongoDB数据库中存储大型文件可能比在系统级文件系统上存储效率更高。

  • 如果文件系统限制了目录中文件的数量,则可以使用GridFS来存储所需数量的文件。
  • 当你要访问大文件部分的信息而不必将整个文件加载到内存中时,可以使用GridFS来调用文件的某些部分,而无需将整个文件读入内存。
  • 当你希望保持文件和元数据在多个系统和设施之间自动同步和部署时,可以使用GridFS。使用地理分布的复制集时,MongoDB可以自动将文件及其元数据分发到多个mongod实例和设施。

如果您需要对整个文件的内容进行原子更新,请不要使用GridFS。或者,您可以存储每个文件的多个版本,并在元数据中指定文件的当前版本。上传文件的新版本后,您可以原子更新元数据中指示为“最新”状态的字段,然后在需要时删除以前的版本。

此外,如果文件均小于16 MB BSON文档大小限制,请考虑将每个文件存储在单个文档中,而不是使用GridFS。您可以使用BinData数据类型存储二进制数据。有关使用BinData的详细信息,请参见驱动程序文档。

使用GridFS

要使用GridFS存储和检索文件,请使用以下任一方法:

  • MongoDB驱动程序。请参阅驱动程序文档,以获取有关将GridFS与驱动程序一起使用的信息。
  • mongofiles命令行工具。有关文档,请参见mongofiles参考。

GridFS Collections

GridFS将文件存储在两个集合中:

  • 块存储二进制块。有关详细信息,请参见chunks集合
  • 文件存储文件的元数据。有关详细信息,请参见文件集合

GridFS通过使用存储桶名称为每个集合添加前缀,将集合放置在一个公共存储桶中。默认情况下,GridFS使用两个集合以及一个名为fs的存储桶:

  • fs.files
  • fs.chunks

您可以选择其他存储桶名称,也可以在一个数据库中创建多个存储桶。完整集合名称(包括存储桶名称)受命名空间长度限制

块集合

[1]集合中的每个文档都代表了GridFS中表示的文件的不同的块。此集合中的文档具有以下格式:

代码语言:javascript
复制
{  "_id" : <ObjectId>,  "files_id" : <ObjectId>,  "n" : <num>,  "data" : <binary>}

chunks集合中的文档包含以下字段:

  • chunks._id 块的唯一ObjectId
  • chunks.files_idfiles集合中指定的“父”文档的_id
  • chunks.n 块的序列号。GridFS从0开始对所有块进行编号。
  • chunks.dataBSON二进制类型的荷载。

文件集合

文件集合中的每个文档代表GridFS中的一个文件

代码语言:javascript
复制
{  "_id" : <ObjectId>,  "length" : <num>,  "chunkSize" : <num>,  "uploadDate" : <timestamp>,  "md5" : <hash>,  "filename" : <string>,  "contentType" : <string>,  "aliases" : <string array>,  "metadata" : <any>,}

files集合中的文档包含以下一些或全部字段:

  • files._id 该文档的唯一标识符。 _id是您为原始文档选择的数据类型。MongoDB文档的默认类型是BSON ObjectId
  • files.length 文档的大小(以字节为单位)。
  • files.chunkSize 每个块的大小(以字节为单位)。GridFS将文档分为大小为chunkSize的块,最后一个除外,后者仅根据需要而变大。默认大小为255 KB。
  • files.uploadDate GridFS首次存储这个文档的日期。此值为有日期类型。
  • files.md5 过期 FIPS 140-2禁止使用MD5算法。MongoDB驱动程序已弃用MD5支持,并将在未来版本中删除MD5的生成。需要文件摘要的应用程序应在GridFS外部实现它,并将其存储在files.metadata中。 filemd5命令返回的完整文件的MD5哈希。此值为字符串类型。
  • files.filename 可选的。GridFS文件的可读名称。
  • files.contentType 过期 可选的。GridFS文件的有效MIME类型。仅应用程序用。 使用files.metadata来存储与GridFS文件的MIME类型有关的信息。
  • files.aliases 过期 可选的。别名字符串数组。仅用于应用程序 使用files.metadata来存储与GridFS文件的MIME类型有关的信息。
  • files.metadata 可选的。元数据字段可以是任何数据类型,并且可以保存您要存储的任何其他信息。如果希望将其他任意字段添加到文件集合中的文档,请将其添加到元数据字段中的对象。

GridFS索引

GridFS使用每个块和文件集合上的索引来提高效率。为了方便起见,符合GridFS规范驱动程序会自动创建这些索引。您还可以根据需要创建任何其他索引,以满足您的应用程序需求。

chunks索引

GridFS使用files_idn字段在chunks集合上使用唯一复合索引。可以有效地检索块,如以下示例所示:

代码语言:javascript
复制
db.fs.chunks.find( { files_id: myFileID } ).sort( { n: 1 } )

符合GridFS规范驱动程序将在读取和写入操作之前自动确保此索引存在。有关GridFS应用程序的特定行为,请参阅相关的驱动程序文档。

如果该索引不存在,则可以执行以下操作以使用mongo shell创建它:

代码语言:javascript
复制
db.fs.chunks.createIndex( { files_id: 1, n: 1 }, { unique: true } );

files索引

GridFSfiles集合上的filenameuploadDate字段上使用索引。该索引允许高效地检索文件,如本示例所示:

代码语言:javascript
复制
db.fs.files.find( { filename: myFileName } ).sort( { uploadDate: 1 } )

符合GridFS规范驱动程序将在读取和写入操作之前自动确保此索引存在。有关GridFS应用程序的特定行为,请参阅相关的驱动程序文档。

如果该索引不存在,则可以执行以下操作以使用mongo shell创建它:

代码语言:javascript
复制
db.fs.files.createIndex( { filename: 1, uploadDate: 1 } );

[1]

(1, 2) 在GridFS上下文中使用术语块与在分片上下文中使用术语块无关。

分片GridFS

GridFS考虑两个集合-files和chunks。

chunks集合

要分片chunks集合,请使用{ files_id : 1, n : 1 } 或{ files_id : 1 } 作为分片键索引。files_id是一个ObjectId,并且单调更改。

对于不运行filemd5来验证成功上传的MongoDB驱动程序(例如,支持MongoDB 4.0或更高版本的MongoDB驱动程序),可以将哈希分片用于chunks集合。

如果MongoDB驱动程序运行filemd5,则不能使用Hashed Sharding。有关详细信息,请参阅SERVER-9888

files集合

files集合很小,仅包含元数据。GridFS所需的所有密钥都不适合在分片环境中进行平均分配。保留未分片的files允许所有文件元数据文档保留在主分片上。

如果必须分片files集合,请使用_id字段,可能与应用程序字段结合使用。

原文链接:

https://github.com/mongodb-china/MongoDB-CN-Manual/blob/master/cun-chu/gridfs.md

关于作者:张琦

Java 开发工程师,陕西西安。

获取更多精彩内容点击社区网站www.mongoing.com

添加小芒果微信(ID:mongoingcom)

进入中文用户组技术交流群

长按二维码加入我们

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2022-04-13,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 Mongoing中文社区 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • files索引
  • files集合
相关产品与服务
云数据库 MongoDB
腾讯云数据库 MongoDB(TencentDB for MongoDB)是腾讯云基于全球广受欢迎的 MongoDB 打造的高性能 NoSQL 数据库,100%完全兼容 MongoDB 协议,支持跨文档事务,提供稳定丰富的监控管理,弹性可扩展、自动容灾,适用于文档型数据库场景,您无需自建灾备体系及控制管理系统。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档