首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

时间序列数据和MongoDB:第二部分 - 架构设计最佳实践

分析结束,您可能会发现应用程序最佳模式设计可能正在利用模式设计组合。按照我们下面列出建议,您将有一个良好起点,为您应用程序开发设计最佳架构,并适当调整您环境。...对内存利用率影响 大量文档不仅会增加数据存储消耗,还会增加索引大小。每个集合上创建了一个索引,并覆盖了符号和日期字段。...当索引和最近使用文档适合由WiredTiger 缓存分配内存(我们称之为“工作集”),提供 MongoDB 最佳性能。我们例子中,我们4周内仅生成了5只股票数据。...固定大小分段数据将产生非常类似的数据库存储和索引改进,如在场景2中每次分段所见。这是 MongoDB存储稀疏 IoT 数据最有效方法之一。 如何处理旧数据 我们应该永久存储所有数据吗?...离线档案策略 归档数据,与数据检索相关 SLA 是什么?是否恢复可接受数据备份,或者数据是否需要在线并准备好在任何给定时间查询?这些问题答案将有助于推动您档案设计。

2.3K30
您找到你想要的搜索结果了吗?
是的
没有找到

时间序列数据和MongoDB:第b二部分 - 架构设计最佳实践

分析结束,您可能会发现应用程序最佳模式设计可能正在利用模式设计组合。按照我们下面列出建议,您将有一个良好起点,为您应用程序开发设计最佳架构,并适当调整您环境。...对内存利用率影响 大量文档不仅会增加数据存储消耗,还会增加索引大小。每个集合上创建了一个索引,并覆盖了符号和日期字段。...当索引和最近使用文档适合由WiredTiger 缓存分配内存(我们称之为“工作集”),提供 MongoDB 最佳性能。我们例子中,我们4周内仅生成了5只股票数据。...固定大小分段数据将产生非常类似的数据库存储和索引改进,如在场景2中每次分段所见。这是 MongoDB存储稀疏 IoT 数据最有效方法之一。 如何处理旧数据 我们应该永久存储所有数据吗?...离线档案策略 归档数据,与数据检索相关 SLA 是什么?是否恢复可接受数据备份,或者数据是否需要在线并准备好在任何给定时间查询?这些问题答案将有助于推动您档案设计。

1.3K40

《一起学mongodb》之第四卷 索引

前缀索引 使用索引奇淫技巧 组合索引最佳方式 ESR 原则 合理使用部分索引 后台创建索引 怎么查看我到有没有用到索引?...今天就和大家聊聊 mongoDB 索引 mongoDB 索引数据结构是什么mongoDB 支持哪些索引类型? 索引奇淫技巧 ? 怎么查看我到有没有用到索引?...B 树,中间破折号只是用来连接而已,「只有 B 树和 B+ 树」 官方文档明确说到, WiredTiger 存储引擎当中,可以支持 B-Tree 和 LSM 两种结构组织数据,「默认使用 B+...,MongoDB提供了两个特殊索引:返回结果使用平面几何2d索引和使用球面几何返回结果2dsphere索引。...可以使用特殊索引,它可以一定时间后自动从集合中删除文档

1.1K30

MongoDB 基础(1)

前言 MongoDB 是一个开源文档型数据库 MongoDB is an open-source, document database designed for ease of development...,协作配合,共同应对海量数据管理带来挑战 Tip: NoSQL 类型可以参考之前写一篇博文 Neo4j 基础 前言 部分 MongoDB 作为 NoSQL 阵营里文档存储最典型代表,虽然其使用内存方式经常遭人诟病...,早期版本库级锁让人头疼,但是当前发展势头依然火热,良好支持,全面的文档和活跃社区是很多开源项目的典范,技术上缺陷相信未来都会获得逐步地改善 MongoDB生产实践中有很广泛使用,这里分享一下...MongoDB相关基础,详细可以参考 官方文档 Tip: 当前最新版本为 MongoDB 3.2 ---- 概要 ---- 环境 [root@h105 ~]# cat /etc/issue CentOS... MongoDB Download Center 中可以选择合适版本进行下载 由于我平台是Centos 6.6 ,我是参考 Install MongoDB Community Edition

52420

为首次部署MongoDB做好准备:容量计划和监控

如果你已经完成了自己新MongoDB应用程序开发,并且现在正准备将它部署进产品中,那么你和你运营团队需要讨论一些关键问题: 最佳部署实践是什么?...你会发现MongoDB作为一个文档数据库,它和你已经熟悉关系型数据库分享了很多同样概念、操作、策略和过程。监控、索引、调整和备份等内容流程和最佳实践可以应用到MongoDB。...MongoDB管理服务和mongostat能够帮助用户监控内存使用情况,下面我们将会对此进行详细地讨论。 存储和磁盘I/O MongoDB不需要共享存储(例如存储区域网络)。...MongoDB文档产品说明页面上还维护着针对操作系统、文件系统、存储设备和其他系统相关主题特定配置最新建议。...结论 本文中我们介绍了哪些用于部署关系型数据库概念、操作和流程可以被直接地应用到MongoDB上,同时还介绍了硬件选择和部署及监控最佳实践。

1.9K80

时间序列数据和MongoDB:第一部分 - 简介

清楚应用程序要求前,不应该直接确定性能指标或 SLA。 当您开始使用 MongoDB 进行时间序列项目,您应该清楚以下问题: 写工作量: 提取率是多少?每秒多少次插入和更新?...但是,请记住,通过预聚合减少数据大小将产生较低数据集和索引存储,并提高查询性能。每个事件中存储数据大小是多少? MongoDB单个文档大小限制为16 MB。...如果您应用程序需要在单个文档存储更大数据,例如二进制文件,您可能希望利用 MongoDB GridFS。理想情况下,存储高容量时间序列数据最佳做法是将文档大小保持1个磁盘块大小附近。...其中一些策略包括使用 TTL索引,可查询备份,分区分片(允许您创建分层存储模式),或者只是创建一个架构,您可以不再需要删除数据集。...安全: 需要定义哪些用户和角色,以及每个实体所需最低权限权限是什么? 加密要求是什么?您是否需要支持时间序列数据运行时(网络)和静止(存储)加密? 是否需要在审计日志中捕获针对数据所有活动?

2K40

文档数据库」数据库深度探索:MongoDB,最强文档数据库

(RK):我们正在完善智能数据平台,这是一套集成产品和功能,通过MongoDB文档模型为用户提供处理数据最佳方式。...由于人们S3中存储大量数据,其中大部分数据倾向于以常见格式存储,如JSON、逗号分隔值或其他格式。...Richard,如果你正在建模关于我所有数据,作为你公司一个客户,你可能会存储关于我大部分信息一个文档中。当文档从一种状态更改到另一种状态,我们总是文档级别上有ACID事务。...但是,当我们客户不确定未来需求是什么,为了让他们应用程序经得起时间限制,多文档事务提供了一个保证,即使他们应用程序需求会随着时间推移而变化,客户也不会以某种方式达到MongoDB能为他们做极限...当然,MongoDB,我们有大量MongoDB专家,如果你自己运行MongoDB,你需要额外帮助,他们可以以各种方式帮助你。

1.8K20

Elasticsearch、MongoDB和Hadoop比较

假如你有诸如Elasticsearch或者Solr这样搜索引擎,它们存储着JSON文档MongoDB存着JSON文档,或者一堆JSON文档存放在一个Hadoop集群HDFS中。...现在问题就变成“这些技术最合适使用场景是什么?”。下面我们来瞧瞧。...Elasticsearch建立Lucene之上并且支持极其快速查询和丰富查询语法。如果你有数百万文档需要通过关键词进行定位,Elasticsearch肯定是最佳选择。...这是一个检索数据相当强过滤、处理和转化数据特点。...Hadoop是老MapReduce了,提供了最为灵活和强大环境来进行大量数据处理,毫无疑问是能够搞定不能使用Elasticsearch或者MongoDB处理场景。

2.2K31

MongoDB CEO 兼总裁Dev Ittycheria: 文档即未来

长达40年没有可替代数据库尴尬后,我们开创了一种处理数据全新方法——MongoDB文档模型及其相关查询语言。...然而,随着我们在过去10年中坚持不懈地创新,MongoDB社区呈指数级激增,毋庸置疑,文档模型强大功能使其成为处理数据最佳方式。...因此,使用文档模型显著提高了开发人员生产效率,使组织机构能够更快地进行创新。 业界验证 近期亚马逊推出了DocumentDB,并将其描述为“支持 MongoDB 托管文档数据库服务”。...自 DocumentDB 发布以来,MongoDB 工程师团队花费了大量时间,进行严格功能正确性和性能测试。...最重要是,我们很高兴看到他们承认我们多年来所一直坚信——文档模型是处理数据最佳方法,MongoDB是开发人员构建现代应用程序首选。

94430

优化MongoDB4个技巧

本文中,我们将介绍四种快速优化MongoDB方法。 你有没有MongoDB数据库性能问题?常见情况是运行查询突然出现性能问题。显而易见第一个解决方案是,“让我们创建一个索引!”...请注意使用嵌入式文档和数组遇到困难,因为应用程序端/ ETL过程中解析数据会变得非常复杂。此外,数组可能会损害复制性能:对于数组中每个更改,都会复制所有数组值!...十个字段集合将需要280MB(仅用于保存空文档)。 几乎达到此文档大小文档是不可取,因为数据库需要大量页面才能处理单个文档。这需要更多CPU周期来完成任何操作。...此存储引擎具有按文档锁定算法,因此可以同时运行尽可能多处理器和尽可能多操作(存在票证限制,但这超出了本文范围)。但是,MMAPv1存储引擎必须锁定每个集合,有时无法利用多个处理器进行写入。...通常,应用程序不使用所有数据。有些数据经常更新,而其他数据则没有。 您工作数据集是否适合RAM?当所有工作数据集都在RAM中,会出现最佳性能。

1.2K10

程序员50大MongoDB面试问题及答案

容易调试 容易扩展 不需要转化/映射应用对象到数据库对象 使用内部内存作为存储工作区,以便更快存取数据。 9.MongoDB命名空间是什么意思?...插入文档,需要提供_id。如果你不提供,那么 MongoDB 就会为每一文档提供一个唯一 id。...19.MongoDb中什么是索引 索引用于高效执行查询,没有索引MongoDB将扫描整个集合中所有文档,这种扫描效率很低,需要处理大量数据....处理非结构化/半结构化大数据水平方向上进行扩展;随时应对动态增加数据项可以优先考虑使用NoSQL数据库。...中具有属性多对多关系最佳模型 代表具有属性多对多关系最“ mongo”方式是什么

27220

2020年十个最好用大数据分析工具

主要特点 可高度扩展,通过存储和分发大量数据集来处理大量数据。 因为它有 Hive 和 Pig 等综合分析工具,因此 非常适合用于研究和开发。...Apache Cassandra 是一款优秀、与操作系统无关开源大数据软件,它能够为管理存储各种商业服务器上大量数据提供高质量可用性。...主要特点 可扩展数据层; 每当新节点加入,旧节点脱离,能够自动对文档进行分区和分发。 每当网络流量增加,可扩展式计算 就会增加。...本质上具有弹性; 不停机情况下可向正在运行集群添加更多节点或从中删除更多节点。 分布式文档存储,支持单集群部署和多集群部署。 RapidMiner ?...并行执行 节点以对海量数据集执行复杂分析工作。 集成 MongoDB,可访问 MongoDB JSON 文档对数据进行操作。

1.1K20

Appboy基于MongoDB数据密集型实践

本文将谈及诸多话题,如文档随机抽样、多变量测试及其Multi-arm bandit optimization、Field tokenization,以及Appboy如何在一个个体用户基础上存储多维数据从而优化以最佳时间给终端用户提供信息...优化 在实践中,当执行统计抽样,Appboy基于这些高等级概念概念做了大量优化。首先,Appboy使用MongoDB聚合框架,并且大量使用缓存。...因为这里使用是内存映射存储引擎,对于这种抽样,使用MongoDB好处是一旦将随机样本加载到内存就可以运行任意查询。...此外,除下消息,通常还会测试大量图片搭配合文本。 使用多变量测试,机构可以发现哪种措辞产生更高转化率。在下次发送推送式通知谈生意,就可以知道哪种语气和措辞更有效。...,MongoDB早期版本中它会占用大量空间。

93870

95道MongoDB面试题(含答案),1万字详细解析!

关系型数据库采用结构化数据,NoSQL采用是键值对方式存储数据。 处理非结构化/半结构化大数据水平方向上进行扩展;随时应对动态增加数据项可以优先考虑使用NoSQL数据库。...GridFS是一种将大型文件存储MongoDB文件规范。使用GridFS可以将大文件分隔成多个小文档存放,这样我们能够有效保存大文档,而且解决了BSON对象有限制问题。...处理非结构化/半结构化大数据水平方向上进行扩展;随时应对动态增加数据项可以优先考虑使用NoSQL数据库。...插入文档,需要提供 _id 。如果你不提供,那么 MongoDB 就会为每一文档提供一个唯一 id。...87、MongoDb中什么是索引 索引用于高效执行查询.没有索引MongoDB将扫描查询整个集合中所有文档这种扫描效率很低,需要处理大量数据。

8K30

RedisJson 横空出世,比 ES 快7 倍,惊爆了

◆ 100% 读取基准 与写类似,我们可以观察到 Redis 在读取方面表现最佳,允许读取比 ElasticSearch 多 15.8 倍,比 MongoDB 多 2.8 倍,同时整个延迟范围内保持亚毫秒级延迟...◆ MongoDB 与 ElasticSearch 与 RedisJSON* 延迟分析 在下面的第一张图片中,展示了从 p0 到 p9999 百分位数,很明显,每次搜索MongoDB 表现都远远优于...写入时,MongoDB 和 RedisJSON* 即使 p99 也能保持亚毫秒级延迟。...加分项:倒排索引底层实现是基于:FST(Finite State Transducer)数据结构。 lucene 从 4+版本后开始大量使用数据结构是 FST。...协调节点默认使用文档 ID 参与计算(也支持通过 routing),以便为路由提供合适分片。

81520

性能最佳实践:MongoDB索引

更多信息请参阅文档中explain结果部分。 试图实现覆盖查询,一个常见问题是_id字段总是默认返回。需要显式地将其从查询结果中排除,或将其添加到索引中。...消除不必要索引 索引是资源密集型:即使MongoDBWiredTiger存储引擎中使用压缩,它们也会消耗RAM和磁盘。更新字段,必须维护关联索引,这会带来额外CPU和磁盘I/O开销。...但如果只想匹配包含大量文本字段中特定单词,那么可以使用文本索引。...使用WiredTiger存储引擎中可用索引优化 如果你使用是自管理MongoDB,可以选择它们自己单独卷上放置索引,从而允许更快磁盘分页和更少争用。...使用查询计划 在上一篇查询模式和分析中,我们介绍了MongoDB查询计划使用,这是检查单个查询索引覆盖情况最佳工具。

3.4K30

105道BAT最新Java面试题(MySQL+Redis+nginx+ookeeper+MongoDB

使用“反向代理服务器”优点是什么? 7. 请列举Nginx服务器最佳用途。 8. 请解释Nginx服务器上Master和Worker进程分别是什么? 9....MongoDB中如何创建一个新数据库? 19. MongoDB中如何查看数据库列表? 20. MongoDB分片是什么意思? 21. 如何查看使用MongoDB连接? 22....MongoDB中如何在集合中插入一个文档? 24. MongoDB中如何除去一个数据库? 25. MongoDB中如何创建一个集合? 26. MongoDB中如何查看一个已经创建集合?...33.为什么MongoDB使用"Object ID"数据类型? 34. 如何在集合中插入一个文档? 35. “ObjectID”有哪些部分组成? 36. MongoDb中什么是索引? 37....MongoDB有哪些可替代产品? 39.如何查询集合中文档? 40.用什么方法可以格式化输出结果? 41. 如何使用"AND"或"OR"条件循环查询集合中文档? 42.

1.4K00

9月.精华文章推荐

然而,这种方法还需要对Schema2进行大量手动分析,以跟踪哪些数据被存储,同时在数据库本身上施加处理开销。 MongoDBCompass(MongoDBGUI)上提供了一个简单方法。...许多组织广泛使用LDAP来标准化和简化大量用户通过内部系统和应用程序进行管理方式。许多情况下,LDAP也被用作用户访问控制集中权限,以确保内部安全策略符合企业和监管指南。...MongoDB University还为开发人员和运营团队提供一系列公共和私人培训,涵盖使用和管理MongoDB最佳实践。...对globalLock解释 (使用MongoDB遇到问题都请第一间去查阅官方文档) ,如果中间分析部分内容读起来有困难,可直接调至最后总结部分。...MongoDB加锁,是一个层次性管理方式,从 globalLock ==> DBLock ==> CollecitonLock … ,比如我们都知道MongoDB wiredtiger是文档级别锁

71950

9月.精华文章推荐

然而,这种方法还需要对Schema2进行大量手动分析,以跟踪哪些数据被存储,同时在数据库本身上施加处理开销。 MongoDBCompass(MongoDBGUI)上提供了一个简单方法。...许多组织广泛使用LDAP来标准化和简化大量用户通过内部系统和应用程序进行管理方式。许多情况下,LDAP也被用作用户访问控制集中权限,以确保内部安全策略符合企业和监管指南。...MongoDB University还为开发人员和运营团队提供一系列公共和私人培训,涵盖使用和管理MongoDB最佳实践。...对globalLock解释 (使用MongoDB遇到问题都请第一间去查阅官方文档) ,如果中间分析部分内容读起来有困难,可直接调至最后总结部分。...MongoDB加锁,是一个层次性管理方式,从 globalLock ==> DBLock ==> CollecitonLock … ,比如我们都知道MongoDB wiredtiger是文档级别锁

59020
领券