数据库评测报告第二期:MongoDB-3.2

一、什么是MongoDB?

MongoDB是一个开源的,基于分布式的,面向文档存储的非关系型数据库,使用JSON风格来存储数据。其也是非关系型数据库当中功能最丰富、最像关系数据库的。MongoDB由C++编写,其名字来源于"Humongous"这个单词,其宗旨在于处理大量数据。

MongoDB作为如今新兴的Web框架---MEAN架构(MongoDB + Express +AngularJS + NodeJS)的重要组成部分,其如今的发展势头大有与传统Web框架(LAMP、LNMP)抢占市场主流框架的趋势。

MongoDB具有如下优势:

  • 支持的数据结构非常松散,可存储复杂的数据类型;
  • 支持多种操作系统上,提供多种编程语言的驱动程序;
  • 支持的多种数据类型;
  • 支持的查询语言非常强大;
  • 弱一致性,更能保证用户的访问速度;
  • 内置GridFS,支持大容量的存储;
  • 内置Sharding;
  • 文档结构的存储方式,能够更便捷的获取数据;
  • Wired Tiger引擎的使用,使得局部锁成为可能(新)
  • Wired Tiger引擎的使用,对数据进行压缩,减少了大量空间占用(新)

看到MongoDB如此特性和优势,不免勾起了我们的好奇心。这一期的评测报告就着重针对MongoDB的读写性能的进行测试和分析,一起来揭秘一下如今MongoDB在市场上如此被推崇的原因。

二、MongoDB的性能如何?

1、Insert性能

  • MongoDB的Insert性能随着线程数(小于128)的增加而增加,当大于128时,Insert性能开始逐渐出现明显波动和下降;
  • 当线程数量达到128时,MongoDB的Insert性能达到峰值,约为19万
  • 平均延迟随线程数量的增加而增加,且增加速度越来越快;

2、Read / Update性能 VS 线程数

① 百万级数据量(500万)

  • 对百万级数据的操作,MongoDB读性能优于写性能,随着写的比重增加,吞吐率明显减少,且系统延迟明显增加;
  • 只读、读多写少、读写混合、读少写多,这四个场景均在线程数达到128时达到峰值,分别约为23万、20万、16万、14万
  • 随着线程数的增加,写比重越大,其吞吐率波动性越大,越不稳定,且当线程数高于128时,吞吐率下降越明显,系统延迟增加越明显(即MongoDB读操作在数据量较少时稳定性更强);
  • 对百万级数据的操作,当写比重超过50%时,吞吐率出现明显下降,且随线程数增加而越发明显。

② 千万级数据量(3000万)

  • 对千万级数据的操作,MongoDB读性能优于写性能,随着写的比重增加,吞吐率明显减少,且系统延迟明显增加;
  • 只读、读多写少、读写混合、读少写多,这四个场景均在线程数达到128时达到峰值,分别约为17万、12万、7万、4万
  • 读写吞吐率均在线程数由1增加到64时,增长率最高。

③ 亿级数据量(1亿)

  • 对亿级数据的操作,MongoDB读性能优于写性能,随着写的比重增加,吞吐率明显减少,且系统延迟明显增加;
  • 只读、读多写少、读写混合、读少写多,这四个场景均在线程数达到64时达到峰值,分别约为7万、4万、2.5万、2万
  • 对亿级数据的操作,当写比重稍微增加,吞吐率直线下滑,并随线程数增加而越发明显;
  • 当线程数高于64时,四个场景的吞吐率均出现明显下降。

3、Read / Update性能 VS 数据规模

①吞吐率

  • 随着数据量的增加(百万级、千万级、亿级),MongoDB的读写吞吐率均下降;
  • 在数据量达到亿级时,MongoDB读操作的吞吐率还能维持在较高的水平。

②系统延迟

  • 随着数据量的增加(百万级、千万级、亿级),MongoDB的读写延迟明显增加;
  • 写操作是造成系统延迟的主要因素,并且随着数据量和写比重的增加,造成的延迟增加的影响会逐渐放大。

三、MongoDB的使用建议?

通过以上测试数据和分析说明,给出如下结论:

  • MongoDB读性能优于写性能(吞吐率、稳定性);
  • MongoDB在TS90上的针对中小数据量的读写,以128线程为最优,对于大数据量的读写,以64线程为最优;
  • MongoDB写操作对整体吞吐率的影响,随着数据量的增加而越发明显;
  • 写操作比读操作更容易造成系统延迟,并且随着数据量的增大,造成的影响越发明显;
  • 单个集合达到亿级数据量时,MongoDB的读写性能均有明显下降,设计集合时,应尽量将集合的文档数量控制在亿级以下。

【数据库评测报告】第二期:MongoDB的主要内容就是以上这些了(本测试只是针对小规模大数据进行了压力测试,对于大文件的测试以及在集群环境中的性能测试还在酝酿当中),测试在进行过程中由于网络条件、数据库配置等因素的影响,可能无法发挥出TS90机器的最大性能,但在一定程度上对于数据库选型具有参考价值。还想了解测试的参数和细节的朋友可以继续往下读。

四、环境配置包括哪些?

1、硬件环境

设备型号

配置描述

CPU型号

TS90

2个12核CPU,256G内存,12*800G SSD,万兆网卡

E5-2670v3

2、软件环境

(1)数据库版本

测设设备

数据库版本

TS90

MongoDB-3.2

3、测试细节

(1)测试工具

所谓工欲善其事,必先利其器,对于测试工具的选择会直接对测试的结果产生较大影响,一个好的测试首要要解决的必然是选择哪款测试工具。本次测试采用的测试工具是YCSB,肯定很多人会问,为什么NoSQL测试工具那么多,为什么会选择YCSB呢?这款性能测试工具的轻量级设计、多兼容性、支持多场景和多线程等特性都足够碾压其他测试工具的,最重要的是MongoDB官方测试所采用的工具就是YCSB。下面详细给大家介绍一下这款工具的原理和优势。

YCSB是Yahoo开发的一个专门用来对新一代数据库进行基准测试的工具。全名是Yahoo! Cloud Serving Benchmar。上图是YCSB的结构,可以看成是一个数据库客户端。暗色的模块是可以替换的,Workload Executor是产生应用负载的,DB Interface Layer是将特定数据库的API转为YCSB的API,用户可以自定义负载和数据库

YCSB的包括以下几大特性:

  • 支持常见的数据库读写操作,如插入,修改,删除及读取;
  • 多线程支持,YCSB用Java实现,有很好的多线程支持;
  • 灵活定义场景文件,可以通过参数灵活的指定测试场景;
  • 数据请求分布方式多样,支持随机、Zipfian以及其他请求分布方式;
  • 可扩展性强,可通过扩展Workload的方式来修改或者扩展YCSB的功能。

(2)测试流程

①建立测试数据库database;

②在数据库中建立结构相同的3个测试集合(Test_20、Test_80、Test_300);

③利用YCSB的S1场景向测试集合中分别插入一定数量的文档(500万、3000万、1亿);

④利用YCSB的S2~S5场景分别在3个测试集合上进行多线程测试;

⑤结果数据的分析。

(3)测试场景

场景名

场景介绍

场景配置

S1

插入(100% insert)

insertproportion=1

S2

多读少写(90% read/10% update)

readproportion=0.9 updateproportion=0.1

S3

读写均衡(50% read/50% update)

readproportion=0.5 updateproportion=0.5

S4

多写少读(10% read/90% update)

readproportion=0.1 updateproportion=0.9

S5

只读 (100% read)

readproportion=1

(4)测试表结构

原创声明,本文系作者授权云+社区发表,未经许可,不得转载。

如有侵权,请联系 yunjia_community@tencent.com 删除。

编辑于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏数据和云

深入剖析:not exists对外层查询的影响

何剑敏 Oracle ACS华南区售后团队,首席技术工程师。供职于Oracle ACS华南区售后团队,首席技术工程师。多年从事第一线的数据库运维工作,有丰富项...

2805
来自专栏程序猿

从0学习MySQL系列(一)简介篇

概述 ---- 阅读本系列说明: 本系列的划分,旨在涵盖MySQL的大部分方面,旨在作为大纲,每篇文章都会有重点以及在开发中需要经常注意的地方...

3395
来自专栏华章科技

【一文打尽】SQL 数据分析常用语句.....收藏

• 1 基础查询 • 2 字符串\数字\日期时间 • 3 聚合数据查询 • 4 子查询 • 5 联接\组合查询 • 6 高级查询 • 7 更新数据

581
来自专栏杨建荣的学习笔记

性能下降的不定时炸弹_过旧的sql_profile(r3笔记第9天)

最近这一周以来,生产环境像是得了重病的病人一样,小问题没有修好,大问题不断。IO的等待极为严重。数据库的负载达到了几十倍,上百倍。 weblogic和tuxed...

3247
来自专栏CSDN技术头条

盘点一下影响MySQL性能的因素

既然要优化数据库,我们就首先要知道,优化的是什么,或者说:什么因素影响了数据库的性能。

1164
来自专栏大数据学习笔记

Hadoop基础教程-第10章 HBase:Hadoop数据库(10.1 NoSQL介绍)(草稿)

第10章 HBase:Hadoop数据库 10.1 NoSQL介绍 10.1.1 NoSQL简介 随着互联网技术(互联网+,物联网)发展,特别是大数据时代到来,...

1899
来自专栏数据和云

故障树分析法在数据库诊断分析中的应用

编辑手记:将知识转化为能力,除了需要经验的积累和时间的磨砺,更重要的是正确的方法和思维模式,学会应用知识才是真正的能力。本文试图通过方法的讨论使大家能够形成一个...

44214
来自专栏腾讯大讲堂的专栏

数据库schema设计与优化

1、 前言 对于数据库而言,在日常开发中我们主要的关注点有两块,一个是schema的结构设计,另一个就是索引的优化,这两块是影响我们最终系统结构和性能的关键部分...

3095
来自专栏代码世界

初识数据库

一、数据库概念 数据库(Database,简称DB)   数据库技术是计算机应用领域中非常重要的技术,它产生于20世纪60年代末,是数据管理的最新技术,也是软件...

3527
来自专栏blackpiglet

Prometheus vs Zabbix

公司要上监控,Prometheus 是最热门的监控解决方案,作为喜新厌旧的程序员,我当然是选择跟风了,但上级更倾向于 Zabbix,那没办法,只能好好对比一番,...

1402

扫码关注云+社区