本篇为mongodb篇，包含实例演示，mongodb高级查询，mongodb聚合管道，python交互等内容。
上一篇主要介绍了MongoDB的基本操作，包括创建、插入、保存、更新和查询等，链接为MongoDB基本操作。 在本文中主要介绍MongoDB的聚合以及与Python的交互。
MongoDB是NoSQL数据库的典型代表，支持文档结构的存储方式数据存储和使用更为便捷，数据存取效率也很高，但计算能力较弱，实际使用中涉及MongoDB的计算尤其是复杂计算会很麻烦，这就需要具备强计算能力的数据处理引擎与其配合。
MongoDB 是由 C++语言编写的，是一个基于分布式文件存储的开源数据库系统。在高负载的情况下，添加更多的节点，可以保证服务器性能。
答案：MongoDB是一个基于文档的NoSQL数据库，它使用BSON（一种类似JSON的二进制格式）来存储数据。与关系型数据库相比，MongoDB没有固定的数据模式，支持非结构化数据的存储，且水平扩展性强。MongoDB更适合于需要快速迭代开发、数据模型经常变动的应用场景。
mongodb11天之屠龙宝刀（八）聚合函数与管道：sql与mongodb聚合函数对比 原文连接：直通车
原标题：Spring认证中国教育管理中心-Spring Data MongoDB教程七(内容来源：Spring中国教育管理中心）
mongodb11天之屠龙宝刀（八）聚合函数与管道：sql与mongodb聚合函数对比 MongoDB 聚合 MongoDB中聚合(aggregate)主要用于处理数据(诸如统计平均值,求和等)，并返回计算后的数据结果。有点类似sql语句中的 count(*)。 基本语法为：db.collection.aggregate( [ , , … ] ) 现在在mycol集合中有以下数据： { "_id" : 1, "name" : "tom", "sex" : "男", "score" : 100, "age
假设有一本书，你想看第六章第六节讲的是什么，你会怎么做，一般人肯定去看目录，找到这一节对应的页数，然后翻到这一页。这就是目录索引，帮助读者快速找到想要的章节。在数据库中，我们也有索引，其目的当然和我们翻书一样，能帮助我们提高查询的效率。索引就像目录一样，减少了计算机工作量，对于表记录较多的数据库来说是非常实用的，可以大大的提高查询的速度。否则的话，如果没有索引，计算机会一条一条的扫描，每一次都要扫描所有的记录，浪费大量的cpu时间。
聚合(aggregate)是基于数据处理的聚合管道，每个文档通过一个由多个阶段（stage）组成的管道，可以对每个阶段的管道进行分组、过滤等功能，然后经过一系列的处理，输出相应的结果。
{ "_id" : "Mary", "sum_age" : 75 } { "_id" : "Jack", "sum_age" : 66 } { "_id" : "zhengyunamei", "sum_age" : 0 } { "_id" : "Tom", "sum_age" : 120 } { "_id" : "陈加兵", "sum_age" : 22 } { "_id" : "Lucy", "sum_age" : 66 } { "_id" : "郑元梅", "sum_age" : 22 }
MongoDB 创建数据库 - 格式：use DATABASE_NAME - use ruochen - db创建数据库需要插入一条数据才会在列表中显示 - db.ruochen.insert({'name': '若尘'}) - show dbs 删除数据库 格式：db.dropDatabase() - use ruochen - db.dropDatabase() - show dbs 创建集合 - 格式：db.createCollection(name, options)
MongoDB 中聚合(aggregate)主要用于处理数据(诸如统计平均值，求和等)，并返回计算后的数据结果。
Mongodb 2.2 开始就提供了数据Aggregation Pipeline (聚合管道)用于简单数据分析统计,包括计数(count),求和(sum),均值(average),标准差(stddev) 等. 这个特性相较以前的 Map Reduce 方式提升了很多. 遗憾的是在服务端代码上使用 Aggregation Pipeline 还是需要使用比较繁复的 API, 包括 Spring Data 和 Morphia 提供的 API. 这大多是因为 Aggregation Pipeline 需要兼顾各种情况, 比如嵌入数组的 rewind, 还有对第一次聚合数据进行再聚合等.
MongoDB内核代码中提供有完善的gotool工具，这些开源工具作用主要有：数据导出及恢复(mongodump、mongorestore、mongoexport、mongoimport)工具、客户端shell链接工具(mongo)、IO测试工具(mongoperf)、流量qps/时延等监控统计工具(mongostat、mongotop)。
连接： killall mongo mongo --host 127.0.0.1:27017 创建超级管理员 >use admin >db.createUser({ user:"wjb", pwd:"wjb123456", roles:[ { role:"userAdminAnyDatabase", db:"admin" } ] }) Successfully added user: { "user" : "user", "roles" : [ { "role" : "dbOwner", "db" : "mydb" } ] } > 如果 MongoDB 开启了权限模式，并且某一个数据库没有任何用户时，在不验证权限的情况下，可以创建一个用户，当继续创建第二个用户时，会返回错误，若想继续创建用户则必须登录,并且要先进入admin数据库。 PS:roles角色官网中分为built-in roles and user-defined roles Built-In Roles（内置角色）： 1. 数据库用户角色：read、readWrite; 2. 数据库管理角色：dbAdmin、dbOwner、userAdmin； 3. 集群管理角色：clusterAdmin、clusterManager、clusterMonitor、hostManager； 4. 备份恢复角色：backup、restore； 5. 所有数据库角色：readAnyDatabase、readWriteAnyDatabase、userAdminAnyDatabase、dbAdminAnyDatabase 6. 超级用户角色：root // 这里还有几个角色间接或直接提供了系统超级用户的访问（dbOwner 、userAdmin、userAdminAnyDatabase） 7. 内部角色：__system 创建用户时可以在其数据库中创建，这样不用每次都进入admin数据库登录后再切换。如在数据库"mydb"创建用户"newwjb"。 use admin db.auth("admin","admin") 创建新数据库 use test#创建新数据库 #查看所有数据库，没有看到test，插入一条数据才能看到 db.createUser( { user: "testwjb", pwd: "testwjb", roles: [ { role: "dbOwner", db: "test" } ] } ) db.auth("testwjb","testwjb") db.wjbdb.insert({"name":"iamtest"}) show dbs#此时已看到test数据库 删除数据库 use test#切换当前数据库 db.dropDatabase() robomongo客户端软件连接： 地址：https://robomongo.org/download user: "testwjb",pwd: "testwjb"连接即可
访问日志 HTTP连接管理器和tcp代理支持具有以下功能的可扩展访问日志记录： 每个连接管理器或tcp代理的任意数量的访问日志。 异步IO刷新架构。 访问日志记录不会阻塞主要的网络处理线程。 可定制的访问日志格式使用预定义的字段以及任意的HTTP请求和响应头。 可自定义的访问日志过滤器，允许将不同类型的请求和响应写入不同的访问日志。 访问日志配置。 MongoDB Envoy支持具有以下功能的网络级别MongoDB嗅探过滤器： MongoDB格式的BSON解析器。 详细的MongoDB查询/操作统计信息
一 简介 MongoDB是一款强大、灵活、且易于扩展的通用型数据库 1、易用性 MongoDB是一个面向文档（document-oriented）的数据库，而不是关系型数据库。 不采用关系型主要是为了获得更好得扩展性。当然还有一些其他好处，与关系数据库相比，面向文档的数据库不再有“行“（row）的概念取而代之的是更为灵活的“文档”（document）模型。 通过在文档中嵌入文档和数组，面向文档的方法能够仅使用一条记录来表现复杂的层级关系，这与现代的面向对象语言的开发者对数据的看法一致。 另外，不再有预定义模
点击下方公众号关注并分享获取 MongoDB 最新资讯 本文福利 · 分享有奖 为了感谢本公众号读者的支持，将本文章转发到朋友圈集赞满10个，就可获得社区定制马克杯套盒1份！ 社区根据发送截图时间先后的前 10 名用户进行发放（每个 ID 仅参与一次哦~) 扫描文末二维码或添加小助手微信小芒果（ID：mongoingcom）凭截图领取~ 注：活动截至时间：9 月 9 日18：00 ---- 一、MongoDB 使用规范与限制 MongoDB 灵活文档的优势 灵活库/集合命名及字段增减 同一字段可存储不
1、在概念上，MongoDB的文档与Javascript的对象相近，因而可以认为它类似于JSON。JSON（http://www.json.org）是一种简单的数据表示方式：其规范仅用一段文字就能描述清楚（其官网证明了这点），且仅包含六种数据类型。
《MongoDB command命令处理模块源码实现一》中我们分析了一个客户端请求到来后，mognodb服务端大体处理流程如下：
示例：db.User.update({name:"lucy"}, {$set:{age:100, sex:0}})
mongodb适用于经常要进行操作的应用系统，适应于读写性能要求极高的场景，Hadoop则侧重于对数据的统计分析的应用。 同时mongo的处理时延一般在10ms,而Hadoop一般进行离线分析，通过mapreduce分析，一般时延较长。但是当业务中存在大量的复杂逻辑操作，不要用mongodb数据库。
参考文章-https://www.cnblogs.com/melonjiang/p/6536876.html
一、ObjectId的组成 首先通过终端命令行，向mongodb的collection中插入一条不带“_id”的记录。然后，通过查询刚插入的数据，发现自动生成了一个objectId “5e4fa350b636f733a15d6f62”这个24位的字符串，虽然看起来很长，也很难理解，但实际上它是由一组十六进制的字符构成，每个字节两位的十六进制数字，总共用了12字节的存储空间。相比MYSQL int类型的4个字节，MongoDB确实多出了很多字节。不过按照现在的存储设备，多出来的字节应该不会成为什么瓶颈。不过MongoDB的这种设计，体现着空间换时间的思想。 ObjectId的官方规范 1)Time 时间戳。将刚才生成的objectid的前4位进行提取“5e4fa350”，然后按照十六进制转为十进制，变为“1582277456”，这个数字就是一个时间戳。通过时间戳的转换，就成了易看清的时间格式2020-02-21 17:30:56， 2)Machine 机器。接下来的三个十六进制就是“b636f7”，这三个是所在主机的唯一标识符，一般是机器主机名的散列值，这样就确保了不同主机生成不同的机器hash值，确保在分布式中不造成冲突，这也就是在同一台机器生成的objectId中间的字符串都是一模一样的原因。 3)PID 进程ID。上面的Machine是为了确保在不同机器产生的objectId不冲突，而pid就是为了在同一台机器不同的mongodb进程产生了objectId不冲突，接下来的“af71”两位就是产生objectId的进程标识符。 4)INC 自增计数器。前面的九个字节是保证了一秒内不同机器不同进程生成objectId不冲突，这后面的三个字节“5d6f62”是一个自动增加的计数器，用来确保在同一秒内产生的objectId也不会发现冲突，允许256的3次方等于16777216条记录的唯一性。 总的来看，objectId的前4个十六进制字符是时间戳，记录了文档创建的时间；接下来3个十六进制字符代表了所在主机的唯一标识符，确定了不同主机间产生不同的objectId；后2个是进程id，决定了在同一台机器下，不同mongodb进程产生不同的objectId；最后通过3个是自增计数器，确保同一秒内产生objectId的唯一性。ObjectId的这个主键生成策略，很好地解决了在分布式环境下高并发情况主键唯一性问题，值得学习借鉴
MongoDB过滤器是Envoy的可扩展性和核心抽象的一个很好的例子。在Lyft中，我们在所有应用程序和数据库之间使用这个过滤器。它提供了对应用程序平台和正在使用的特定MongoDB驱动程序不可知的重要数据源。
集合：类似于关系数据库中的表，储存多个文档，结构不固定，如可以存储如下文档在一个集合中
https://docs.mongodb.com/manual/aggregation/
MongoDB中聚合(aggregate)主要用于处理数据(诸如统计平均值,求和等)，并返回计算后的数据结果。有点类似sql语句中的 count(*)。
上一章节我们快速的在Docker容器中安装了MongoDB，并且通过Navicat MongoDB可视化管理工具快速的连接、创建数据库、集合以及添加了文档数据源。这一章节我们主要是了解一下在日常工作中MongoDB一些常用的操作命令。
本文来自OPPO文档数据库mongodb负责人杨亚洲老师2020年深圳Qcon全球软件开发大会《专题：现代数据架构》专场、dbaplus专场：万亿级数据库MongoDB集群性能优化实践、mongodb2020年终盛会分享，分享内容如下(体验万亿级mongodb服务层、存储引擎、高并发线程模型、异地多活容灾等实现细节）。
今天，同事小张 Q 我， 说自己辛苦花了一天的时间，基于 mongodb 数据库开发的待办统计功能一直报错！
世间万物，都有自己唯一的标识，比如人，每个人都有自己的指纹（白夜追凶给我科普的，同卵双胞胎DNA一样，但指纹不一样）。又如中国人，每个中国人有自己的身份证。对于计算机，很多时候，也需要为每一份数据生成唯一的标识。在这里，数据的概念是非常宽泛的，比如数据量记录、文件、消息，而唯一的标识我们称之为id。 自增ID 使用过mysql的同学应该都知道，经常用自增id（auto increment）作为主键，这是一个为long的整数类型，每插入一条记录，该值就会增加1，这样每条记录都有了唯一的id。自增id应该是使
mongodb是时下流行的NoSql数据库，它的存储方式是文档式存储，并不是Key-Value形式。
MongoDB连接，使用“username:password@hostname/dbname’”的形式进行连接。 连接本地数据库服务器，端口是默认的。
NoSQL(NoSQL = Not Only SQL)，意即反SQL运动，指的是非关系型的数据库，是一项全新的数据库革命性运动，早期就有人提出，发展至2009年趋势越发高涨。NoSQL的拥护者们提倡运用非关系型的数据存储，相对于目前铺天盖地的关系型数据库运用，这一概念无疑是一种全新的思维的注入
安装 MongoDB Windowns、Ubuntu17.10 下安装 MongoDB教程在此MongoDB 帮助 要想获取命令列表，在 mongodb 客户端中输入 db.help()：1> db.help() MongoDB 统计信息 要想获取 MongoDB 服务器的统计信息，在 mongodb 客户端中输入 db.stat()： 1 > db.stats() 创建数据库 use 命令 MongoDB 用 use + 数据库名称 的方式来创建数据库。 use 会创建一个新的数据库，如果该数据库存
索引通常能够极大的提高查询的效率，如果没有索引，MongoDB在读取数据时必须扫描集合中的每个文件并选取那些符合查询条件的记录。
在MongoDB中，对单个文档的操作是原子的。由于可以在单个文档结构中使用内嵌文档和数组来获得数据之间的关系，而不必跨多个文档和集合进行范式化，所以这种单文档原子性避免了许多实际场景中对多文档事务的需求。
因为 $group 里面对应需要聚合操作的列必须写成 _id , 否则会出现 The field 'xxx' must be an accumulator object 的报错信息
感觉是pymongo未能完全close掉和mongodb创建的tcp连接，并且在mongo连接未自动释放前进行高频连接，导致连接数爆满造成的。
首先，我们在MongoDB的官方文档中看到，MongoDb的2.4以上的For .Net的驱动是支持.Net Core 2.0的。 所以，在我们安装好了MangoDB后，就可以开始MangoDB的.N
最近这几天准备介绍一下 Python 与三大数据库的使用，这是第一篇，首先来介绍 MongoDB 吧，这里介绍 MongoDB 的两款操作库，走起！！
serverStatus命令返回一个文档，该文档提供数据库状态的概述。监控应用程序可以定期运行此命令收集有关该实例的统计信息。
最近手头上的项目使用mongoDB存储物联网设备采集上来的实时数据，增删改查与传统关系数据库差别很大，开发过程中也踩了不少坑，记录下来供有需要的朋友参考。
需求是这样的，要统计每一周的各个商品的销售记录，使用 echarts 图表呈现，如下图
多行命令 您可以输入多行javascript表达式。如果括号、大括号等没有关闭，你会看到一个新行开始的……的字符。输入表达式的其余部分。按Ctrl-C中止数据输入，如果您被卡住了。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
