专栏首页深度学习之tensorflow实战篇pymongo.errors:Sort operation used more than the maximum 33554432 bytes of RAM. Add an index,

pymongo.errors:Sort operation used more than the maximum 33554432 bytes of RAM. Add an index,

在 mongo 使用过程中遇到了一个问题,需求就是要对mongo 库中查询到数据进行分页,mongo库我们知道都会存储大容量的数据,刚开始使用的 skip 和 limit 联合使用的方法,来达到截取所需数据的功能,这种方法在库里数据容量小的情况下完全可以胜任,但是如果库里数据多的话,上面两个方法就不好使了,就像题目中那个错误,这时会报一个 Query failed with error code 96 and error message 'Executor error during find command:OperationFailed: Sort operation used more than the maximum 33554432 bytes of RAM.Add an index, or specify a smaller limit.' 按照错误提示,知道这是排序的时候报的错,因为 mongo 的 sort 操作是在内存中操作的,必然会占据内存,同时mongo 内的一个机制限制排序时最大内存为 32M,当排序的数据量超过 32M,就会报上面的这个错,解决办法就像上面提示的意思,一是加大 mongo 的排序内存,这个一般是运维来管,也有弊端,就是数据量如果再大,还要往上加。另一个办法就是加索引,这个方法还是挺方便的。创建索引及时生效,不需要重启服务。 创建索引也不难, db.你的collection.createIndex({“你的字段”: -1}),此处 -1 代表倒序,1 代表正序; db.你的collecton.getIndexes(); 这两个语句,第一个是添加索引,第二个是查询索引,如果查看到你刚才添加的那个索引字段,就说明索引添加成功了。这时候在你的程序里再运用 sort 方法的话,这样就不会报错而且速度很快。 添加索引会带来一定的弊端,这样会导致数据插入的时候相对之前较慢,因为索引会占据空间的。综上考虑,根据实际情况判断采用合适的方法。 案例: mongodb执行如下语句

db.three_province_poi_v9.find({ "sum_n.sum_4_x":{ $gt:0} } ).sort({"sum_n.sum_4_x":-1}) 

报错如下:

Error: error: {
    "ok" : 0,
    "errmsg" : "Executor error during find command: OperationFailed: Sort operation used more than the maximum 33554432 bytes of RAM. Add an index, or specify a smaller limit.",
    "code" : 96,
    "codeName" : "OperationFailed"
}

按照前面所述:执行

db.three_province_poi_v9.createIndex({"sum_n.sum_4_x": -1})

则在执行语句,即可得到结果

python 下pymongo执行

db_first.three_province_poi_v9.find({"sum_n.sum_4_x":{ "$gt":0} } ).sort([("sum_n.sum_4_x",-1)])

报错

在上面基础之上以修改完成。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • pymongo.errors:Sort operation used more than the maximum 33554432 bytes of RAM. Add an index,

    在 mongo 使用过程中遇到了一个问题,需求就是要对mongo 库中查询到数据进行分页,mongo库我们知道都会存储大容量的数据,刚开始使用的 skip 和 ...

    学到老
  • Pymongo: TypeError: if no direction is specified, key_or_list must be an instance of list

    使用pymongo对某一字段进行sort时,报错 TypeError: if no direction is specified, key_or_list...

    学到老
  • Pymongo: TypeError: if no direction is specified, key_or_list must be an instance of list

    使用pymongo对某一字段进行sort时,报错 TypeError: if no direction is specified, key_or_list...

    学到老
  • pymongo.errors:Sort operation used more than the maximum 33554432 bytes of RAM. Add an index,

    在 mongo 使用过程中遇到了一个问题,需求就是要对mongo 库中查询到数据进行分页,mongo库我们知道都会存储大容量的数据,刚开始使用的 skip 和 ...

    学到老
  • MySQL/Oracle索引的创建与使用

    MySQL索引的建立对于MySQL的高效运行是很重要的,索引可以大大提高MySQL的检索速度。

    互联网金融打杂
  • MySQL 的索引查询以及优化技巧

    本文的内容是总结MySQL在没有DBA的团队中的一些常见使用技巧。以下内容以mysql5.5为准。除非另有说明,否则存储引擎以InnoDB为准。

    叫我可儿呀
  • 10 分钟掌握 MySQL 的索引查询优化技巧

    本文的内容是总结一些MySQL的常见使用技巧,以供没有DBA的团队参考。以下内容以MySQL5.5为准,如无特殊说明,存储引擎以InnoDB为准。

    猿哥
  • 10分钟掌握数据类型、索引、查询的MySQL优化技巧

    本文的内容是总结一些MySQL的常见使用技巧,以供没有DBA的团队参考。以下内容以MySQL5.5为准,如无特殊说明,存储引擎以InnoDB为准。

    苏先生
  • mysql创建索引

    1、索引需要占用磁盘空间,因此在创建索引时要考虑到磁盘空间是否足够 2、创建索引时需要对表加锁,因此实际操作中需要在业务空闲期间进行

    周小董
  • Mongodb分页查询优化上

    最近遇到mongo集群性能问题,主要体现在查询性能或者聚合性能慢(查询类似关系型数据库中select * from xx where a='xx',另外聚合类...

    徐靖

扫码关注云+社区

领取腾讯云代金券