一、MongoDB 数据库操作
二、Operator (1) $all: 判断数组属性是否包含全部条件。
db.users.insert({'name':"user3", 'data':[1,2,3,4,5,6,7]})
db.users.insert({'name':"user4", 'data':[1,2,3]})
for u in db.users.find({'data':{'$all':[2,3,4]}}): print u
# 显示: { "_id" : ObjectId("4c47a133b48cde79c6780df0"), "name" : "user3", "data" : [ 1, 2, 3, 4, 5, 6, 7 ] }
注意和 $in 的区别。$in 是检查目标属性值是条件表达式中的一员,而 $all 则要求属性值包含全部条件元素。
(2) $size: 匹配数组属性元素数量。
for u in db.users.find({'data':{'$size':3}}): print u
# 只显示匹配此数组数量的: { "_id" : ObjectId("4c47a13bb48cde79c6780df1"), "name" : "user4", "data" : [ 1, 2, 3 ] }
(3) $type: 判断属性类型。
for u in db.users.find({'t':{'$type':1}}): print u # 查询数字类型的
for u in db.users.find({'t':{'$type':2}}): print u # 查询字符串类型的
类型值:
double:1
string: 2
object: 3
array: 4
binary data: 5
object id: 7
boolean: 8
date: 9
null: 10
regular expression: 11
javascript code: 13
symbol: 14
javascript code with scope: 15
32-bit integer: 16
timestamp: 17
64-bit integer: 18
min key: 255
max key: 127
(4) $not: 取反,表示返回条件不成立的文档。
似乎只能跟正则和 $mod 一起使用????
# 还不知如何使用
(5) $unset: 和 $set 相反,表示移除文档属性。
for u in db.users.find({'name':"user1"}): print u
# 显示如: { "_id" : ObjectId("4c479885089df9b53474170a"), "name" : "user1", "age" : 15, "address" : [ "address1", "address2" ] }
db.users.update({'name':"user1"}, {'$unset':{'address':1, 'age':1}})
for u in db.users.find({'name':"user1"}): print u
# 显示如: { "_id" : ObjectId("4c479885089df9b53474170a"), "name" : "user1" }
(6) $push: 和 $ pushAll 都是向数组属性添加元素。# 好像两者没啥区别
for u in db.users.find({'name':"user1"}): print u
# 显示如: { "_id" : ObjectId("4c479885089df9b53474170a"), "age" : 15, "name" : "user1" }
db.users.update({'name':"user1"}, {'$push':{'data':1}})
for u in db.users.find({'name':"user1"}): print u
# 显示如: { "_id" : ObjectId("4c479885089df9b53474170a"), "age" : 15, "data" : [ 1 ], "name" : "user1" }
db.users.update({'name':"user1"}, {'$pushAll':{'data':[2,3,4,5]}})
for u in db.users.find({'name':"user1"}): print u
# 显示如: { "_id" : ObjectId("4c479885089df9b53474170a"), "age" : 15, "data" : [ 1, 2, 3, 4, 5 ], "name" : "user1" }
(7) $addToSet: 和 $push 类似,不过仅在该元素不存在时才添加 (Set 表示不重复元素集合)。
db.users.update({'name':"user2"}, {'$unset':{'data':1}})
db.users.update({'name':"user2"}, {'$addToSet':{'data':1}})
db.users.update({'name':"user2"}, {'$addToSet':{'data':1}})
for u in db.users.find({'name':"user2"}): print u
# 显示: { "_id" : ObjectId("4c479896089df9b53474170b"), "data" : [ 1 ], "name" : "user2" }
db.users.update({'name':"user2"}, {'$push':{'data':1}})
for u in db.users.find({'name':"user2"}): print u
# 显示: { "_id" : ObjectId("4c479896089df9b53474170b"), "data" : [ 1, 1 ], "name" : "user2" }
要添加多个元素,使用 $each。
db.users.update({'name':"user2"}, {'$addToSet':{'data':{'$each':[1,2,3,4]}}})
for u in db.users.find({'name':"user2"}): print u
# 显示: {u'age': 12, u'_id': ObjectId('4c479896089df9b53474170b'), u'data': [1, 1, 2, 3, 4], u'name': u'user2'}
# 貌似不会自动删除重复
(8) $each 添加多个元素用。
db.users.update({'name':"user2"}, {'$unset':{'data':1}})
db.users.update({'name':"user2"}, {'$addToSet':{'data':1}})
for u in db.users.find({'name':"user2"}): print u
# 显示: { "_id" : ObjectId("4c479896089df9b53474170b"), "data" : [ 1 ], "name" : "user2" }
db.users.update({'name':"user2"}, {'$addToSet':{'data':{'$each':[1,2,3,4]}}})
for u in db.users.find({'name':"user2"}): print u
# 显示: {u'age': 12, u'_id': ObjectId('4c479896089df9b53474170b'), u'data': [1, 2, 3, 4], u'name': u'user2'}
db.users.update({'name':"user2"}, {'$addToSet':{'data':[1,2,3,4]}})
for u in db.users.find({'name':"user2"}): print u
# 显示: { "_id" : ObjectId("4c479896089df9b53474170b"), "data" : [ 1, 2, 3, 4, [ 1, 2, 3, 4 ] ], "name" : "user2" }
db.users.update({'name':"user2"}, {'$unset':{'data':1}})
db.users.update({'name':"user2"}, {'$addToSet':{'data':[1,2,3,4]}})
for u in db.users.find({'name':"user2"}): print u
# 显示: { "_id" : ObjectId("4c47a133b48cde79c6780df0"), "data" : [ [1, 2, 3, 4] ], "name" : "user2" }
(9) $pop: 移除数组属性的元素(按数组下标移除),$pull 按值移除,$pullAll 移除所有符合提交的元素。
db.users.update({'name':"user2"}, {'$unset':{'data':1}})
db.users.update({'name':"user2"}, {'$addToSet':{'data':{'$each':[1, 2, 3, 4, 5, 6, 7, 2, 3 ]}}})
for u in db.users.find({'name':"user2"}): print u
# 显示: { "_id" : ObjectId("4c47a133b48cde79c6780df0"), "data" : [ 1, 2, 3, 4, 5, 6, 7, 2, 3 ], "name" : "user2" }
db.users.update({'name':"user2"}, {'$pop':{'data':1}}) # 移除最后一个元素
for u in db.users.find({'name':"user2"}): print u
# 显示: { "_id" : ObjectId("4c47a133b48cde79c6780df0"), "data" : [ 1, 2, 3, 4, 5, 6, 7, 2 ], "name" : "user2" }
db.users.update({'name':"user2"}, {'$pop':{'data':-1}}) # 移除第一个元素
for u in db.users.find({'name':"user2"}): print u
# 显示: { "_id" : ObjectId("4c47a133b48cde79c6780df0"), "data" : [ 2, 3, 4, 5, 6, 7, 2 ], "name" : "user2" }
db.users.update({'name':"user2"}, {'$pull':{'data':2}}) # 移除全部 2
for u in db.users.find({'name':"user2"}): print u
# 显示: { "_id" : ObjectId("4c47a133b48cde79c6780df0"), "data" : [ 3, 4, 5, 6, 7 ], "name" : "user2" }
db.users.update({'name':"user2"}, {'$pullAll':{'data':[3,5,6]}}) # 移除 3,5,6
for u in db.users.find({'name':"user2"}): print u
# 显示: { "_id" : ObjectId("4c47a133b48cde79c6780df0"), "data" : [ 4, 7 ], "name" : "user2" }
(10) $where: 用 JS 代码来代替有些丑陋的 $lt、$gt。
MongoDB 内置了 Javascript Engine (SpiderMonkey)。可直接使用 JS Expression,甚至使用 JS Function 写更复杂的 Code Block。
db.users.remove() # 删除集合里的所有记录
for i in range(10):
db.users.insert({'name':"user" + str(i), 'age':i})
for u in db.users.find(): print u
# 显示如下:
{ "_id" : ObjectId("4c47b3372a9b2be866da226e"), "name" : "user0", "age" : 0 }
{ "_id" : ObjectId("4c47b3372a9b2be866da226f"), "name" : "user1", "age" : 1 }
{ "_id" : ObjectId("4c47b3372a9b2be866da2270"), "name" : "user2", "age" : 2 }
{ "_id" : ObjectId("4c47b3372a9b2be866da2271"), "name" : "user3", "age" : 3 }
{ "_id" : ObjectId("4c47b3372a9b2be866da2272"), "name" : "user4", "age" : 4 }
{ "_id" : ObjectId("4c47b3372a9b2be866da2273"), "name" : "user5", "age" : 5 }
{ "_id" : ObjectId("4c47b3372a9b2be866da2274"), "name" : "user6", "age" : 6 }
{ "_id" : ObjectId("4c47b3372a9b2be866da2275"), "name" : "user7", "age" : 7 }
{ "_id" : ObjectId("4c47b3372a9b2be866da2276"), "name" : "user8", "age" : 8 }
{ "_id" : ObjectId("4c47b3372a9b2be866da2277"), "name" : "user9", "age" : 9 }
for u in db.users.find({"$where":"this.age > 7 || this.age < 3"}): print u
# 显示如下:
{u'age': 0.0, u'_id': ObjectId('4c47b3372a9b2be866da226e'), u'name': u'user0'}
{u'age': 1.0, u'_id': ObjectId('4c47b3372a9b2be866da226f'), u'name': u'user1'}
{u'age': 2.0, u'_id': ObjectId('4c47b3372a9b2be866da2270'), u'name': u'user2'}
{u'age': 8.0, u'_id': ObjectId('4c47b3372a9b2be866da2276'), u'name': u'user8'}
{u'age': 9.0, u'_id': ObjectId('4c47b3372a9b2be866da2277'), u'name': u'user9'}
for u in db.users.find().where("this.age > 7 || this.age < 3"): print u
# 显示如下:
{u'age': 0.0, u'_id': ObjectId('4c47b3372a9b2be866da226e'), u'name': u'user0'}
{u'age': 1.0, u'_id': ObjectId('4c47b3372a9b2be866da226f'), u'name': u'user1'}
{u'age': 2.0, u'_id': ObjectId('4c47b3372a9b2be866da2270'), u'name': u'user2'}
{u'age': 8.0, u'_id': ObjectId('4c47b3372a9b2be866da2276'), u'name': u'user8'}
{u'age': 9.0, u'_id': ObjectId('4c47b3372a9b2be866da2277'), u'name': u'user9'}
# 使用自定义的 function, javascript语法的
for u in db.users.find().where("function() { return this.age > 7 || this.age < 3;}"): print u
# 显示如下:
{u'age': 0.0, u'_id': ObjectId('4c47b3372a9b2be866da226e'), u'name': u'user0'}
{u'age': 1.0, u'_id': ObjectId('4c47b3372a9b2be866da226f'), u'name': u'user1'}
{u'age': 2.0, u'_id': ObjectId('4c47b3372a9b2be866da2270'), u'name': u'user2'}
{u'age': 8.0, u'_id': ObjectId('4c47b3372a9b2be866da2276'), u'name': u'user8'}
{u'age': 9.0, u'_id': ObjectId('4c47b3372a9b2be866da2277'), u'name': u'user9'}
三、封装查询工具类
{"age":{"$lt":15}} 这样的查询语法实在太另类,忒难看了。试试封装查询工具类吧。原理很简单,就是重载操作符。
from pymongo import *
conn = Connection()
db = conn.test
# 插入数据
for i in range(10):
u = dict(name = "user" + str(i), age = 10 + i)
db.users.insert(u)
# 查询 age 小于 15 的
for u in db.users.find({"age":{"$lt":15}}): print u
# 查询结果如下:
{u'age': 10, u'_id': ObjectId('4c9b7465499b1408f1000000'), u'name': u'user0'}
{u'age': 11, u'_id': ObjectId('4c9b7465499b1408f1000001'), u'name': u'user1'}
{u'age': 12, u'_id': ObjectId('4c9b7465499b1408f1000002'), u'name': u'user2'}
{u'age': 13, u'_id': ObjectId('4c9b7465499b1408f1000003'), u'name': u'user3'}
{u'age': 14, u'_id': ObjectId('4c9b7465499b1408f1000004'), u'name': u'user4'}
################# 查询工具类 start #################################
class Field(object):
def __init__(self, name):
self.name = name
# 小于
def __lt__(self, value):
return { self.name: { "$lt":value } }
# 小于等于
def __le__(self, value):
return { self.name: { "$lte":value } }
# 大于
def __gt__(self, value):
return { self.name: { "$gt":value } }
# 大于等于
def __ge__(self, value):
return { self.name: { "$gte":value } }
# 等于
def __eq__(self, value):
return { self.name: value }
# 不等于
def __ne__(self, value):
return { self.name: { "$ne":value } }
# in (由于 in 是关键字,故该用首字母大写来避免冲突)
def In(self, *value):
return { self.name: { "$in":value } }
# not in
def not_in(self, *value):
return { self.name: { "$nin":value } }
def all(self, *value):
'''
注意和 in 的区别。in 是检查目标属性值是条件表达式中的一员,而 all 则要求属性值包含全部条件元素。
'''
return { self.name: { "$all":value } }
def size(self, value):
'''
匹配数组属性元素的数量
'''
return { self.name: { "$size":value } }
def type(self, value):
'''
判断属性类型
@param value 可以是类型码数字,也可以是类型的字符串
'''
# int 类型,则认为是属性类型的编码,不再做其它处理
if type(value) is int and value >= 1 and value <= 255:
return { self.name: { "$type":value } }
if type(value) is str:
value = value.strip().lower()
code = 2 # 默认为字符串类型
# 数字类型
if value in ("int", "integer", "long", "float", "double", "short", "byte", "number"):
code = 1
# 字符串类型
elif value in ("str", "string", "unicode"):
code = 2
# object 类型
elif value == "object":
code = 3
# array 类型
elif value in ("array", "list", "tuple"):
code = 4
# binary data 类型
elif value in ("binary data", "binary"):
code = 5
# object id 类型
elif value in ("object id", "id"):
code = 7
# boolean 类型
elif value in ("boolean", "bool"):
code = 8
# date 类型
elif value == "date":
code = 9
# null 类型
elif value in ("null", "none"):
code = 10
# regular expression 类型
elif value in ("regular expression", "regular"):
code = 11
# javascript code 类型
elif value in ("javascript code", "javascript", "script"):
code = 13
# symbol 类型
elif value == "symbol":
code = 14
# javascript code with scope 类型
elif value == "javascript code with scope":
code = 15
# 32-bit integer 类型
elif value in ("32-bit integer", "32-bit"):
code = 16
# timestamp 类型
elif value in ("timestamp", "time"):
code = 17
# 64-bit integer 类型
elif value in ("64-bit integer", "64-bit"):
code = 18
# min key 类型
elif value == "min key":
code = 255
# max key 类型
elif value == "max key":
code = 127
return { self.name: { "$type":code } }
# 查询工具类 使用范例
age = Field("age")
# 查询 age 小于 15 的
for u in db.users.find(age < 15): print u
# 查询结果如下:
{u'age': 10, u'_id': ObjectId('4c9b7465499b1408f1000000'), u'name': u'user0'}
{u'age': 11, u'_id': ObjectId('4c9b7465499b1408f1000001'), u'name': u'user1'}
{u'age': 12, u'_id': ObjectId('4c9b7465499b1408f1000002'), u'name': u'user2'}
{u'age': 13, u'_id': ObjectId('4c9b7465499b1408f1000003'), u'name': u'user3'}
{u'age': 14, u'_id': ObjectId('4c9b7465499b1408f1000004'), u'name': u'user4'}
# 其它查询写法例如:
for u in db.users.find(age <= 12): print u
for u in db.users.find(age > 17): print u
for u in db.users.find(age == 15): print u
for u in db.users.find(age != 15): print u
# 查询 name 为 user2 的
for u in db.users.find(Field("name") == "user2"): print u
# in 和 not in 的写法较之前的不同(可考虑更优雅的写法)
for u in db.users.find(age.In(13,14)): print u # in
for u in db.users.find(age.not_in(13,14)): print u # not in
for u in db.users.find(Field("data").all(1,2,3)): print u # all: 查询data数组中至少包含 1、2、3 的
for u in db.users.find(Field("data").size(3)): print u # size: 查询data数组的长度为3的
# for u in db.users.find({'t':{'$type':1}}): print u
for u in db.users.find(Field("t").type("number")): print u # 按类型查询,结果同上句
################# 查询工具类 end #################################
################# 多条件查询工具类 start #################################
# (下面的 AND 函数很简陋,仅用于演示,不建议用于正式场合)
import copy
def AND(*args):
ret = copy.deepcopy(args[0])
for d in args[1:]:
for k, v in d.items():
if k in ret and type(v) is dict:
ret[k].update(v)
else:
ret[k] = v
return ret
# 多条件查询工具类 使用范例
age = Field("age")
AND(name == "user3", age > 12, age < 15)
# 相当于如下写法:
{'age': {'$gt': 12, '$lt': 15}, 'name': 'user3'}
# 使用多条件查询范例
for u in db.users.find(AND(age > 12, age < 15)): print u
for u in db.users.find(AND(name == "user3", age > 12, age < 15)): print u
################# 多条件查询工具类 end #################################
四、索引(Index)
索引信息被保存在 system.indexes 中,且默认总是为 _id 创建索引。
五、Map/Reduce
执行函数:
db.runCommand(
{
mapreduce : <collection>,
map : <mapfunction>,
reduce : <reducefunction>
[, query : <query filter object>]
[, sort : <sort the query. useful optimization>] for
[, limit : <number of objects to from collection>] return
[, out : <output-collection name>]
[, keeptemp: < | >] true false
[, finalize : <finalizefunction>]
[, scope : <object where fields go into javascript global scope >]
[, verbose : ] true
});
参数说明:
mapreduce: 要操作的目标集合。
map: 映射函数 (生成键值对序列,作为 reduce 函数参数)。
reduce: 统计函数。
query: 目标记录过滤。
sort: 目标记录排序。
limit: 限制目标记录数量。
out: 统计结果存放集合 (不指定则使用临时集合,在客户端断开后自动删除)。
keeptemp: 是否保留临时集合。
finalize: 最终处理函数 (对 reduce 返回结果进行最终整理后存入结果集合)。
scope: 向 map、reduce、finalize 导入外部变量。
verbose: 显示详细的时间统计信息。
例:
# 表如下:
record = {
"ci" : "test_classify",
"si" : number,
"ac" : random.randint(1, 50),
"ic" : random.randint(1, 50),
"cv" : random.randint(1, 50),
"ao" : datetime.datetime.strptime('%Y-%m-%d %H:%M:%S'),
"ssi" : number,
}
# map 生成 key 序列, 必须使用 emit 函数
map = """function () {
emit({classifyid: this.ci, siteid: this.si}, {archivecount: this.ac});
}"""
# 对 key 的处理,以及返回值
reduce = """function (key, values) {
var total = 0;
for (var i = 0; i < values.length; i++) {
total += values[i].archivecount;
}
return {archivecount:total};
}"""
condition = {"ci" : "test_classify"}
result = db[TABLE].map_reduce(map, reduce, "temp_top10", keeptemp=False, query=condition)
result = result.find().sort('value.archivecount', -1).limit(10)