来源 | Machine Learning Plus
Numpy是python语言中最基础和最强大的科学计算和数据处理的工具包,如数据分析工具pandas也是基于numpy构建的,机器学习包scikit-learn也大量使用了numpy方法。本文介绍了Numpy的n维数组在数据处理和分析的所有核心应用。
目录
1. 如何构建numpy数组
2. 如何观察数组属性的大小和形状(shape)
3. 如何从数组提取特定的项
4. 如何从现有的数组定义新数组
5. 多维数组的重构(reshaping)和扁平(flattening)
6. 如何通过numpy生成序列数(sequences),重复数(repetitions)和随机数(random)
7. 小结
1. 如何构建numpy数组
构建numpy数组的方法很多,比较常用的方法是用np.array函数对列表进行转化。
# 通过列表创建一维数组
import numpy as np
list1 = [0,1,2,3,4]
arr1d = np.array(list1)
#打印数组和类型
print(type(arr1d))
arr1d
<type 'numpy.ndarray'>
[0 1 2 3 4]
数组和列表最关键的区别是:数组是基于向量化操作的,列表不是,我们在实际项目中处理的数据一般是矩阵结构,对该数据以行向量或列向量的形式进行计算,向量计算是基于数组实现的,因此数组比列表的应用更广。
函数可以应用到数组的每一项,列表不行。
比如,不可以对列表的每一项数据都加2,这是错误的。
list1 + 2 # 错误
可以对数组的某一项数据都加2
# Add 2 to each element of arr1d
arr1d + 2
#> array([2, 3, 4, 5, 6])
另一个区别是已经定义的numpy数组不可以增加数组大小,只能通过定义另一个数组来实现,但是列表可以增加大小。
然而,numpy有更多的优势,让我们一起来发现。
numpy可以通过列表中的列表来构建二维数组。
# Create a 2d array from a list of lists
list2 = [[0,1,2], [3,4,5], [6,7,8]]
arr2d = np.array(list2)
arr2d
#> array([[0, 1, 2],
#> [3, 4, 5],
#> [6, 7, 8]])
你也可以通过dtype参数指定数组的类型,一些最常用的numpy类型是:'float','int','bool','str'和'object'。
# Create a float 2d array
arr2d_f = np.array(list2, dtype='float')
arr2d_f
#> array([[ 0., 1., 2.],
#> [ 3., 4., 5.],
#> [ 6., 7., 8.]])
输出结果的小数点表示float类型,你也可以通过 astype方法转换成不同的类型。
# 转换成‘int’类型
arr2d_f.astype('int')
#> array([[0, 1, 2],
#> [3, 4, 5],
#> [6, 7, 8]])
# 先转换‘int’类型,再转换‘str’类型
arr2d_f.astype('int').astype('str')
#> array([['0', '1', '2'],
#> ['3', '4', '5'],
#> ['6', '7', '8']],
#> dtype='U21')
另一个区别是数组要求所有项是同一个类型,list没有这个限制。如果你想要一个数组包含不同类型,设置‘dtype’为'object'。
# 构建布尔类型数组
arr2d_b = np.array([1, 0, 10], dtype='bool')
arr2d_b
#> array([ True, False, True], dtype=bool)
# 构建包含数值和字符串的数组
arr1d_obj = np.array([1, 'a'], dtype='object')
arr1d_obj
#> array([1, 'a'], dtype=object)
最终使用 tolist()函数使数组转化为列表。
# Convert an array back to a list
arr1d_obj.tolist()
#> [1, 'a']
总结数组和列表主要的区别:
2. 如何观察数组属性的大小和形状(shape)
一维数组由列表构建,二维数组arr2d由列表的列表构建,二维数组有行和列,比如矩阵,三维数组由嵌入了两个列表的列表构建。
假设给定一个数组,我们怎么去了解该数组的属性。
数组的属性包括:
数组的维度(ndim)
数组的形状(shape)
数组的类型(dtype)
数组的大小(size)
数组元素的表示(通过索引)
# 定义3行4列的二维数组
list2 = [[1, 2, 3, 4],[3, 4, 5, 6], [5, 6, 7, 8]]
arr2 = np.array(list2, dtype='float')
arr2
#> array([[ 1., 2., 3., 4.],
#> [ 3., 4., 5., 6.],
#> [ 5., 6., 7., 8.]])
# 形状(shape)
print('Shape: ', arr2.shape)
# 数组类型(dtype)
print('Datatype: ', arr2.dtype)
# 数组大小(size)
print('Size: ', arr2.size)
# 数组维度(ndim)
print('Num Dimensions: ', arr2.ndim)
# 取数组第3行3列元素
print('items of 3 line 3 column: ', c[2,2])
#> Shape: (3, 4)
#> Datatype: float64
#> Size: 12
#> Num Dimensions: 2
#> items of 3 line 3 column: 7
3. 如何从数组提取特定的项
数组的索引是从0开始计数的,与list类似。numpy数组通过方括号的参数以选择特定的元素。
# 选择矩阵的前两行两列
arr2[:2, :2]
list2[:2, :2] # 错误
#> array([[ 1., 2.],
#> [ 3., 4.]])
numpy数组支持布尔类型的索引,布尔型索引数组与过滤前(array-to-be-filtered)的数组大小相等,布尔型数组只包含Ture和False变量,Ture变量对应的数组索引位置保留了过滤前的值 。
arr2
#> array([[ 1., 2., 3., 4.],
#> [ 3., 4., 5., 6.],
#> [ 5., 6., 7., 8.]])
# 对数组每一个元素是否满足某一条件,然后获得布尔类型的输出
b = arr2 > 4
b
#> array([[False, False, False, False],
#> [False, False, True, True],
#> [ True, True, True, True]], dtype=bool)
# 取布尔型数组保留的原始数组的值
arr2[b]
#> array([ 5., 6., 5., 6., 7., 8.])
3.1 如何反转数组
# 反转数组的行
arr2[::-1, ]
#> array([[ 5., 6., 7., 8.],
#> [ 3., 4., 5., 6.],
#> [ 1., 2., 3., 4.]])
# Reverse the row and column positions
# 反转数组的行和列
arr2[::-1, ::-1]
#> array([[ 8., 7., 6., 5.],
#> [ 6., 5., 4., 3.],
#> [ 4., 3., 2., 1.]])
3.2 如何处理数组的缺失值(missing)和无穷大(infinite)值
缺失值可以用np.nan对象表示,np.inf表示无穷大值,下面用二维数组举例:
# 插入nan变量和inf变量
arr2[1,1] = np.nan # not a number
arr2[1,2] = np.inf # infinite
arr2
#> array([[ 1., 2., 3., 4.],
#> [ 3., nan, inf, 6.],
#> [ 5., 6., 7., 8.]])
# 用-1代替nan值和inf值
missing_bool = np.isnan(arr2) | np.isinf(arr2)
arr2[missing_bool] = -1
arr2
#> array([[ 1., 2., 3., 4.],
#> [ 3., -1., -1., 6.],
#> [ 5., 6., 7., 8.]])
3.3 如何计算n维数组的平均值,最小值和最大值
# 平均值,最大值,最小值
print("Mean value is: ", arr2.mean())
print("Max value is: ", arr2.max())
print("Min value is: ", arr2.min())
#> Mean value is: 3.58333333333
#> Max value is: 8.0
#> Min value is: -1.0
如果要求数组的行或列的最小值,使用np.amin函数
# Row wise and column wise min
# 求数组行和列的最小值
# axis=0表示列,1表示行
print("Column wise minimum: ", np.amin(arr2, axis=0))
print("Row wise minimum: ", np.amin(arr2, axis=1))
#> Column wise minimum: [ 1. -1. -1. 4.]
#> Row wise minimum: [ 1. -1. 5.]
对数组的每个元素进行累加,得到一维数组,一维数组的大小与二维数组相同。
# 累加
np.cumsum(arr2)
#> array([ 1., 3., 6., 10., 13., 12., 11., 17., 22., 28., 35., 43.])
4. 如何从现有的数组定义新数组
如果使用赋值运算符从父数组定义新数组,新数组与父数组共占同一个内存空间,如果改变新数组的值,那么父数组也相应的改变。
为了让新数组与父数组相互独立,你需要使用copy()函数。所有父数组都使用copy()方法构建新数组。
# Assign portion of arr2 to arr2a. Doesn't really create a new array.
# 分配arr2数组给新数组arr2a,下面方法并没有定新数组
arr2a = arr2[:2,:2]
arr2a[:1, :1] = 100 # arr2相应位置也改变了
arr2
#> array([[ 100., 2., 3., 4.],
#> [ 3., -1., -1., 6.],
#> [ 5., 6., 7., 8.]])
# 赋值arr2数组的一部分给新数组arr2b
arr2b = arr2[:2, :2].copy()
arr2b[:1, :1] = 101 # arr2没有改变
arr2
#> array([[ 100., 2., 3., 4.],
#> [ 3., -1., -1., 6.],
#> [ 5., 6., 7., 8.]])
5. 多维数组的重构(reshaping)和扁平(flattening)
重构(reshaping)是改变了数组项的排列,即改变了数组的形状,未改变数组的维数。
扁平(flattening)是对多维数组转化为一维数组。
# 3x4数组重构为4x3数组
arr2.reshape(4, 3)
#> array([[ 100., 2., 3.],
#> [ 4., 3., -1.],
#> [ -1., 6., 5.],
#> [ 6., 7., 8.]])
5.1 flatten()和ravel()的区别
数组的扁平化有两种常用的方法,flatten()和ravel() 。flatten处理后的数组是父数组的引用,因此新数组的任何变化也会改变父数组,因其未用复制的方式构建数组,内存使用效率高,ravel通过复制的方式构建新数组。
# flatten方法
arr2.flatten()
#> array([ 100., 2., 3., 4., 3., -1., -1., 6., 5., 6., 7., 8.])
# flatten方法
b1 = arr2.flatten()
b1[0] = 100 # 改变b1的值并未影响arr2
arr2
#> array([[ 100., 2., 3., 4.],
#> [ 3., -1., -1., 6.],
#> [ 5., 6., 7., 8.]])
# ravel方法
b2 = arr2.ravel()
b2[0] = 101 # 改变b2值,相应的改变了arr2值
arr2
#> array([[ 101., 2., 3., 4.],
#> [ 3., -1., -1., 6.],
#> [ 5., 6., 7., 8.]])
6. 如何通过numpy生成序列数(sequences),重复数(repetitions)和随机数(random)
np.arrange函数手动生成指定数目的序列数,与ndarray作用一样。
# 默认下限为0
print(np.arange(5))
# 0 to 9,默认步数为1
print(np.arange(0, 10))
# 递增步数2
print(np.arange(0, 10, 2))
# 降序
print(np.arange(10, 0, -1))
#> [0 1 2 3 4]
#> [0 1 2 3 4 5 6 7 8 9]
#> [0 2 4 6 8]
#> [10 9 8 7 6 5 4 3 2 1]
上例是通过np.arrange设置初始位置和结束位置来生成序列数,如果我们设置数组的元素个数,那么可以自动计算数组的递增值。
如构建1到50的数组,数组有10个元素,使用np.linspace总动计算数组的递增值。
# 起始位置和结束位置分别为1和50
np.linspace(start=1, stop=50, num=10, dtype=int)
#> array([ 1, 6, 11, 17, 22, 28, 33, 39, 44, 50])
我们注意到上面例子的递增值并不相等,有5和6两个值,原因是计算递增值采用了四舍五入的算法(rounding)。与np.linspace类似,np.logspace以对数尺度的方式增长。
# 设置数组的精度为小数点后两位
np.set_printoptions(precision=2)
# 起点为 10^1 and 终点为 10^50,数组元素个数10,以10为底数
np.logspace(start=1, stop=50, num=10, base=10)
#> array([ 1.00e+01, 2.78e+06, 7.74e+11, 2.15e+17, 5.99e+22,
#> 1.67e+28, 4.64e+33, 1.29e+39, 3.59e+44, 1.00e+50])
初始化数组的元素全为1或全为0。
np.zeros([2,2])
#> array([[ 0., 0.],
#> [ 0., 0.]])
np.ones([2,2])
#> array([[ 1., 1.],
#> [ 1., 1.]])
7.1 如何构建重复的序列数
np.tile重复整个的数组或列表n次,np.repeat重复数组每一项n次。
a = [1,2,3]
# 重复数组a两次
print('Tile: ', np.tile(a, 2))
# 重复数组a每项两次
print('Repeat: ', np.repeat(a, 2))
#> Tile: [1 2 3 1 2 3]
#> Repeat: [1 1 2 2 3 3]
7.2 如何生存随机数
random模块包含的函数可以生成任一数组形状的随机数和统计分布。
# 生成2行2列的[0,1)的随机数
print(np.random.rand(2,2))
# 生成均值为0方差为1的2行2列的正态分布值
print(np.random.randn(2,2))
# 生成[0,10)的2行2列的随机整数
print(np.random.randint(0, 10, size=[2,2]))
# 生成一个[0,1)的随机数
print(np.random.random())
# 生成[0,1)的2行2列的随机数
print(np.random.random(size=[2,2]))
# 从给定的列表等概率抽样10次
print(np.random.choice(['a', 'e', 'i', 'o', 'u'], size=10))
# 从给定的列表和对应的概率分布抽样10次
print(np.random.choice(['a', 'e', 'i', 'o', 'u'], size=10, p=[0.3, .1, 0.1, 0.4, 0.1])) # picks more o's
#> [[ 0.84 0.7 ]
#> [ 0.52 0.8 ]]
#> [[-0.06 -1.55]
#> [ 0.47 -0.04]]
#> [[4 0]
#> [8 7]]
#> 0.08737272424956832
#> [[ 0.45 0.78]
#> [ 0.03 0.74]]
#> ['i' 'a' 'e' 'e' 'a' 'u' 'o' 'e' 'i' 'u']
#> ['o' 'a' 'e' 'a' 'a' 'o' 'o' 'o' 'a' 'o']
7.3 如何得到数组独特(unique)的项和个数(counts)
np.unique函数去除数组中重复的元素,设置return_counts参数为True,得到数组每一项的个数。
# 定义范围为[0,10),个数为10的随机整数数组
np.random.seed(100)
arr_rand = np.random.randint(0, 10, size=10)
print(arr_rand)
#> [8 8 3 7 7 0 4 2 5 2]
# 得到数组独特的项和相应的个数
uniqs, counts = np.unique(arr_rand, return_counts=True)
print("Unique items : ", uniqs)
print("Counts : ", counts)
#> Unique items : [0 2 3 4 5 7 8]
#> Counts : [1 2 1 1 1 2 2]
8 小结
本文比较全面的介绍了numpy的基本用法,希望对numpy还不熟悉的同学有所帮助。