8个Python高效数据分析的技巧

一行代码定义List

下面是使用For循环创建列表和用一行代码创建列表的对比。

 1x = [1,2,3,4]
 2out = []
 3for item in x:
 4    out.append(item**2)
 5print(out)
 6[1, 4, 9, 16]
 7# vs.
 8x = [1,2,3,4]
 9out = [item**2 for item in x]
10print(out)
11[1, 4, 9, 16]

Lambda表达式

厌倦了定义用不了几次的函数？ Lambda表达式是你的救星！ Lambda表达式用于在Python中创建小型，一次性和匿名函数对象。 它能替你创建一个函数。

lambda表达式的基本语法是：

1lambda arguments: expression

请注意，只要有一个lambda表达式，就可以完成常规函数可以执行的任何操作。 你可以从下面的例子中，感受lambda表达式的强大功能：

1double = lambda x: x * 2
2print(double(5))
310

Map和Filter

一旦掌握了lambda表达式，学习将它们与Map和Filter函数配合使用，可以实现更为强大的功能。

具体来说，map通过对列表中每个元素执行某种操作并将其转换为新列表。 在本例中，它遍历每个元素并乘以2，构成新列表。 请注意，list()函数只是将输出转换为列表类型。

1# Map
2seq = [1, 2, 3, 4, 5]
3result = list(map(lambda var: var*2, seq))
4print(result)
5[2, 4, 6, 8, 10]

Filter函数接受一个列表和一条规则，就像map一样，但它通过比较每个元素和布尔过滤规则来返回原始列表的一个子集。

1# Filter
2seq = [1, 2, 3, 4, 5]
3result = list(filter(lambda x: x > 2, seq))
4print(result)
5[3, 4, 5]

Arange和Linspace

Arange返回给定步长的等差列表。 它的三个参数start、stop、step分别表示起始值，结束值和步长， 请注意，stop点是一个“截止”值，因此它不会包含在数组输出中。

1# np.arange(start, stop, step)
2np.arange(3, 7, 2)
3array([3, 5])

Linspace和Arrange非常相似，但略有不同。 Linspace以指定数目均匀分割区间。 所以给定区间start和end，以及等分分割点数目num，linspace将返回一个NumPy数组。 这对绘图时数据可视化和声明坐标轴特别有用。

1# np.linspace(start, stop, num)
2np.linspace(2.0, 3.0, num=5)
3array([ 2.0,  2.25,  2.5,  2.75, 3.0])

Axis代表什么？

在Pandas中，删除一列或在NumPy矩阵中求和值时，可能会遇到Axis。 我们用删除一列（行）的例子：

1df.drop('Column A', axis=1)
2df.drop('Row A', axis=0)

如果你想处理列，将Axis设置为1，如果你想要处理行，将其设置为0。 但为什么呢？ 回想一下Pandas中的shape

1df.shape
2(# of Rows, # of Columns)

从Pandas DataFrame中调用shape属性返回一个元组，第一个值代表行数，第二个值代表列数。如果你想在Python中对其进行索引，则行数下标为0，列数下标为1，这很像我们如何声明轴值。

Concat，Merge和Join

如果您熟悉SQL，那么这些概念对您来说可能会更容易。 无论如何，这些函数本质上就是以特定方式组合DataFrame的方式。 在哪个时间跟踪哪一个最适合使用可能很困难，所以让我们回顾一下。

Concat允许用户在表格下面或旁边追加一个或多个DataFrame（取决于您如何定义轴）。

Merge将多个DataFrame合并指定主键（Key）相同的行。

Join，和Merge一样，合并了两个DataFrame。 但它不按某个指定的主键合并，而是根据相同的列名或行名合并。

Pandas Apply

Apply是为Pandas Series而设计的。如果你不太熟悉Series，可以将它想成类似Numpy的数组。 Apply将一个函数应用于指定轴上的每一个元素。 使用Apply，可以将DataFrame列（是一个Series）的值进行格式设置和操作，不用循环，非常有用！

 1df = pd.DataFrame([[4, 9],] * 3, columns=['A', 'B'])
 2 df
 3   A  B
 40  4  9
 51  4  9
 62  4  9
 7
 8df.apply(np.sqrt)
 9     A    B
100  2.0  3.0
111  2.0  3.0
122  2.0  3.0
13
14 df.apply(np.sum, axis=0)
15A    12
16B    27
17
18df.apply(np.sum, axis=1)
190    13
201    13
212    13

Pivot Tables

最后是Pivot Tables。 如果您熟悉Microsoft Excel，那么你也许听说过数据透视表。 Pandas内置的pivot_table函数以DataFrame的形式创建电子表格样式的数据透视表,，它可以帮助我们快速查看某几列的数据。 下面是几个例子：非常智能地将数据按照“Manager”分了组

1pd.pivot_table(df, index=["Manager", "Rep"])

或者也可以筛选属性值

1pd.pivot_table(df,index=["Manager","Rep"],values=["Price"])