在Excel中，我们可以看到行、列和单元格，可以使用“=”号或在公式中引用这些值。...在Python中，数据存储在计算机内存中（即，用户不能直接看到），幸运的是pandas库提供了获取值、行和列的简单方法。 先准备一个数据框架，这样我们就有一些要处理的东西了。...df.columns 提供列（标题）名称的列表。 df.shape 显示数据框架的维度，在本例中为4行5列。 图3 使用pandas获取列 有几种方法可以在pandas中获取列。...要获取前三行，可以执行以下操作： 图8 使用pandas获取单元格值 要获取单个单元格值，我们需要使用行和列的交集。...接着，.loc[[1,3]]返回该数据框架的第1行和第4行。 .loc[]方法 正如前面所述，.loc的语法是df.loc[行，列]，需要提醒行（索引）和列的可能值是什么？
) 将col1按升序排序，然后按降序排序col2 df.groupby(col) 从一列返回一组对象的值 df.groupby([col1,col2]) 从多列返回一组对象的值 df.groupby(col1...)[col2] 返回col2中的值的平均值，按col1中的值分组（平均值可以用统计部分中的几乎任何函数替换） df.pivot_table(index=col1,values=[col2,col3],aggfunc...=max) 创建一个数据透视表，按col1分组并计算col2和col3的平均值 df.groupby(col1).agg(np.mean) 查找每个唯一col1组的所有列的平均值 data.apply(...np.mean) 在每个列上应用函数 data.apply(np.max,axis=1) 在每行上应用一个函数 加入/合并 df1.append(df2) 将df1中的行添加到df2的末尾（列数应该相同...df2上的列连接，其中col的行具有相同的值。
等宽法 等宽法将属性的值域从最小值到最大值划分成具有相同宽度的区间，具体划分多少个区间由数据本身的特点决定，或者由具有业务经验的用户指定 等频法 等频法将相同数量的值划分到每个区间，保证每个区间的数量基本一致...基于列值重塑数据(生成一个“透视”表)。使用来自指定索引/列的唯一值来形成结果DataFrame的轴。此函数不支持数据聚合，多个值将导致列中的MultiIndex。...pivot_table透视的过程如下图： 假设某商店记录了5月和6月活动期间不同品牌手机的促销价格，保存到以日期、商品名称、价格为列标题的表格中，若对该表格的商品名称列进行轴向旋转操作，即将商品名称一列的唯一值变换成列索引...，将出售日期一列的唯一值变换成行索引。...，商品一列的唯一数据变换为列索引： # 将出售日期一列的唯一数据变换为行索引，商品一列的唯一数据变换为列索引 new_df = df_obj.pivot(index='出售日期', columns='商品名称
为此，我们从max_cols序列的值中收集所有唯一的学校名称。 最后，在步骤 8 中，我们使用.loc索引器根据索引标签选择行，在第一步中将其作为学校名称。 此过滤器仅适用于具有最大值的学校。...在对 Pandas 进行分组时，通常使用具有离散重复值的列。...如果没有重复的值，则分组将毫无意义，因为每个组只有一行。 连续数字列通常具有很少的重复值，并且通常不用于形成组。...一种技巧是使用pd.Categorical从每个演员/导演姓名中创建一个分类数据类型。 分类数据类型具有从每个值到整数的内部映射。 在codes属性中可以找到该整数，该属性用作唯一 ID。...默认情况下，concat函数使用外连接，将列表中每个数据帧的所有行保留在列表中。 但是，它为我们提供了仅在两个数据帧中保留具有相同索引值的行的选项。 这称为内连接。
『长』格式，在这种格式中，一个主题有多行，每一行可以代表某个时间点的度量。我们会在这两种格式之间转换。melt：将宽表转换为长表。...注意：重要参数id_vars（对于标识符）和 value_vars（其值对值列有贡献的列的列表）。pivot：将长表转换为宽表。...注意：重要参数index（唯一标识符）， columns（列成为值列），和 values（具有值的列）。...当我们有多个相同形状/存储相同信息的 DataFrame 对象时，它很有用。...图片 10.分组统计我们经常会需要对数据集进行分组统计操作，常用的函数包括：groupby：创建一个 GroupBy 分组对象，可以基于一列或多列进行分组。
这篇文章我们先来了解一下pandas包中的类SQL操作，pandas中基本涵盖了SQL和EXCEL中的数据处理功能，灵活应用的话会非常高效。...： 其一：第三行代码返回的是第0行的数据，即0:1等价于[0, 1)，而第四行代码返回的是第0，1行代码，即0:1等价于[0,1]结构。...多DataFrame的查询主要是解决SQL中join和concat的问题，python中主要使用merge和concat来实现对应的功能具体写法如下： Merge的用法：merge主要是用作按行拼接，类似于...几种常用的用法有： 单列分组：然后按照另一列数据计算相应值： print(data1.groupby('a')['b'].mean()) 多列分组：然后按照另一列数据计算相应值： Agg的作用即为封装对应的函数...print(data1.groupby(['a','b']).agg('mean')) 多列分组：然后按照多列分别计算相应值： data1 = pd.DataFrame([['1','23',3, 5
Pandas做分析数据，可以分为索引、分组、变形及合并四种操作。前边已经介绍过索引操作、分组操作，现在接着对Pandas中的变形操作进行介绍，涉及知识点提纲如下图： ? 本文目录 1....melt函数中的id_vars表示需要保留的列，value_vars表示需要stack的一组列，value_name是value_vars对应的值的列名。...这个参数是用来删除缺失值的，这个例子不是很好，展示不出删除缺失值，但是可以看下面分享的链接，有一个例子比较明显的展示了dropna是怎么删除缺失值的。...这些函数主要就是用来变换行列索引，功能比较局限，其中stack的功能就是将行索引变成列索引，然后melt和unstack的功能类似，和stack的功能恰恰相反。...问题5：透视表中涉及了三个函数，请分别使用它们完成相同的目标（任务自定）并比较哪个速度最快。
思路一： 常规的解法是，先用对订单id分组，求出每笔订单的总金额，再将源数据和得到的总金额进行“关联”。最后把相应的两列相除即可。相应的代码如下： 1.对订单id分组，求每笔订单总额。...思路二： 对于上面的过程，pandas中的transform函数提供了更简洁的实现方式，如下所示： ? 可以看到，这种方法把前面的第一步和第二步合成了一步，直接得到了sum_price列。...多列分组使用transform 为演示效果，我们虚构了如下数据，id，name，cls为维度列。 ? 我们想求：以(id,name,cls)为分组，每组stu的数量占各组总stu的比例。...，且返回值与原来的数据在相同的轴上具有相同的长度。...以上三种调用apply的方式处理两列的差，换成transform都会报错。 利用transform填充缺失值 transform另一个比较突出的作用是用于填充缺失值。举例如下： ?
①使用count（*）对表中行的数目进行计数，不管表列中包含的是空值（null）还是非空值； ②使用count（column）对特定列中具有值的行进行计数，忽略null值； select count（...= 1003; 这条SQL语句中，使用avg（）函数返回vend列中vend_id=1003的对应的price平均价格，因为使用了distinct参数，因此平均值只考虑不同的值（唯一值） 7、组合聚集函数...如果分组列中具有null值，则null将作为一个分组返回（如果列中有多行null值，他们将分为一组）； ⑥group by子句必须出现在where子句之后，order by子句之前； PS：使用with...）的那些分组； having和where的区别： where在数据分组前进行过滤，having在数据分组后进行过滤；where排除的行不包括在分组中（这可能会改变计算值，从而影响having子句中基于这些值过滤掉的分组...by vend_id having count(*)>= 2; 这条SQL语句中，where子句过滤掉所有prod_price至少为10的行，然后按照vend_id分组数据；having子句过滤技术为
列和索引合并 在上面合并的数据集中，merge函数在cust_id列上连接两个数据集，因为它是唯一的公共列。我们也可以指定要在两个数据集上连接的列名。...pd.merge(customer, order, on = 'cust_id') 结果与前面的示例类似，因为cust_id是唯一的公共列。...但是如果两个DataFrame都包含两个或多个具有相同名称的列，则这个参数就很重要。 我们来创建一个包含两个相似列的数据。...所以现在是通过cust_id和country中找到的相同值来实现合并的。 还有一个问题，我们指定一个列后，其他的重复列（这里是country），现在存在country_x和country_y列。...在Inner Join中，根据键之间的交集选择行。匹配在两个键列或索引中找到的相同值。
对象中，datatable 的基本分析单位是 Frame，这与Pandas DataFrame 或 SQL table 的概念是相同的：即数据以行和列的二维数组排列展示。...来计算每列数据的均值，并比较二者运行时间的差异。...▌删除行/列 下面展示如何删除 member_id 这一列的数据： del datatable_df[:, 'member_id'] ▌分组 (GroupBy) 与 Pandas 类似，datatable...同样具有分组 (GroupBy) 操作。...下面来看看如何在 datatable 和 Pandas 中，通过对 grade 分组来得到 funded_amout 列的均值： datatable 分组 %%timefor i in range(100
处理空单元格的方式一致，因此在包含空单元格的区域内使用Excel的AVERAGE公式将获得与应用于具有相同数字和NaN值（而不是空单元格）的系列的mean方法相同的结果。...在数据框架的所有行中获取统计信息有时不够好，你需要更细粒度的信息，例如，每个类别的均值，这是下面的内容。 分组 再次使用我们的示例数据框架df，让我们找出每个大陆的平均分数。...为此，首先按洲对行进行分组，然后应用mean方法，该方法将计算每组的均值，自动排除所有非数字列： 如果包含多个列，则生成的数据框架将具有层次索引，即我们前面遇到的多重索引： 可以使用pandas提供的大多数描述性统计信息...index和columns分别定义数据框架的哪一列将成为透视表的行和列标签。...Region）的唯一值，并将其转换为透视表的列标题，从而聚合来自另一列的值。
Frame 对象中，datatable 的基本分析单位是 Frame，这与Pandas DataFrame 或 SQL table 的概念是相同的：即数据以行和列的二维数组排列展示。...来计算每列数据的均值，并比较二者运行时间的差异。...▌删除行/列 下面展示如何删除 member_id 这一列的数据： del datatable_df[:, 'member_id'] ▌分组 (GroupBy) 与 Pandas 类似，datatable...同样具有分组 (GroupBy) 操作。...下面来看看如何在 datatable 和 Pandas 中，通过对 grade 分组来得到 funded_amout 列的均值： datatable 分组 %%time for i in range(100
中的列表非常相似，但是它的每个元素的数据类型必须相同 创建 Series 的最简单方法是传入一个Python列表 import pandas as pd s = pd.Series([ ' banana...df按行加载部分数据：先打印前5行数据 观察第一列 print(df.head()) 最左边一列是行号，也就是DataFrame的行索引 Pandas默认使用行号作为行索引。...[:,[0,2,4,-1]] df.iloc[:,0:6:2] # 所有行, 第0 , 第2 第4列 可以通过行和列获取某几个格的元素 分组和聚合运算 先将数据分组 对每组的数据再去进行统计计算如...Series的唯一值计数 # 可以使用 value_counts 方法来获取Pandas Series 的频数统计 df.groupby(‘continent’) → dataframeGroupby...对象就是把continent取值相同的数据放到一组中 df.groupby(‘continent’)[字段] → seriesGroupby对象 从分号组的Dataframe数据中筛序出一列 df.groupby
Series unstack: 将层次化的Series转换回数据框形式 append: 将一行或多行数据追加到数据框的末尾 分组 聚合 转换 过滤 groupby：按照指定的列或多个列对数据进行分组 agg...：对每个分组应用自定义的聚合函数 transform：对每个分组应用转换函数，返回与原始数据形状相同的结果 rank：计算元素在每个分组中的排名 filter：根据分组的某些属性筛选数据 sum：计算分组的总和...describe：生成分组的描述性统计摘要 first和 last：获取分组中的第一个和最后一个元素 nunique：计算分组中唯一值的数量 cumsum、cummin、cummax、cumprod：...计算分组的累积和、最小值、最大值、累积乘积 数据清洗 dropna: 丢弃包含缺失值的行或列 fillna: 填充或替换缺失值 interpolate: 对缺失值进行插值 duplicated: 标记重复的行...astype: 将一列的数据类型转换为指定类型 sort_values: 对数据框按照指定列进行排序 rename: 对列或行进行重命名 drop: 删除指定的列或行 数据可视化 pandas.DataFrame.plot.area
还是dataframe，均支持面向对象的绘图接口 正是由于具有这些强大的数据分析与处理能力，pandas还有数据处理中"瑞士军刀"的美名。...对象，功能与python中的普通map函数类似，即对给定序列中的每个值执行相同的映射操作，不同的是series中的map接口的映射方式既可以是一个函数，也可以是一个字典 ?...，要求每个df内部列名是唯一的，但两个df间可以重复，毕竟有相同列才有拼接的实际意义） merge，完全类似于SQL中的join语法，仅支持横向拼接，通过设置连接字段，实现对同一记录的不同列信息连接，支持...2 分组聚合 pandas的另一个强大的数据分析功能是分组聚合以及数据透视表，前者堪比SQL中的groupby，后者媲美Excel中的数据透视表。...groupby，类比SQL中的group by功能，即按某一列或多列执行分组。
Dataframe对象的内部表示 在底层，pandas会按照数据类型将列分组形成数据块（blocks）。...由于pandas使用相同数量的字节来表示同一类型的每一个值，并且numpy数组存储了这些值的数量，所以pandas能够快速准确地返回数值型列所消耗的字节量。...当我们把一列转换成category类型时，pandas会用一种最省空间的int子类型去表示这一列中所有的唯一值。...为了介绍我们何处会用到这种类型去减少内存消耗，让我们来看看我们数据中每一个object类型列中的唯一值个数。 可以看到在我们包含了近172000场比赛的数据集中，很多列只包含了少数几个唯一值。...对于唯一值数量少于50%的object列，我们应该坚持首先使用category类型。如果某一列全都是唯一值，category类型将会占用更多内存。
今天我们重新盘点66个Pandas函数合集，包括数据预览、数值数据操作、文本数据操作、行/列操作等等，涉及“数据清洗”的方方面面。...此外，isnull().any()会判断哪些”列”存在缺失值，isnull().sum()用于将列中为空的个数统计出来。...df["迟到天数"] = df["迟到天数"].clip(0,31) 唯一值，unique()是以数组形式返回列的所有唯一值，而nunique()返回的是唯一值的个数。...如果想直接筛选包含特定字符的字符串，可以使用contains()这个方法。 例如，筛选户籍地址列中包含“黑龙江”这个字符的所有行。...df.query("语文 > 英语") 输出： select_dtypes()方法可用于筛选某些数据类型的变量或列。举例，我们仅选择具有数据类型'int64'的列。
选择 在训练机器学习模型时，我们需要将列中的值放入X和y变量中。...通常回根据一个或多个列的值对panda DataFrame进行排序，或者根据panda DataFrame的行索引值或行名称进行排序。 例如，我们希望按学生的名字按升序排序。...计算性别分组的所有列的平均值 average = df.groupby(‘Sex’).agg(np.mean) ? 统计数据 我们可能熟悉Excel中的数据透视表，可以轻松地洞察数据。...假设我们想按性别将值分组，并计算物理和化学列的平均值和标准差。...我们将调用pivot_table()函数并设置以下参数: index设置为 'Sex'，因为这是来自df的列，我们希望在每一行中出现一个唯一的值 values值为'Physics','Chemistry
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
