最近在项目里,有个临时的小需求,需要将一些行列交叉结构的表格进行汇总合并,转换成规范的一维表数据结构进行后续的分析使用。...从一开始想到的使用VBA拼接字符串方式,完成PowerQuery的M语言查询字符串,然后转换成使用插件方式来实现相同功能更顺手,最后发现,在当前工作薄里使用PowerQuery来获取当前工作薄的其他工作表内容...,也是可行的,并且不需要转换智能表就可以把数据抽取至PowerQuery内。...再最后,发现PowerQuery直接就支持了这种多工作表合并,只要自定义函数时,定义的参数合适,直接使用自定义函数返回一个表结果,就可以展开后得到多行记录的纵向合并(类似原生PowerQuery在处理同一文件夹的多个文件纵向合并的效果...整个实现的过程,也并非一步到位,借着在知识星球里发表,经过各星友一起讨论启发,逐渐完善起来最终的结果。探索是曲折的,但众人一起合力时,就会有出乎意料的精彩结果出来。
按列分组 加入这里按照city这一列进行分组: g = df.groupby(df['city']) 12 g = df.groupby(df['city']) 得到一个DataFrameGroupBy...g.get_group('BJ') # 查看某一个分组 12 g.get_group('BJ') # 查看某一个分组 他相当于把city为BJ的行都过滤出来,并形成了一个新的...GroupBy的操作过程 以求平均值为例: GroupBy对一个group中的某一组取平均值,得到的结果为series,而对整个分组对象取平均值,得到的是dataframe。...分组对象转化为列表和字典 转换成列表直接通过list方法,然后每一个分组就是字典中的一个元素: dict(list(g)) # 所有分组 dict(list(g))['BJ']...转换成字典需要先通过list转换成列表然后通过dict转换成字典,其中key就是分组指定的依据(city),value是一个dataframe: dict(list(g)) dict(list(g))[
分组键为列名,引入列表list[] df[‘data1’].groupby(df[‘key1’]).mean() 按某一列进行一重聚合求均值 分组键为Series A=df[‘订单编号’].groupby...1 groupby()核心用法 (1)根据DataFrame本身的某一列或多列内容进行分组聚合,(a)若按某一列聚合,则新DataFrame将根据某一列的内容分为不同的维度进行拆解,同时将同一维度的再进行聚合...(len).sum() #将字符串长度相同的行进行求和 分组键为函数和数组、列表、字典、Series的组合 引入列表list[ ] 将函数跟数组、列表、字典、Series混合使用作为分组键进行聚合,因为任何东西最终都会被转换为数组...GroupBy的size方法,将返回一个含有分组大小的Series .apply() .agg() (4)对聚合后的数据片段,进行字典、列表等格式转化 将数据片段转为字典 pieces=pieces...#(4) 按key1、key2进行分组,并计算data1列的平均值,聚合表不堆叠 #将数据从“花括号”格式转为“表格”格式,unstack即“不要堆叠” df2=df['data1'].groupby
数据透视表将每一列数据作为输入,输出将数据不断细分成多个维度累计信息的二维数据表。...根据 GroupBy 的操作流程,我们也许能够实现想要的结果:将司机种族('driver_race')与司机性别('driver_gender')分组,然后选择司机年龄('driver_age')列,应用均值...('mean')累计函数,再将各组结果组合,最后通过行索引转列索引操作将最里层的行索引转换成列索引,形成二维数组。...默认聚合所有数值列 index 用于分组的列名或其他分组键,出现在结果透视表的行 columns 用于分组的列名或其他分组键,出现在结果透视表的列 aggfunc 聚合函数或函数列表,默认为'mean'...与 GroupBy 类似,数据透视表中的分组也可以通过各种参数指定多个等级。
SQL命令 GROUP BY SELECT子句,它根据一个或多个列对查询的结果行进行分组。 大纲 SELECT ......GROUP BY子句接受查询的结果行,并根据一个或多个数据库列将它们分成单独的组。 当将SELECT与GROUP BY结合使用时,将为GROUP BY字段的每个不同值检索一行。...它为每个City和Age值的唯一组合选择任意一行。 因此,GROUP BY City,Age返回与GROUP BY Age,City相同的结果。 字段必须通过列名指定。...但是,如果在逗号分隔的列表中指定一个字面值作为字段值,则该字面值将被忽略,并且GROUP BY将为指定字段名的每个惟一组合选择任意一行。...如果查询仅由聚合函数组成且不返回表中的任何数据,则返回%ROWCOUNT=1,并为聚合函数返回一个空字符串(或0)值。
,将数据转换成“适当的”格式,以适用于挖掘任务及算法的需要。...2.2 轴向旋转(6.2.2 ) 掌握pivot()和melt()方法的用法,可以熟练地使用这些方法实现轴向旋转操作 2.2.1 pivot方法 pivot()方法用于将DataFrame类对象的某一列数据转换为列索引...基于列值重塑数据(生成一个“透视”表)。使用来自指定索引/列的唯一值来形成结果DataFrame的轴。此函数不支持数据聚合,多个值将导致列中的MultiIndex。...=False) 输出为: 2.3 分组与聚合(6.2.3 ) 分组与聚合是常见的数据变换操作 分组指根据分组条件(一个或多个键)将原数据拆分为若干个组; 聚合指任何能从分组数据生成标量值的变换过程...使用pandas的groupby()方法拆分数据后会返回一个GroupBy类的对象,该对象是一个可迭代对象,它里面包含了每个分组的具体信息,但无法直接被显示。
随后,它遍历数组中的每个用户,注意到列表可能是数据库结果,并非所有用户都可能存在。在每次迭代期间,它检查当前用户的电子邮件是否与指定的搜索电子邮件匹配。如果找到匹配项,则将用户推送到预定义的变量中。...但不完全是,因为数据库不是一个智能生物,无法提前知道我们的所有问题并为我们优化事物(尽管这是一个值得探讨的有趣想法)。幸运的是,数据库通过使用索引提供了一种快速处理此类操作的方法。...我们之所以能做到这一点,是因为 Object.groupBy 接受了一个对象列表(在这种情况下)和一个函数,该函数指定了我们要如何对数据进行分组。...您不会为部署一个简单的 HTML 和 CSS 陆页使用 Kubernetes 集群,对吧?在这里大致也是如此。在这个特定情况下,我们的分组(或索引)对象的有限使用使得首先将用户按电子邮件分组变得无用。...实际上,您可以将 Object.groupBy 的结果视为数据库中的索引表,它允许您以恒定时间访问数据,并降低了需要恒定访问诸如用户之类的数据的算法的时间复杂度。
使用read_csv导入数据之后,我们添加了一个小费百分比的列tip_pct: 如果希望对不同的列使用不同的聚合函数,或一次应用多个函数,将通过下面的例来进行展示。...如果不想接收GroupBy自动给出的那些列名,那么如果传入的是一个由(name,function)元组组成的列表,则各元组的第一个元素就会用作DataFrame的列名(可以将这种二元元组列表看做一个有序映射...具体的办法是向agg传入一个从列名映射到函数的字典: 只有将多个函数应用到至少一列时,DataFrame才会拥有层次化的列 2.3.返回不含行索引的聚合数据 到目前为止,所有例中的聚合数据都有由唯一的分组键组成的索引...数据透视表 pivot()的用途就是,将一个dataframe的记录数据整合成表格(类似Excel中的数据透视表功能),pivot_table函数可以产生类似于excel数据透视表的结果,相当的直观。...; index=用于分组的列名或其他分组键,出现在结果透视表的行; columns =用于分组的列名或其他分组键,出现在结果透视表的列; values = 待聚合的列的名称,默认聚合所有数值列;
datas 使用pandas.DataFrame()方法将二维列表转换为DataFrame对象df,每列分别命名为'类型'、'书名'、'作者'、'字数'、'推荐' 将'推荐'列的数据类型转换为整型 数据统计与分组...类型'列进行分组,并使用count()方法统计每个分组的数量 数据可视化 font_path = 'caisemenghuanjingyu.ttf' # 替换为自定义字体文件的路径 custom_font...]) # 将每个配对的数据以列表形式添加到datas列表中, # count[:-1]表示去掉count末尾的字符(单位) df = pd.DataFrame(datas, columns...=['类型', '书名', '作者', '字数', '推荐']) # 使用pandas库将二维列表datas转换为DataFrame对象df,并为每一列命名 df['推荐'] = df['推荐'].astype...()方法按照类型列进行分组,然后使用count()方法统计每个分组中的数量 font_path = 'caisemenghuanjingyu.ttf' # 替换为自定义字体文件的路径 # 设置自定义字体的路径
DataFrame是一个二维的结合数组和字典的结构,因此对行、列而言,通过标签这个字典的key,获取对应的行、列,而不同于Python, Numpy中只能通过位置找到对应行、列,因此Pandas是更强大的具备可插可删可按照键索引的工具库...03 Groupby:分-治-合 group by具体来说就是分为3步骤,分-治-合,具体来说: 分:基于一定标准,splitting数据成为不同组 治:将函数功能应用在每个独立的组上 合:收集结果到一个数据结构上...df_data.groupby('A') 默认是按照axis=0分组的(行),如果按照列,修改轴,即 df_data.groupby('A' , axis=1) 也可以按照多个列分组,比如: df_data.groupby...如果我们想看下每组的第一行,可以调用 first(),可以看到是每个分组的第一个,last()显示每组的最后一个: agroup.first() ?...06 治:分组上的操作 对分组上的操作,最直接的是使用aggregate操作,如下,求出每个分组上对应列的总和,大家可以根据上面的分组情况,对应验证: agroup = df.groupby('A')
其中split指基于某一些规则,将数据拆成若干组;apply是指对每一组独立地使用函数;combine指将每一组的结果组合成某一类数据结构。...分组函数的基本内容: 根据某一列分组 根据某几列分组 组容量与组数 组的遍历 level参数(用于多级索引)和axis参数 a)....根据某一列分组 grouped_single = df.groupby('School') 经过groupby后会生成一个groupby对象,该对象本身不会返回任何东西,只有当相应的方法被调用才会起作用...用列表可选出多个属性列: df.groupby(['Gender','School'])[['Math','Height']].mean() ? e)....apply函数 1. apply函数的灵活性 标量返回值 列表返回值 数据框返回值 可能在所有的分组函数中,apply是应用最为广泛的,这得益于它的灵活性:对于传入值而言,从下面的打印内容可以看到是以分组的表传入
最后这个 list(zip()) 的嵌套函数,把上面两个列表合并成了一个每个元素都是元组的列表。...分组统计 Pandas 的分组统计功能可以按某一列的内容对数据行进行分组,并对其应用统计函数,比如求和,平均数,中位数,标准差等等… 举例来说,用 .groupby() 方法,我们可以对下面这数据表按...然后,调用 .groupby() 方法,并继续用 .mean() 求平均值: ? 上面的结果中,Sales 列就变成每个公司的分组平均数了。...,index 表示按该列进行分组索引,而 columns 则表示最后结果将按该列的数据进行分列。...请注意,每个 Excel 表格文件都含有一个或多个工作表,传入 sheet_name='Sheet1' 这样的参数,就表示只读取 'excel_output.xlsx' 中的 Sheet1 工作表中的内容
OUTLINE 根据表本身的某一列或多列内容进行分组聚合 通过字典或者Series进行分组 根据表本身的某一列或多列内容进行分组聚合 这个是groupby的最常见操作,根据某一列的内容分为不同的维度进行拆解...,则看的是多列之间维度的笛卡尔积 比如按照key1列,可以分为a和b两个维度,按照key2列可以分为one和two两个维度,最后groupby这两列之后的结果就是四个group。...() 无论solution1还是2,本质上,都是找index(Series)或者key(字典)与数据表本身的行或者列之间的对应关系,在groupby之后所使用的聚合函数都是对每个group的操作,聚合函数操作完之后...,再将其合并到一个DataFrame中,每一个group最后都变成了一列(或者一行)。...另外一个我容易忽略的点就是,在groupby之后,可以接很多很有意思的函数,apply/transform/其他统计函数等等,都要用起来!
,比如根据性别,如果现在需要根据多个维度进行分组,只需在groupby中传入相应列名构成的列表即可。...,返回的是表长乘以表宽的大小,但在groupby对象上表示统计每个组的元素个数: gro.size() # School Grade ,Fudan...对象有一些缺点: 无法同时使用多个函数 无法对特定的列使用特定的聚合函数 无法使用自定义的聚合函数 无法直接对结果的列名在聚合前进行自定义命名 可以通过agg函数解决这些问题: 当使用多个聚合函数时,需要用列表的形式把内置聚合函数对应的字符串传入...当apply()函数与groupby()结合使用时,传入apply()的是每个分组的DataFrame。这个DataFrame包含了被分组列的所有值以及该分组在其他列上的所有值。...0 ,Male 1 0 , 2 0 , 3 0 ,dtype: int64 将每个组的每个元素都分配了一个值
2. pd.groupby函数 这个函数的功能非常强大,类似于sql的groupby函数,对数据按照某一标准进行分组,然后进行一些统计。...任何groupby操作都会涉及到下面的三个操作之一: Splitting:分割数据- Applying:应用一个函数- Combining:合并结果 在许多情况下,我们将数据分成几组,并在每个子集上应用一些功能...grouped: print(name) 2.2 获取某一分组get_group方法 # 获取某一分组 grouped = df.groupby('Year') print(grouped.get_group...,得到的结果是一个以分组名为 index 的结果对象。...DataFrame的数据表,然而agg()则每次只传入一列,从列的角度进行输出。
->apply->combine 拆分:进行分组的根据 应用:每个分组运行的计算规则 合并:把每个分组的计算结果合并起来 示例代码: import pandas as pd import...进行分组 print(type(df_obj.groupby('key1'))) # dataframe的 data1 列根据 key1 进行分组 print(type(df_obj['data1']...按自定义的key分组 obj.groupby(self_def_key) 自定义的key可为列表或多层列表 obj.groupby([‘label1’, ‘label2’])->多层dataframe...# 按自定义key分组,多层列表 print(df_obj.groupby([df_obj['key1'], df_obj['key2']]).size()) # 按多个列多层分组 grouped2...(['key2', 'key1']) print(grouped3.mean()) # unstack可以将多层索引的结果转换成单层的dataframe print(grouped3.mean().unstack
pandas 的核心是名叫DataFrame的对象类型- 本质上是一个值表,每行和每列都有一个标签。...:使用数字选择一行或多行:也可以使用列标签和行号来选择表的任何区域loc:1.3 过滤使用特定值轻松过滤行。...例如,按流派对数据集进行分组,看看每种流派有多少听众和剧目:Pandas 将两个“爵士乐”行组合为一行,由于使用了sum()聚合,因此它将两位爵士乐艺术家的听众和演奏加在一起,并在合并的爵士乐列中显示总和...groupby()折叠数据集并从中发现见解。聚合是也是统计的基本工具之一。除了 sum(),pandas 还提供了多种聚合函数,包括mean()计算平均值、min()、max()和多个其他函数。...通过告诉 Pandas 将一列除以另一列,它识别到我们想要做的就是分别划分各个值(即每行的“Plays”值除以该行的“Listeners”值)。
数据分组就是根据一个或多个键(可以是函数、数组或df列名)将数据分成若干组,然后对分组后的数据分别进行汇总计算,并将汇总计算后的结果合并,被用作汇总计算的函数称为就聚合函数。...1.分组键是列名 分组键是列名时直接将某一列或多列的列名传给 groupby() 方法,groupby() 方法就会按照这一列或多列进行分组。...参数: ①分组键是列名: 单个列名直接写(按一列进行分组),多个列名以列表的形式传入(这就是按多列进行分 组)。...求众数、var 求方差、std 求标准差、quantile 求分位数 (2)按多列进行分组 按多列进行分组,只要将多个列名以列表的形式传给 groupby() 即可。...其实这和列选择一样,传入多个Series时,是列表中的列表;传入一个Series直接写就可以。
groupby的操作过程如下 split, 第一步,根据某一个或者多个变量的组合,将输入数据分成多个group apply, 第二步, 对每个group对应的数据进行处理 combine, 第三步...,将分组处理的结果合并起来,形成一个新的数据 图示如下 ?...('x').mean() y x a 3.0 b 2.5 c 7.5 上述代码实现的是分组求均值的操作,通过groupby方法,首选根据x标签的内容分为a,b,c3组,然后对每组求均值,最后将结果进行合并...>>> df.groupby('class') # 多个列标签的组合,用列表的形式声明 >>> df.groupby(['class','sex']) # 用行标签分组 >>> arrays =...分组处理 分组处理就是对每个分组进行相同的操作,groupby的返回对象并不是一个DataFrame, 所以无法直接使用DataFrame的一些操作函数。
1.2 轴向链接 pandas的轴向链接指的是根据某一个轴向来拼接数据,类似于列表的合并。...你可能已经注意到了,在执行df.groupby('key1').mean()的结果中,结果并没有key2这一列,这是因为key2这一列不是数值数据,所以从结果中排除了,默认情况下,所有的数值列都会被聚合...transform函数 transform会将一个函数运用到各个分组,然后将结果放置到适当的位置上。...可以看到,在上面的例子中,分组产生了一个标量,即分组的平均值,然后transform将这个值映射到对应的位置上,现在DataFrame中每个位置上的数据都是对应组别的平均值。...4.3 数据透视表 透视表是各种电子表格程序和其他数据分析软件中一种常见的数据汇总工具,它根据一个或多个键对数据进行聚合,并根据行和列伤的分组键将数据分配到各个矩形区域中。
领取专属 10元无门槛券
手把手带您无忧上云