首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

用Python实现透视表value_sum和countdistinct功能

pandas库中实现Excel数据透视表效果通常用df['a'].value_counts()这个函数,表示统计数据框(DataFrame) df列a各个元素出现次数;例如对于一个数据表如pd.DataFrame...Pandas数据透视表各功能 用过Excel透视表功能的话我们知道,出了统计出现次数之外,还可以选择计算某行求和、最大最小、平均值等(数据透视表对于数值类型列默认选求和,文本类型默认选计数),...去重数据透视表计数 另外还有一个很重要需求是统计某列不重复元素计数,这个用数据透视表是不能直接算出来,例如有一个用户订单表,一个用户可能下了多个订单,用户有渠道属性,需要统计一段时间内各渠道付费用户数...,直接在透视表行选渠道,选uid计数,得到是没去重结果,拿df表来说,假设c列是用户id,a列是渠道,想统计a列A、B、C各渠道各有多少付费用户数,透视表结果和期望结果如下图: ?...True则将计数变成频率,例如dfa列中共有6行,而C出现了3次,于是C对应就是0.5;bin参数可以设置分箱;dropna可以设置是否考虑缺失,默认是不考虑(可以结合normalize影响频率

4.2K21

Pandas 进行数据处理系列 二

[‘b’].unique()查看某一列唯一df.values查看数据表df.columns查看列名df.head()查看默认前 10 行数据df.tail()查看默认后 10 行数据 数据表清洗...df.rename(columns={‘category’: ‘category-size’})更改列名df[‘city’].drop_duplicates()删除后出现重复df[‘city’].drop_duplicates...(keep=‘last’)删除先出现重复df[‘city’].replace(‘sh’, ‘shanghai’)数据替换 数据预处理 数据表合并 df_inner = pd.merge(df, df1...= 'beijing'), ['id', 'city', 'age']].sort(['id']) 筛选后灵气按 city 列进行计数 df.loc[(df['city'] !...= df.groupby('Country').agg(['min', 'mean', 'max']) print(df_agg) 对分组后部分列进行聚合 import pandas as pd

8.1K30
您找到你想要的搜索结果了吗?
是的
没有找到

数据科学家私藏pandas高阶用法大全 ⛵

, 8, 9] df # df doesn't change 图片 2:Groupby().count 与 Groupby().size 如果你想获得 Pandas 一列计数统计,可以使用groupby...和count组合,如果要获取2列或更多列组成分组计数,可以使用groupby和size组合。...:归一化计数 大家都知道,我们可以使用value_counts获取列里取值计数,但是,如果要获取列中某个百分比,我们可以添加normalize=True至value_counts参数设置来完成:...(包含缺失) 我们知道可以通过value_counts很方便进行字段取值计数,但是pandas.value_counts()自动忽略缺失,如果要对缺失进行计数,要设置参数dropna=False。...Pandas 具有 style 属性,可以设置颜色应用于 DataFrame。

6K30

利用Python统计连续登录N天或以上用户

在有些时候,我们需要统计连续登录N天或以上用户,这里采用python通过分组排序、分组计数等步骤实现该功能,具体如下: 导入需要库 import pandas as pd import numpy as...np 第一步,导入数据 原始数据是一份csv文件,我们用pandas方法read_csv直接读取 df = pd.read_csv(r"C:\Users\Gdc\Documents\登录日志.csv...删除日志里重复数据(同一天玩家可以登录多次,故而只需要保留一条即可) 我们看到上面处理过数据,可以发现role_id为570837202用户在1月8日存在多条记录,为方便后续计算,这里需要进行去重处理...第五步,分组计数 通过上一步,我们可以知道,计算每个用户date_sub列出现次数即可算出该用户连续登录天数 data = df.groupby(['role_id','date_sub']).count...df.groupby(['role_id','date_sub']).count().reset_index() #根据用户id和上一步计算差值 进行分组计数 data = data[['role_id

3.2K30

Python 使用pandas 进行查询和统计详解

'] >= 20] # 选取性别为女记录 df[df['gender'] == 'F'] 数据统计分析 Pandas 提供丰富统计函数,可以方便地进行数据分析。...描述性统计分析: # 统计数值型数据基本描述性统计信息 df.describe() # 统计各属性非空数量 df.count() # 统计各属性平均值 df.mean() # 统计各属性方差...df.var() # 统计各属性标准差 df.std() 分组统计分析: # 按照性别分组,统计年龄均值 df.groupby('gender')['age'].mean() # 按照性别和年龄分组,...df.dropna(axis=1) 用指定填充缺失: # 将缺失使用 0 填充 df.fillna(0) 数据去重 对 DataFrame 去重: # 根据所有列重复性进行去重 df.drop_duplicates...() # 根据指定列重复性进行去重 df.drop_duplicates(subset=['name', 'age']) 对 Series 去重: # 对 'name' 列进行去重 df['name

19310

pandas技巧4

本文中记录Pandas操作技巧,包含: 导入数据 导出数据 查看、检查数据 数据选取 数据清洗 数据处理:Filter、Sort和GroupBy 数据合并 常识 # 导入pandas import pandas...() # 查看数值型列汇总统计 s.value_counts(dropna=False) # 查看Series对象唯一计数 df.apply(pd.Series.value_counts) #...查看DataFrame对象中每一列唯一计数 df.isnull().any() # 查看是否有缺失 df[df[column_name].duplicated()] # 查看column_name...字段数据重复数据信息 df[df[column_name].duplicated()].count() # 查看column_name字段数据重复个数 数据选取 df[col] # 根据列名,并以Series...=[col2,col3], aggfunc={col2:max,col3:[ma,min]}) # 创建一个按列col1进行分组,计算col2最大和col3最大、最小数据透视表 df.groupby

3.4K20

使用Plotly创建带有回归趋势线时间序列可视化图表

列可以是数字、类别或布尔,但是这没关系。 注意:初始部分包含用于上下文和显示常见错误代码,对于现成解决方案,请参阅最后GitHub代码。...但是,在同一x轴(时间)上具有两个或更多数据计数Plotly呢? 为了解决上面的问题,我们就需要从Plotly Express切换到Plotly Graph Objects。...代替由点按时间顺序连接点,我们有了某种奇怪“ z”符号。 运行中go.Scatter()图,但未达到预期。点连接顺序错误。下面图形是按日期对进行排序后相同数据。...例如,如果您有两个不同具有时间序列数据或多个子集DataFrame,则可以继续向graph_object添加。...这一次,请注意我们如何在groupby方法中包含types列,然后将types指定为要计数列。 在一个列中,用分类聚合计数将dataframe分组。

5.1K30

总结了67个pandas函数,完美解决数据处理,拿来即用!

Series对象唯⼀计数 df.apply(pd.Series.value_counts) # 查看DataFrame对象中每⼀列唯⼀计数 df.isnull().any() # 查看是否有缺失...df[df[column_name].duplicated()] # 查看column_name字段数据重复数据信息 df[df[column_name].duplicated()].count...() # 查看column_name字段数据重复个数 数据选取 这里为大家总结10个常见用法。...col2降序排列数据 df.groupby(col) # 返回⼀个按列col进⾏分组Groupby对象 df.groupby([col1,col2]) # 返回⼀个按多列进⾏分组Groupby对象...、最⼩数据透视表 df.groupby(col1).agg(np.mean) # 返回按列col1分组所有列均值,⽀持 df.groupby(col1).col2.agg(['min','max

3.5K30

pandas用法-全网最详细教程

6、更改列名称: df.rename(columns={ 'category': 'category-size'}) 7、删除后出现重复df['city'].drop_duplicates...() 8 、删除先出现重复df['city'].drop_duplicates(keep='last') 9、数据替换: df['city'].replace('sh', 'shanghai')...由此产生分层索引中名称。 verify_integrity︰ 布尔、 默认 False。检查是否新串联轴包含重复项。这可以是相对于实际数据串联非常昂贵。..."]').price.sum() 七、数据汇总 主要函数是groupby和pivote_table 1、对所有的列进行计数汇总 df_inner.groupby('city').count() 2、按城市对...id字段进行计数 df_inner.groupby('city')['id'].count() 3、对两个字段进行汇总计数 df_inner.groupby(['city','size'])['id']

5.5K30

数据城堡参赛代码实战篇(二)---使用pandas进行数据去重

1 上期回顾 1.1 groupby groupby用于对pandas数据进行分组,使用示例如下: card_group=card_df.groupby(['id','how'])['amount']....我们使用pandasstr提供方法,对字符串进行截取,代码如下: library_df['time_stamp']=library_df['time_stamp'].str[:10] 在pandas...'],keep='last',inplace=True) 可以看到我们指定了三个参数,第一个参数是根据哪几列进行去重列表,这里我们指定了id和time_stamp两列,如果两条数据这两列相同,则会被当成重复列对待...第二个参数是keep参数,pandas默认在去重时是去掉所有重复数据,使用keep参数可以让我们保留重复数据中一条而删掉其他数据,keep='last'表明保留重复数据中最后一条,当然你也可以使用...接下来工作就简单了,按照上一节提到groupby方法,按照id列进行分组聚合就可以了,代码如下: library_count_df=library_df.groupby(['id'])['time_stamp

1.4K80

玩转 Pandas Groupby 操作

作者:Lemon 来源:Python数据之道 玩转 Pandas Groupby 操作 大家好,我是 Lemon,今天来跟大家分享下 pandasgroupby 用法。...Pandas groupby() 功能很强大,用好了可以方便解决很多问题,在数据处理以及日常工作中经常能施展拳脚。 今天,我们一起来领略下 groupby() 魅力吧。...size 跟 count 区别:size 计数时包含 NaN ,而 count 不包含 NaN In [10]: df = pd.DataFrame({"Name":["Alice", "Bob"...对应 "B" 列分别是 "one","NaN","NaN",由于 count() 计数时不包括NaN,因此 {'group1':'A', 'group2':'C'} count 计数值为 1...transform() 方法会将该计数值在 dataframe 中所有涉及 rows 都显示出来(我理解应该就进行广播) 将某列数据按数据分成不同范围段进行分组(groupby)运算 In [23]

2K20

数据分组

("客户分类") # #对分组后数据进行计数运算...温故知新,回忆一下有哪些汇总运算: count 非空计数、sum 求和、mean 求均值、max 求最大、min 求最小、median 求中位数、 mode 求众数、var 求方差、std 求标准差...、区域 这2列进行分组 df.groupby([df["客户分类"],df["区域"]]) #对分组后数据进行计数运算 df.groupby([df["客户分类"],df["区域"]]).count(...("客户分类") #分组键是列名 df.groupby(df["客户分类"]) #分组键是Series #对分组后数据进行 计数运算 和 求和运算 df.groupby("客户分类")....aggregate(["count","sum"]) #对分组后数据 用户ID列进行计数运算,8月销量进行求和运算 df.groupby(df["客户分类"]).aggregate({"用户ID

4.5K11

首次公开,用了三年 pandas 速查表!

作者:李庆辉 来源:大数据DT(ID:hzdashuju) 缩写说明: df:任意 Pandas DataFrame 对象 s:任意 Pandas Series 对象 注:有些属性方法 df 和...) # 最小 df.columns # 显示所有列名 df.team.unique() # 显示列中重复 # 查看 Series 对象唯一计数, 计数占比: normalize=True s.value_counts...(dropna=False) # 查看 DataFrame 对象中每一列唯一计数 df.apply(pd.Series.value_counts) df.duplicated() # 重复df.drop_duplicates...[('bar', 'two'), 'A'] # 多索引查询 df.query('i0 == "b" & i1 == "b"') # 多索引查询方法 2 # 取多索引中指定级别的所有不重复 df.index.get_level_values...=df.pf).ip.nunique() # groupby distinct, 分组+去重数 df.groupby(by=df.pf).ip.value_counts() # groupby 分组+去重及数量

7.4K10

Pandas必会方法汇总,数据分析必备!

pandas.date_range() 返回一个时间索引 6 df.apply() 沿相应轴应用函数 7 Series.value_counts() 返回不同数据计数值 8 df.reset_index...() 重新设置index,参数drop = True时会丢弃原来索引,设置新从0开始索引,常与groupby()一起用 举例:重新索引 df_inner.reset_index() 三、数据索引...举例:判断city列是否为北京 df_inner['city'].isin(['beijing']) 七、分组方法 序号 方法 说明 1 DataFrame.groupby() 分组函数 2 pandas.cut...举例:.groupby用法 group_by_name=salaries.groupby('name') print(type(group_by_name)) 输出结果为: <class 'pandas.core.groupby.DataFrameGroupBy...举例:删除后出现重复df['city'].drop_duplicates() 结语 文章中总结是都是一些Pandas常用方法,至于一些基础概念还需要你学到Pandas时候去理解,例如Series

5.9K20

pandas多表操作,groupby,时间操作

='inner',有多个重复列名则选取重复列名都相同行 # 指定“on”作为连接键,left和right两个DataFrame必须同时存在“on”列,连接键也可N对N(少用) pd.merge(left...(left, right, left_on="lkey", right_on="rkey")#左边表lkey和右边表rkey相同行,所有列都显示,重复_x,_y 索引上合并(可用join代替...([df1, df2], axis=0) # axis=1 左右拼接,行raw/index重复会自动合并 pd.concat([df1, df2], axis=1) # 忽略df1和df2原来index...pandas提供了一个灵活高效groupby功能,它使你能以一种自然方式对数据集进行切片、切块、摘要等操作。根据一个或多个键(可以是函数、数组或DataFrame列名)拆分pandas对象。...['data1'].groupby(df['key1']) In [127]: grouped Out[127]: <pandas.core.groupby.SeriesGroupBy object

3.7K10

Python pandas十分钟教程

df.info():提供数据摘要,包括索引数据类型,列数据类型,非空和内存使用情况。 df.describe():提供描述性统计数据。...df['Contour'].isnull().sum():返回'Contour'列中计数 df['pH'].notnull().sum():返回“pH”列中非空计数 df['Depth']...数据清洗 数据清洗是数据处理一个绕不过去坎,通常我们收集到数据都是不完整,缺失、异常值等等都是需要我们处理Pandas中给我们提供了多个数据清洗函数。...Pandas中提供以下几种方式对数据进行分组。 下面的示例按“Contour”列对数据进行分组,并计算“Ca”列中记录平均值,总和或计数。...df.groupby(by=['Contour'])['Ca'].mean() df.groupby(by=['Contour'])['Ca'].count() df.groupby(by=['Contour

9.8K50
领券