首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

python数据分析——数据选择和运算

数据获取 ①索引取值 使用单个序列,可以从DataFrame索引出一个多个。...True表示按连结主键(on 对应列名)进行升序排列。 【例】创建个不同数据,并使用merge()其执行合并操作。 关键技术:merge()函数 首先创建个DataFrame对象。...= False ) join()方法参数详解 参数 描述 Self 表示是join必须发生在同一数据上 Other 提到需要连接另一数据 On 指定必须在其上进行连接键...: 四、数据运算 pandas具有大量数据计算函数,比如求计数求和、求平均值、求最大、最小、中位数、众数、方差、标准差等。...关键技术:可以利用行号索引和count()方法来进行计数,程序代码如下所示: 【例】对于给定DataFrame数据,按索引进行求和并输出结果。

14210
您找到你想要的搜索结果了吗?
是的
没有找到

数据分析】数据缺失影响模型效果?是时候需要missingno工具包来帮你了!

重要是,在进行数据分析机器学习之前,需要我们缺失数据进行适当识别和处理。许多机器学习算法不能处理丢失数据,需要删除整行数据,其中只有一个丢失,或者用一个新替换(插补)。...这将返回一个表,其中包含有关数据汇总统计信息,例如平均值、最大和最小。在表顶部是一个名为counts行。在下面的示例,我们可以看到数据每个特性都有不同计数。...我们可以使用另一种快速方法是: df.isna().sum() 这将返回数据包含了多少缺失摘要。...接近正1表示一存在空另一存在空相关。 接近负1表示一存在空另一存在空是反相关。换句话说,当一存在空时,另一存在数据,反之亦然。...RMED位于同一个较大分支,这表明该存在一些缺失可以与这四相关联。 摘要 在应用机器学习之前识别缺失是数据质量工作一个关键组成部分。

4.7K30

商业数据分析从入门到入职(3)Excel进阶应用

比如对于公式=PI()*A@^2: 组成部分包括: 函数 如PI()函数返回pi3.14159…。 引用 如A2返回单元格A2。 常量 直接输入到公式数字文本,例如2。...根据条件进行不同赋值,如下: ?...还可以进行混合引用,即位置行和只有一个改变,另一个不改变,不改变用$修饰。 如下: ? 显然,通过混合引用实现了打印九九乘法表。 函数基本用法如下: ?...SUMIF 和COUNTIF类似,SUMIF是根据条件进行求和,简单使用如下: 待求和数据所在和条件所在不是同一时,稍微复杂一点,如下: 显然,此时需要传递3个参数,才能求和。...还可以根据多个条件进行求和,有多种方式,一种方式是增加辅助拼接个条件,再进行求和,如下: 可以看到,计算出来结果是依赖于辅助,如果删除修改辅助,结果也会发生变化。

2.1K10

Access交叉表查询

交 叉 表 查 询 交叉表查询可以将同一个表一个多个字段作为行标签,另一个字段作为标签,然后对表某个字段进行某种统计计算(例如计数求和、平均值等)。...交叉表其实就是按照个不同维度来分组进行统计。 在Excel表很常见(包括数据透视表),例如下图所示每个班级中男生和女生数量。其中行标签是班级,标签是性别,然后进行汇总统计得到结果。...在数据统计实际常用到。 ? 示 例 下面就通过步骤演示,来介绍如何创建交叉表进行数据统计。 将读者表读者按照班级和性别,进行分类统计有多少人。...第二步 根据问题需求,要建立这个交叉表,行标签可以使用班级,标签可以使用性别。然后使用计数来统计人数。 下面分别添加班级、性别和会员号字段。(因为会员号是主键,不为空不重复,用来计数合适。)...最后点击运行查看查询交叉表,行标签为班级,标签为性别。计数。保存即可。 ? 交叉表在统计数据时候是很常用,注意选择好行标签和标签后,重要是选择好所使用字段,以及统计方式。

3.2K20

数据分组

数据分组就是根据一个多个键(可以是函数、数组df列名)将数据分成若干组,然后对分组后数据分别进行汇总计算,并将汇总计算后结果合并,被用作汇总计算函数称为就聚合函数。...Python数据分组利用是 groupby() 方法,类似于sql groupby。...温故知新,回忆一下有哪些汇总运算: count 非空计数、sum 求和、mean 求均值、max 求最大、min 求最小、median 求中位数、 mode 求众数、var 求方差、std 求标准差...df.groupby(["客户分类","区域"]).sum() #只会对数据类型为数值(int,float)才会进行运算 无论分组键是一还是多,只要直接在分组后数据进行汇总运算,就是所有可以计算进行计算...("客户分类").aggregate(["count","sum"]) #对分组后数据 用户ID进行计数运算,8月销量进行求和运算 df.groupby(df["客户分类"]).aggregate

4.5K11

Python入门之数据处理——12种有用Pandas技巧

◆ ◆ ◆ 我们开始吧 从导入模块和加载数据集到Python环境这一步开始: ? # 1–布尔索引 如果你想根据另一条件来筛选某一,你会怎么做?...在利用某些函数传递一个数据每一行之后,Apply函数返回相应。该函数可以是系统自带,也可以是用户定义。举个例子,它可以用来找到任一行或者缺失。 ? ?...有时同一个类别可以用种方式来表示。如温度可能被记录为“High(高)”“Medium()”“Low(低)”“H(高)”“low(低)”。在这里,无论是“High(高)”还是“H(高)”是指同一类。...在这里,我定义了一个通用函数,以字典方式输入,使用Pandas“replace”函数来重新进行编码。 ? ? 编码前后计数不变,证明编码成功。。...# 12–在一个数据行上进行迭代 这不是一个常用操作。毕竟你不想卡在这里,是吧?有时你可能需要用for循环迭代所有的行。例如,我们面临一个常见问题是在Python变量不正确处理。

4.9K50

Pandas 秘籍:1~5

准备 此秘籍将数据索引,数据提取到单独变量,然后说明如何从同一象继承和索引。...请参阅以下数据类型计数以验证这一点: >>> movie.isnull().get_dtype_counts() bool 28 dtype: int64 由于布尔数值求值为 0/1,因此可以按它们进行求和...如果您尝试使用相等运算符缺失进行计数布尔求和,则每个数字将得到零: >>> (college_ugds_ == np.nan).sum() UGDS_WHITE 0 UGDS_BLACK...在此示例,每年仅返回一行。 正如我们在最后一步按年份和得分排序一样,我们获得年度最高评分电影。 更多 可以按升序进行排序,而同时按降序另一进行排序。...用sort_values替代nlargest 前个秘籍工作原理类似,它们以略有不同方式进行排序。 查找一数据顶部n等同于整个进行降序排序并获取第一个n

37.3K10

DAX计数相关聚合函数

不问花开几许,只愿浅笑安然 除了求和另一个日常工作中最常用到聚合方式应该是计数了。DAX提供了一系列关于计数函数。他们可以帮助我们计算表中有多少行或者某个出现了多少次。...DAX包含计数函数有: COUNT()函数,中值数量进行计数,除了布尔型; COUNTA函数,中值数量进行计数,包含布尔型; COUNTBLANK()函数,返回中空单元格计数; COUNTROWS...该函数对于同一仅计算一次。 二、计数 COUNTROWS()函数与其他计数函数不同点之一就是它接受参数是表。而其他计数函数接受参数都是。...COUNTROWS()函数对表进行计数,不管行是否有空,都会计算一次。大多数情况下它与COUNT()函数都是可以互相替代使用。具体选择哪个函数需要视业务情况决定。...在模型增加以下个度量值: 销售量:=COUNT('订单表'[产品代码]) 销售量_COUNTROWS:=COUNTROWS('订单表') 将它们放在数据透视表区域将得到一样结果。

4.1K40

用Python实现透视表value_sum和countdistinct功能

在pandas库实现Excel数据透视表效果通常用是df['a'].value_counts()这个函数,表示统计数据框(DataFrame) dfa各个元素出现次数;例如对于一个数据表如pd.DataFrame...Excel数据透视表与Python实现对比 就是对表dfa各个出现次数进行统计。...Pandas数据透视表各功能 用过Excel透视表功能的话我们知道,出了统计出现次数之外,还可以选择计算某行求和、最大最小、平均值等(数据透视表对于数值类型默认选求和,文本类型默认选计数),...df['b'].sum()是b求和,结果是21,和a无关;所以我们可以自己按照根据a分表再求和思路去实现。...);sort可以设置是否根据统计进行排序(关于value_counts函数更多内容可以再看下官方文档)。

4.2K21

Pandas 秘籍:6~11

在我们数据分析世界,当许多输入序列被汇总组合为单个输出时,就会发生汇总。 例如,所有求和求其最大是应用于单个数据序列常见聚合。 聚合仅获取许多值,然后将其转换为单个。...我们根据每个学校本科生人数对分数进行加权。 操作步骤 读取大学数据集,并在UGDS,SATMTMIDSATVRMID删除所有缺少行。...将多个变量存储为进行整理 在同一单元格存储多个进行整理 在列名和存储变量时进行整理 将多个观测单位存储在同一进行整理 介绍 前几章中使用所有数据集都没有做太多做任何工作来更改其结构...由于数据索引相同,因此可以像第 7 步那样将一个数据分配给另一。 更多 从步骤 2 开始,完成此秘籍另一种方法是直接从sex_age中分配新,而无需使用split方法。...在同一单元格存储多个进行整理 表格数据本质上是二维,因此,可以在单个单元格显示信息量有限。

33.9K10

技巧:Excel用得好,天天没烦恼

SUMIF 函数 Sum意思是“加和”,再加上“IF”,意思就是范围符合指定条件求和。 例如,假设在含有数字某一,需要对大于 1000000 数值求和。 请使用以下公式: 4....SUBTOTAL函数 SUBTOTAL函数其实是个函数组,就是返回一个列表数据分类汇总情况。...SUBTOTAL函数可谓是全能王,可以对数据进行求平均值、计数、最大最小、相乘、标准差、求和、方差。 想算什么算什么有木有! 7....Value为数字。Format_text为设置单元格格式自己所要选用文本格式。 9. SMALL & LARGE 函数 SMALL函数可以用来找到一串数据第n小。...通常可以将个函数联合起来进行表间关联关系查询,通过match函数找到匹配单元位置号,再用这个位置号,通过index函数找到与匹配对应关联。 为什么别人做事总比你快?这下明白了吧。

2K40

数据分析常用Excel函数

单条件查询 注意:检索关键字必须在检索区域第1,也就是说如果是根据“姓名”检索,那么检索区域应该从B开始。...HLOOKUP =HLOOKUP(用谁去找, 匹配对象范围, 返回第几行, 匹配方式) 和VLOOKUP区别:HLOOKUP返回与查找同一上,而VLOOKUP返回与查找同一行上。...A1向下偏移一行,向右偏移一 计算返回和,如果不求和,则会报错,因为一个cell不能填充四个cell内容。 ?...HYPERLINK HYPERLINK:创建一个超链接指向link_location,以friendly_name字符串进行显示,link_location可以是URL链接文件路径。...例子 单条件计数: ? A1到A3大于等于10数量 多条件计数: ? A1到A3大于5小于10数量 求和 SUM 功能:计算单元格区域中所有数值和。

4.1K21

手把手教你做一个“渣”数据师,用Python代替老情人Excel

请按照以下链接下载数据,并将其放在与存储Python文件同一文件夹。...Python提供了许多不同方法来DataFrame进行分割,我们将使用它们几个来了解它是如何工作。...8、筛选不在列表Excel ? 9、用多个条件筛选多数据 输入应为一个表,此方法相当于excel高级过滤器功能: ? 10、根据数字条件过滤 ?...五、数据计算 1、计算某一特定 输出结果是一个系列。称为单列数据透视表: ? 2、计数 统计每每行非NA单元格数量: ? 3、求和 按行求和数据: ? 为每行添加总: ?...可以使用dictionary函数进行单独计算,也可以多次计算: ? 七、Vlookup函数 Excelvlookup是一个神奇功能,是每个人在学习如何求和之前就想要学习

8.3K30

个人永久性免费-Excel催化剂功能第37波-把Sqlserver强大分析函数拿到Excel中用

函数介绍 此篇为分组计算函数,即对一去重后出现组成员,通过排序列排序依据,某指标进行汇总聚合、生成序号、排名、和取其同一组内某一某个(上一个、下一个、开头、结尾)等功能。...若需要进行以上所提及操作,请先返回结果自定义函数进行数值化处理删除操作。 ?...分组列为效果 分组序号 分组序号函数特点,在分组内记录数,每一行返回从1开始不重复递增序列,基于排序列定义顺序,分组,排序列可以为多,当排序规则下排序列相同,将从上往下填充递增序号...使用场景:对于数据清洗工作尤其有用,当数据有重复时,需要去根据分组唯一进行去重是保留最开始出现记录还是最后出现记录时,只需配合排序列升序降序处理,即可仅保留序号为1记录,其他记录删除方式实现数据清洗...多个分组单个排序列效果 分组排名 类似以上分组序号,返回递增序列,但此处对重复有相同排名 同时对重复排名区分了美式排名和中式排名种 ?

1.7K20

SQL语句汇总(三)——聚合函数、分组、子查询及组合查询

聚合函数: SQL中提供聚合函数可以用来统计、求和、求最等等。...但并不是每个位置嵌套子查询都是有意义并实用,这里几种有实际意义子查询进行说明。 现有表张:一张学生表、一张班表。id相关联 ? ?...还有种情况就是在子查询联接查询时,主查询及子查询均为同一张表进行操作,为主、子查询表加上不同别名能够很好区分哪些操作是在主查询中进行,哪些操作是在子查询中进行,下文会有实例说明。...在子查询相关查询,要求出某个最大,通常都是用ALL来比较,大意为比其他行都要大即为最大。...通过上面例,应该可以明白子查询在WHERE嵌套作用。通过子查询返回来作为比较对象,在WHERE运用不同比较运算符来进行比较,从而得到结果。

4.9K30

10招!看骨灰级Pythoner如何玩转Python

Map 这是一个可以进行简单数据转换命令。首先定义一个字典,其中 keys 是旧, values 是新。...例如,如果你想检查“c”每个可能和频率,可以执行以下操作 df[‘c’].value_counts() # 它有一些有用技巧/参数: normalize = True #如果你要检查频率而不是计数...dropna = False #如果你要统计数据包含缺失。...缺失数量 构建模型时,你可能希望排除具有很多缺失全是缺失行。你可以使用.isnull()和.sum()来计算指定缺失数量。...另一个技巧是处理混合在一起整数和缺失。如果同时包含缺失和整数,则数据类型仍将是float而不是int。导出表时,可以添加float_format = %。0f 将所有浮点数舍入为整数。

2.4K30
领券