首页
学习
活动
专区
圈层
工具
发布

30 个 Python 函数,加速你的数据分析处理速度!

Pandas 是 Python 中最广泛使用的数据分析和操作库。它提供了许多功能和方法,可以加快 「数据分析」 和 「预处理」 步骤。...:选择带标签 iloc:选择索引 我们首先创建 20 个随机索引进行选择 missing_index = np.random.randint(10000, size=20) 我们将使用 loc 将某些值更改为...例如,地理列具有 3 个唯一值和 10000 行。 我们可以通过将其数据类型更改为"类别"来节省内存。...ser= pd.Series([2,4,5,6,72,4,6,72]) ser.pct_change() 29.基于字符串的筛选 我们可能需要根据文本数据(如客户名称)筛选观测值(行)。...30.设置数据帧样式 我们可以通过使用返回 Style 对象的 Style 属性来实现此目的,它提供了许多用于格式化和显示数据框的选项。例如,我们可以突出显示最小值或最大值。

13K60

Python—关于Pandas的缺失值问题(国内唯一)

是否还有其他类型的丢失数据不太明显(无法通过Pandas轻松检测到)? 了说明我的意思,让我们开始研究示例。 我们要使用的数据是非常小的房地产数据集。...稍后我们将使用它来重命名一些缺失的值。 导入库后,我们将csv文件读取到Pandas数据框中。 使用该方法,我们可以轻松看到前几行。...这些是Pandas可以检测到的缺失值。 回到我们的原始数据集,让我们看一下“ ST_NUM”列。 ? 第三列中有一个空单元格。在第七行中,有一个“ NA”值。 显然,这些都是缺失值。...从前面的示例中,我们知道Pandas将检测到第7行中的空单元格为缺失值。让我们用一些代码进行确认。...要尝试将条目更改为整数,我们使用。int(row) 如果可以将值更改为整数,则可以使用Numpy's将条目更改为缺少的值。np.nan 另一方面,如果不能将其更改为整数,我们pass将继续。

5.2K40
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    Pandas部分应掌握的重要知识点

    Pandas部分应掌握的重要知识点 import numpy as np import pandas as pd 一、DataFrame数据框的创建 1、直接基于二维数据创建(同时使用index和columns...team.head() 二、查看数据框中的数据和联机帮助信息 1、查看特殊行的数据 (1)查看前n行:head(n),不指定n时默认前5行。...5的行; ② loc索引器的切片却包含终值,所以team.loc[3:4,[0,2]]中却包含行标签为4的行; ③ 同样是整数,在iloc索引器中将被解读为行/列下标,而在loc索引器中将被解读为行...: 下面把标签为2的那行数据修改为["Rose","Sales","Female"]。...六、处理缺失值 1、Pandas中缺失值的表示 Pandas表示缺失值的一种方法是使用NaN(Not a Number),它是一个特殊的浮点数;另一种是使用Python中的None;Pandas会自动把

    5.4K00

    30 个小例子帮你快速掌握Pandas

    读取数据集 本次演示使用Kaggle上提供的客户流失数据集[1]。 让我们从将csv文件读取到pandas DataFrame开始。...选择特定的列 3.读取DataFrame的一部分行 read_csv函数允许按行读取DataFrame的一部分。有两种选择。第一个是读取前n行。...missing_index = np.random.randint(10000,size = 20) 接下来将某些值更改为np.nan(缺失值)。...例如,Geography列具有3个唯一值和10000行。 我们可以通过将其数据类型更改为category来节省内存。...25.绘制直方图 Pandas不是数据可视化库,但用它创建一些基本图形还是非常简单的。 我发现使用Pandas创建基本图比使用其他数据可视化库更容易。 让我们创建Balance列的直方图。

    15.1K10

    使用pandas进行文件读写

    pandas是数据分析的利器,既然是处理数据,首先要做的当然是从文件中将数据读取进来。pandas支持读取非常多类型的文件,示意如下 ?...') 和python内置的csv模块相比,pandas的代码非常的简洁,只需要一行就可以搞定了。...# 默认的注释标识符为# >>> pd.read_csv('test.csv', comment = "#") # 默认行为,指定第一行作为表头,即数据框的列名 >>> pd.read_csv('test.csv...,指定索引对应的列为数据框的行标签 >>> pd.read_csv('test.csv', index_col=0) # usecols参数根据索引选择部分列 >>> pd.read_csv('test.csv..., 表示不输出数据框的列标签 >>> a.to_csv('test1.csv', header = None) # index = False, 表示不输出数据框的行标签 >>> a.to_csv('test1

    3.6K10

    【Mark一下】46个常用 Pandas 方法速查表

    你可以粗略浏览本文,了解Pandas的常用功能;也可以保存下来,作为以后数据处理工作时的速查手册,没准哪天就会用上呢~ 1创建数据对象 Pandas最常用的数据对象是数据框(DataFrame)和Series...数据框与R中的DataFrame格式类似,都是一个二维数组。Series则是一个一维数组,类似于列表。数据框是Pandas中最常用的数据组织方式和对象。...有关更多数据文件的读取将在第三章介绍,本节介绍从对象和文件创建数据框的方式,具体如表1所示: 表1 Pandas创建数据对象 方法用途示例示例说明read_table read_csv read_excel...[0:2)之间,列名为'col1'和'col2'的记录,行索引不包含2 提示 如果选择特定索引的数据,直接写索引值即可。...col2值为b的记录 5 数据预处理操作 Pandas的数据预处理基于整个数据框或Series实现,整个预处理工作包含众多项目,本节列出通过Pandas实现的场景功能。

    6.8K20

    Python替代Excel Vba系列(三):pandas处理不规范数据

    本文要点: 使用 pandas 处理不规范数据。 pandas 中的索引。...如下是一个 DataFrame 的组成部分: 红框中的是 DataFrame 的值部分(values) 上方深蓝色框中是 DataFrame 的列索引(columns),注意,为什么方框不是一行?...类似于平时的复合表头。 左方深蓝色框中是 DataFrame 的行索引(index)。本质上是与列索引一致,只是 index 用于定位行,columns 用于定位列。...pandas 中通过 stack 方法,可以把需要的列索引转成行索引。 用上面的数据作为例子,我们需要左边的行索引显示每天上下午的气温和降雨量。...---- 数据如下: ---- ---- 最后 本文通过实例展示了如何在 Python 中使用 xlwings + pandas 灵活处理各种的不规范格式表格数据。

    7.2K30

    数据分析之Pandas(一)

    数据分析之Pandas(一) 0.说在前面 今日来谈谈数据分析的pandas使用,本来今天出cs231n的全连接网络更新的,结果没写成文章,太长了,至少2000-3000字,今晚有课,所以就没写成,明天继续搞...# 按行或列设置 # 列批处理,F列全改为NaN df['F'] = np.nan print(df) 4.5 添加Series序列(长度必须对齐) df['E'] = pd.Series([1,2,3,4,5,6...[2,:]=np.nan df.ix['20180823'] = np.nan print(df) 5.Pandas处理丢失数据 5.1 创建含NaN的矩阵 # Pandas处理丢失数据 import...pandas as pd import numpy as np # 创建含NaN的矩阵 # 如何填充和删除NaN数据dates = pd.date_range('20180820',periods=6...16 17.0 18.0 19 2018-08-25 20 21.0 22.0 23 ''' 5.2 删除掉有NaN的行或列 # 删除掉有NaN的行或列 print(df.dropna(

    1.9K20

    Pandas Sort:你的 Python 数据排序指南

    最常见的数据分析是使用电子表格、SQL或pandas 完成的。使用 Pandas 的一大优点是它可以处理大量数据并提供高性能的数据操作能力。...Pandas 排序方法入门 快速提醒一下,DataFrame是一种数据结构,行和列都带有标记的轴。您可以按行或列值以及行或列索引对 DataFrame 进行排序。...行和列都有索引,它是数据在 DataFrame 中位置的数字表示。您可以使用 DataFrame 的索引位置从特定行或列中检索数据。默认情况下,索引号从零开始。您也可以手动分配自己的索引。...Y Manual 5-spd 1993 [100 rows x 10 columns] 您已经创建了一个使用多个值排序的 DataFrame。请注意行索引是如何没有特定顺序的。...就像in.sort_values()的默认参数是,您可以通过传递 更改为降序。对索引进行排序对数据本身没有影响,因为值不变。

    17.3K00

    python对100G以上的数据进行排序,都有什么好的方法呢

    学习 Pandas排序方法是开始或练习使用 Python进行基本数据分析的好方法。最常见的数据分析是使用电子表格、SQL或pandas 完成的。...Pandas 排序方法入门 快速提醒一下,DataFrame是一种数据结构,行和列都带有标记的轴。您可以按行或列值以及行或列索引对 DataFrame 进行排序。...行和列都有索引,它是数据在 DataFrame 中位置的数字表示。您可以使用 DataFrame 的索引位置从特定行或列中检索数据。默认情况下,索引号从零开始。您也可以手动分配自己的索引。...Y Manual 5-spd 1993 [100 rows x 10 columns] 您已经创建了一个使用多个值排序的 DataFrame。请注意行索引是如何没有特定顺序的。...就像in.sort_values()的默认参数是,您可以通过传递 更改为降序。对索引进行排序对数据本身没有影响,因为值不变。

    12.5K30

    三个你应该注意的错误

    假设促销数据存储在一个DataFrame中,看起来像下面这样(实际上不会这么小): 如果你想跟随并自己做示例,以下是用于创建这个DataFrame的Pandas代码: import pandas as...在Pandas的DataFrame上进行索引非常有用,主要用于获取和设置数据的子集。 我们可以使用行和列标签以及它们的索引值来访问特定的行和标签集。 考虑我们之前示例中的促销DataFrame。...操作按预期执行(即值更新为45),但我们不应该忽视这个警告。 根据Pandas文档,“分配给链式索引的乘积具有内在的不可预测的结果”。主要原因是我们无法确定索引操作是否会返回视图或副本。...loc:按行和列的标签进行选择 iloc:按行和列的位置进行选择 默认情况下,Pandas将整数值(从0开始)分配为行标签。因此,行标签和索引值变得相同。...现在让我们使用loc方法执行相同的操作。由于行标签和索引值是相同的,我们可以使用相同的代码(只需将iloc更改为loc)。

    1.3K10

    Pandas 2.2 中文官方教程和指南(四)

    例如,假设我们想看到小费金额如何随一周中的日期而变化 - DataFrameGroupBy.agg()允许您向分组的数据框传递一个字典,指示要应用于特定列的函数。...索引值也是持久的,因此���果重新排列DataFrame中的行,特定行的标签不会改变。 查看 索引文档 以了解如何有效使用Index。 复制 vs....传递给数据框,返回所有具有True的��。...索引值也是持久的,因此如果重新排序DataFrame的行,则特定行的标签不会更改。 查看 索引文档以获取更多关于如何有效使用Index的信息。 副本 vs....索引值也是持久的,因此如果重新排列DataFrame中的行,则特定行的标签不会更改。 查看索引文档以了解如何有效地使用Index。

    2.2K10

    Pandas知识点-缺失值处理

    Pandas中的空值有三个:np.nan (Not a Number) 、 None 和 pd.NaT(时间格式的空值,注意大小写不能错),这三个值可以用Pandas中的函数isnull(),notnull...从Python解释器来看,np.nan的类型是float,None的类型是NoneType,两者在Pandas中都显示为NaN,pd.NaT的类型是Pandas中的NaTType,显示为NaT。...找到这些值后,将其替换成np.nan,数据就只有空值一种缺失值了。 此外,在数据处理的过程中,也可能产生缺失值,如除0计算,数字与空值计算等。 二、判断缺失值 1....axis: axis参数默认为0('index'),按行删除,即删除有空值的行。将axis参数修改为1或‘columns’,则按列删除,即删除有空值的列。...将how参数修改为all,则只有一行(或列)数据中全部都是空值才会删除该行(或列)。 thresh: 表示删除空值的界限,传入一个整数。

    7K40

    模型|利用Python语言做逻辑回归算法

    我们将使用泰坦尼克数据集的“半清理”版本,如果您使用直接托管在Kaggle上的数据集,您可能需要做一些额外的清理。 导入库 让我们导入一些库来开始吧! Pandas和Numpy更容易分析。...pandas的一个数据框开始。...我们稍后可能会删除这个,或者将其更改为另一个特性,如“Cabin Known: 1或0” 让我们继续可视化更多的数据! 根据性别存活下来的人数的计数图。...数据清洗 我们想要填充缺失的年龄数据,而不是仅仅删除缺失的年龄数据行。一种方法是填入所有乘客的平均年龄。然而,我们可以更聪明地了解这一点,并按乘客级别检查平均年龄。...sns.heatmap(train.isnull(),yticklabels=False,cbar=False,cmap='viridis') 让我们继续,删除Cabin列和宝行NaN的行。

    2.3K31

    5种高效利用value-counts函数的方法,一键提升数据挖掘姿势水平

    此函数返回 pandas 数据框中各个项的数量。但在使用 value-counts 函数的大多数时候用到的是默认参数。因此,在这篇短文中,作者介绍了如何通过自定义参数来实现更多的功能。 ?...也就是说,对于数据框中的任何列,value-counts () 方法会返回该列每个项的计数。 语法 Series.value_counts() 参数 ?...值的计数 默认情况下,无效值(NaN)是不会被包含在结果中的。...它跟 pd.cut 函数很像,让我们来看一下它是如何在 Fare 这一列大显身手的吧!...因此,我们可以看到,value_counts() 函数是一个非常方便的工具,我们可以使用这一行代码进行一些有趣的分析。

    1.1K10
    领券