在本章中,您将学习如何从数据帧中选择一个数据列,该数据列将作为序列返回。 使用此一维对象可以轻松显示不同的方法和运算符如何工作。 许多序列方法返回另一个序列作为输出。...准备 此秘籍将数据帧的索引,列和数据提取到单独的变量中,然后说明如何从同一对象继承列和索引。...第二个操作实际上是检查数据帧是否具有相同标签的索引,以及是否具有相同数量的元素。 如果不是这种情况,操作将失败。 有关更多信息,请参见第 6 章,“索引对齐”中的“生成笛卡尔积”秘籍。...对于所有数据帧,列值始终是一种数据类型。 关系数据库也是如此。 总体而言,数据帧可能由具有不同数据类型的列组成。 在内部,Pandas 将相同数据类型的列一起存储在块中。...Pandas 根据索引是唯一索引还是排序索引来不同地实现索引。 有关更多详细信息,请参见以下秘籍。 使用唯一索引和排序索引进行选择 当索引是唯一的或已排序时,索引选择性能会大大提高。
六、索引对齐 在本章中,我们将介绍以下主题: 检查索引对象 生成笛卡尔积 索引爆炸 用不相等的索引填充值 追加来自不同数据帧的列 突出显示每一列的最大值 用方法链复制idxmax 寻找最常见的最大值 介绍...检查索引对象 如第 1 章,“Pandas 基础”中所讨论的,序列和数据帧的每个轴都有一个索引对象,用于标记值。 有许多不同类型的索引对象,但是它们都具有相同的共同行为。...另见 Pandas Index的官方文档 生成笛卡尔积 每当两个序列或数据帧与另一个序列或数据帧一起操作时,每个对象的索引(行索引和列索引)都首先对齐,然后再开始任何操作。...如果笛卡尔积是 Pandas 的唯一选择,那么将数据帧的列加在一起这样的简单操作将使返回的元素数量激增。 在此秘籍中,每个序列具有不同数量的元素。...在数据帧的当前结构中,它无法基于单个列中的值绘制不同的组。 但是,第 23 步显示了如何设置数据帧,以便 Pandas 可以直接绘制每个总统的数据,而不会像这样循环。
它将分为以下几点: 1、在Pandas数据流中生成数据。 2、数据帧内的数据检索/操作。...2 数据帧操作 在本节中,我将展示一些关于Pandas数据帧的常见问题的提示。 注意:有些方法不直接修改数据帧,而是返回所需的数据帧。...missing = {‘tags’:’mcq’, ‘difficulty’: ‘N’} data.fillna(value = missing, inplace = True) 从数据帧中获取已排序的样本...: 假设您想通过一个id属性对2000行(甚至整个数据帧)的样本进行排序。...让我用一个例子来演示如何做到这一点。我们有用户用分数解决不同问题的历史,我们想知道每个用户的平均分数。找到这一点的方法也相对简单。
使用 NumPy 时,对行和列索引的控制不多; 但是对于一个序列,该序列中的每个元素都必须具有唯一的索引,名称,键,但是您需要考虑一下。...向序列添加索引的另一种方法是通过将唯一哈希值的索引或类似数组的对象传递给序列的创建方法的index参数来创建索引。 我们也可以单独创建索引。 创建索引与创建序列很像,但是我们要求所有值都必须唯一。...处理 Pandas 数据帧中的丢失数据 在本节中,我们将研究如何处理 Pandas 数据帧中的丢失数据。 我们有几种方法可以检测对序列和数据帧都有效的缺失数据。...对于分层索引,我们认为数据帧中的行或序列中的元素由两个或多个索引的组合唯一标识。 这些索引具有层次结构,选择一个级别的索引将选择具有该级别索引的所有元素。...请注意,plot方法会自动生成一个键和一个图例,并为不同的线分配颜色,这些线与我们要绘制的数据帧的列相对应。
序列与 NumPy 数组相似,但是它的不同之处在于具有索引,该索引允许对项目进行更丰富的查找,而不仅仅是从零开始的数组索引值。 以下从 Python 列表创建一个序列。: 输出包括两列信息。...例如,以下内容返回温度差的平均值: Pandas 数据帧 Pandas Series只能与每个索引标签关联一个值。 要使每个索引标签具有多个值,我们可以使用一个数据帧。...这些列是数据帧中包含的新Series对象,具有从原始Series对象复制的值。 可以使用带有列名或列名列表的数组索引器[]访问DataFrame对象中的列。...代替单个值序列,数据帧的每一行可以具有多个值,每个值都表示为一列。 然后,数据帧的每一行都可以对观察对象的多个相关属性进行建模,并且每一列都可以表示不同类型的数据。...此外,我们看到了如何替换特定行和列中的数据。 在下一章中,我们将更详细地研究索引的使用,以便能够有效地从 pandas 对象内检索数据。
六、索引数据 索引是用于优化查询序列或数据帧中的值的工具。 它们很像关系数据库中的键,但是功能更强大。 它们为多组数据提供了对齐方式,还带有如何处理数据的各种任务(如重采样到不同频率)的语义。...具体来说,我们将检查: 对序列或数据帧创建和使用索引 用索引选择值的方法 在索引之间移动数据 重新索引 Pandas 对象 对序列或数据帧创建和使用索引 索引可以显式创建,也可以让 Pandas 隐式创建...索引中多个级别的规范允许使用每个级别的值的不同组合来有效选择数据的不同子集。 从技术上讲,具有多个层次结构的 Pandas 索引称为MultiIndex。...最后,我们对使用分层索引的研究进行了总结,该分层索引能够有效地检索与多个索引中的标签匹配的数据,从而为我们提供了选择数据子集的有力手段。 至此,我们已经涵盖了 Pandas 的许多基本建模部分。...具体来说,您将学习: 整洁数据的概念 如何处理缺失的数据 如何在数据中查找NaN值 如何过滤(删除)缺失的数据 Pandas 如何在计算中处理缺失值 如何查找,过滤和修复未知值 对缺失值执行插值 如何识别和删除重复数据
大数据的种类 大数据的种类来自具有生成数据的多种数据源以及所生成数据的不同格式。 这给必须处理数据的数据接收者带来了技术挑战。...默认行为是为未对齐的序列结构生成索引的并集。 这是可取的,因为信息可以保留而不是丢失。 在本书的下一章中,我们将处理 Pandas 中缺失的值。 数据帧 数据帧是一个二维标签数组。...使用ndarrays/列表字典 在这里,我们从列表的字典中创建一个数据帧结构。 键将成为数据帧结构中的列标签,列表中的数据将成为列值。 注意如何使用np.range(n)生成行标签索引。...如果我们的数据帧具有多重索引,则可以使用groupby按层次结构的不同级别分组并计算一些有趣的统计数据。...有关 SQL 连接如何工作的简单说明,请参考这里。 join函数 DataFrame.join函数用于合并两个具有不同列且没有共同点的数据帧。 本质上,这是两个数据帧的纵向连接。
isna 函数确定数据帧中缺失的值。...它可以对顺序数据(例如时间序列)非常有用。 8.删除缺失值 处理缺失值的另一个方法是删除它们。以下代码将删除具有任何缺失值的行。...df[['Geography','Gender','Exited']].groupby(['Geography','Gender']).agg(['mean','count']) 14.对不同的群体应用不同的聚合函数...23.数据类型转换 默认情况下,分类数据与对象数据类型一起存储。但是,它可能会导致不必要的内存使用,尤其是当分类变量具有较低的基数。 低基数意味着列与行数相比几乎没有唯一值。...例如,地理列具有 3 个唯一值和 10000 行。 我们可以通过将其数据类型更改为"类别"来节省内存。
3.数据队列。可以把不同队列的数据进行基本运算。 4.处理缺失数据。 5.分组运算。比如我们在前面泰坦尼克号中的groupby。 6.分级索引。 7.数据的合并和加入。 8.数据透视表。...数据帧 2 一般的二维标签,大小可变的表格结构,具有潜在的非均匀类型列。 面板 3 一般3D标签,大小可变的数组。 ---- Series 系列是具有均匀数据的一维数组结构。...index:索引值必须是唯一的和散列的,与数据的长度相同。...如果 索引 被传递, 索引 中的标签对应的数据值将被取出。...index:对于行标签,如果没有索引被传递,则要用于结果帧的索引是可选缺省值np.arrange(n)。 columns:对于列标签,可选的默认语法是 - np.arrange(n)。
因为我们的具体目标是向你展示下面这些: 1、创建一个日期范围 2、处理时间戳数据 3、将字符串数据转换为时间戳 4、数据帧中索引和切片时间序列数据 5、重新采样不同时间段的时间序列汇总/汇总统计数据 6...如果想要处理已有的实际数据,可以从使用pandas read_csv将文件读入数据帧开始,但是我们将从处理生成的数据开始。...df[df.index.day == 2] } 顶部是这样的: 我们还可以通过数据帧的索引直接调用要查看的日期: df['2018-01-03'] } 在特定日期之间选择数据如何df['2018-01-...04':'2018-01-06'] } 我们已经填充的基本数据帧为我们提供了每小时频率的数据,但是我们可以以不同的频率对数据重新采样,并指定我们希望如何计算新采样频率的汇总统计。...这是一个很好的机会,可以看到当处理丢失的数据值时,我们如何向前或向后填充数据。
二、数据选择 在本章中,我们将学习使用 Pandas 进行数据选择的高级技术,如何选择数据子集,如何从数据集中选择多个行和列,如何对 Pandas 数据帧或一序列数据进行排序,如何过滤 Pandas 数据帧的角色...我们还学习了如何对 Pandas 序列对象进行排序。 我们了解了用于从 Pandas 数据帧过滤行和列的方法。 我们介绍了几种方法来实现此目的。...我们学习了 Pandas 数据选择的各种技术,以及如何选择数据子集。 我们还学习了如何从数据集中选择多个角色和列。 我们学习了如何对 Pandas 数据帧或序列进行排序。...在12列中,我们有 3 列缺少值。 例如,Age的891行总数中只有714值;Cabin仅具有204记录的值;Embarked具有889记录的值。 我们可以使用不同的方法来处理这些缺失的值。...我们看到了如何处理 Pandas 中缺失的值。 我们探索了 Pandas 数据帧中的索引,以及重命名和删除 Pandas 数据帧中的列。 我们学习了如何处理和转换日期和时间数据。
本教程使用的示例是对历史上 SAT 和 ACT 数据的探索性分析,以比较不同州 SAT 和 ACT 考试的参与度和表现。在本教程的最后,我们将获得关于美国标准化测试的潜在问题的数据驱动洞察力。...为了比较州与州之间 SAT 和 ACT 数据,我们需要确保每个州在每个数据帧中都被平等地表示。这是一次创新的机会来考虑如何在数据帧之间检索 “State” 列值、比较这些值并显示结果。...我的方法如下图展示: ? 函数 compare_values() 从两个不同的数据帧中获取一列,临时存储这些值,并显示仅出现在其中一个数据集中的任何值。...为了合并数据而没有错误,我们需要对齐 “state” 列的索引,以便在数据帧之间保持一致。我们通过对每个数据集中的 “state” 列进行排序,然后从 0 开始重置索引值: ?...使用 Pandas 中的 pd.to_csv() 方法: ? 设置 index = False 保存没有索引值的数据。 是时候可视化呈现数据了!
操作数据帧可能很快会成为一项复杂的任务,因此在Pandas中的八种技术中均提供了说明,可视化,代码和技巧来记住如何做。 ?...初始DataFrame中将成为索引的列,并且这些列显示为唯一值,而这两列的组合将显示为值。这意味着Pivot无法处理重复的值。 ? 旋转名为df 的DataFrame的代码 如下: ?...Melt Melt可以被认为是“不可透视的”,因为它将基于矩阵的数据(具有二维)转换为基于列表的数据(列表示值,行表示唯一的数据点),而枢轴则相反。...为了访问狗的身高值,只需两次调用基于索引的检索,例如 df.loc ['dog']。loc ['height']。 要记住:从外观上看,堆栈采用表的二维性并将列堆栈为多级索引。...Unstack 取消堆叠将获取多索引DataFrame并对其进行堆叠,将指定级别的索引转换为具有相应值的新DataFrame的列。在表上调用堆栈后再调用堆栈不会更改该堆栈(原因是存在“ 0 ”)。
从本质上讲,Arrow 是一种标准化的内存中列式数据格式,具有适用于多种编程语言(C、C++、R、Python 等)的可用库。...其他值得指出的方面: 如果没有 pyarrow 后端,每个列/特征都存储为自己的唯一数据类型:数字特征存储为 int64 或 float64,而字符串值存储为对象; 使用 pyarrow,所有功能都使用...浏览 pyarrow 支持的数据类型和 numpy 数据类型之间的等效性实际上可能是一个很好的练习,以便您学习如何利用它们。 现在也可以在索引中保存更多的 numpy 数值类型。...作者代码段 请注意在引入 singleNone 值后,点如何自动从 int64 更改为 float64。 对于数据流来说,没有什么比错误的排版更糟糕的了,尤其是在以数据为中心的 AI 范式中。...当将数据作为浮点数传递到生成模型中时,我们可能会得到小数的输出值,例如 2.5——除非你是一个有 2 个孩子、一个新生儿和奇怪的幽默感的数学家,否则有 2.5 个孩子是不行的。
在多列上对 DataFrame 进行排序 按升序按多列排序 更改列排序顺序 按降序按多列排序 按具有不同排序顺序的多列排序 根据索引对 DataFrame 进行排序 按升序按索引排序 按索引降序排序 探索高级索引排序概念...在本教程中,您将学习如何使用.sort_values()和.sort_index(),这将使您能够有效地对 DataFrame 中的数据进行排序。...() 在对值进行排序时组织缺失的数据 使用set to 对DataFrame进行就地排序inplaceTrue 要学习本教程,您需要对Pandas DataFrames有基本的了解,并对从文件中读取数据有一定的了解...EPA 燃油经济性数据集非常棒,因为它包含许多不同类型的信息,您可以对其进行排序上,从文本到数字数据类型。该数据集总共包含八十三列。 要继续,您需要安装pandas Python 库。...由于您的 DataFrame 仍然具有其默认索引,因此按升序对其进行排序会将数据放回其原始顺序。
在本教程中,您将学习如何使用.sort_values()和.sort_index(),这将使您能够有效地对 DataFrame 中的数据进行排序。...() 在对值进行排序时组织缺失的数据 使用set to 对DataFrame进行就地排序inplaceTrue 要学习本教程,您需要对Pandas DataFrames有基本的了解,并对从文件中读取数据有一定的了解...Pandas 排序方法入门 快速提醒一下,DataFrame是一种数据结构,行和列都带有标记的轴。您可以按行或列值以及行或列索引对 DataFrame 进行排序。...EPA 燃油经济性数据集非常棒,因为它包含许多不同类型的信息,您可以对其进行排序上,从文本到数字数据类型。该数据集总共包含八十三列。 要继续,您需要安装pandas Python 库。...由于您的 DataFrame 仍然具有其默认索引,因此按升序对其进行排序会将数据放回其原始顺序。
关键技术: 二维数组索引语法总结如下: [对行进行切片,对列的切片] 对行的切片:可以有start:stop:step 对列的切片:可以有start:stop:step import pandas...数据获取 ①列索引取值 使用单个值或序列,可以从DataFrame中索引出一个或多个列。...True表示按连结主键(on 对应的列名)进行升序排列。 【例】创建两个不同的数据帧,并使用merge()对其执行合并操作。 关键技术:merge()函数 首先创建两个DataFrame对象。...: 四、数据运算 pandas中具有大量的数据计算函数,比如求计数、求和、求平均值、求最大值、最小值、中位数、众数、方差、标准差等。...的位置,值为first空值在数据开头,值为last空值在数据最后,默认为last ignore_index:布尔值,是否忽略索引,值为True标记索引(从0开始按顺序的整数值),值为False则忽略索引
简化将数据转换为 DataFrame 对象的过程,而这些数据基本是 Python 和 NumPy 数据结构中不规则、不同索引的数据; 基于标签的智能切片、索引以及面向大型数据集的子设定; 更加直观地合并以及连接数据集...; 更加灵活地重塑、转置(pivot)数据集; 轴的分级标记 (可能包含多个标记); 具有鲁棒性的 IO 工具,用于从平面文件 (CSV 和 delimited)、 Excel 文件、数据库中加在数据,...以及从 HDF5 格式中保存 / 加载数据; 时间序列的特定功能: 数据范围的生成以及频率转换、移动窗口统计、数据移动和滞后等。...Isin () 有助于选择特定列中具有特定(或多个)值的行。...当一个数据帧分配给另一个数据帧时,如果对其中一个数据帧进行更改,另一个数据帧的值也将发生更改。为了防止这类问题,可以使用 copy () 函数。
在使用Python进行数据分析时,Jupyter Notebook是一个非常强力的工具,在数据集不是很大的情况下,我们可以使用pandas轻松对txt或csv等纯文本格式数据进行读写。...本文将对pandas支持的多种格式数据在处理数据的不同方面进行比较,包含I/O速度、内存消耗、磁盘占用空间等指标,试图找出如何为我们的数据找到一个合适的格式的办法!...对比 现在开始对前文介绍的5种数据格式进行比较,为了更好地控制序列化的数据结构和属性我们将使用自己生成的数据集。 下面是生成测试数据的代码,我们随机生成具有数字和分类特征的数据集。...将五个随机生成的具有百万个观测值的数据集转储到CSV中,然后读回内存以获取平均指标。并且针对具有相同行数的20个随机生成的数据集测试了每种二进制格式。...2.对特征进行转换 在上一节中,我们没有尝试有效地存储分类特征,而是使用纯字符串,接下来我们使用专用的pandas.Categorical类型再次进行比较。 ?
领取专属 10元无门槛券
手把手带您无忧上云