今天和大家分享如果使用Pandas实现单、多条件筛选、模糊筛选。 还是老套路，我们需要先读取一组数据作为测试文件。...这里两个数字都是闭合的，案例中[7:11]则选取的是第8行至第12行（pandas从0开始编号） 二、提取任意列 1、按照列名提取单列 ? 2、按照列名提取多列 ?...发现传统的文本转数字不管用哇！为虾米呢？这个文本转数字只适用于数字以文本形式存储的数据，不适用于本身只能用文本形式存储的数据。（略拗口，可以自己想想~） 由于原始数据带了一个%。...费了九年二虎之力，终于分别实现了不同列的判断条件。 如何把两列混合在一起呢？如何以且关系进行组合判断呢？ ?...=0, end=None)>=0 将名称那一列使用字符串的find函数，如果find的返回值大于0，证明就是含有金字的，如果没有金字，返回值是-1，所以通过该方法可以判断哪行数据含有金字。
切片形式访问时按行进行查询，又区分数字切片和标签切片两种情况：当输入数字索引切片时，类似于普通列表切片；当输入标签切片时，执行范围查询（即无需切片首末值存在于标签列中），包含两端标签结果，无匹配行时返回为空...isin/notin，条件范围查询，即根据特定列值是否存在于指定列表返回相应的结果 where，仍然是执行条件查询，但会返回全部结果，只是将不满足匹配条件的结果赋值为NaN或其他指定值，可用于筛选或屏蔽值...时间类型向量化操作，如字符串一样，在pandas中另一个得到"优待"的数据类型是时间类型，正如字符串列可用str属性调用字符串接口一样，时间类型列可用dt属性调用相应接口，这在处理时间类型时会十分有效。...unique、nunique，也是仅适用于series对象，统计唯一值信息，前者返回唯一值结果列表，后者返回唯一值个数(number of unique） ?...另外，均支持两种形式的绘图接口： plot属性+相应绘图接口，如plot.bar()用于绘制条形图 plot()方法并通过传入kind参数选择相应绘图类型，如plot(kind='bar') ?
把这些列名变短会让你的工作更加轻松： ? 有一点需要注意的是，在这里我故意让所有列的标签都没有空格和横线。后面你将会看到，如果我们这样命名变量，Pandas会将它们存成什么类型。...如果你读过这一系列中Numpy那一篇帖子，你可能会记得一项技术叫做‘boolean masking’,即我们可以在数组上运行一个条件语句来获得对应的布尔值数组。...好，我们也可以在Pandas中做同样的事。 ? 上述代码将范围一个布尔值的dataframe，其中，如果9、10月的降雨量低于1000毫米，则对应的布尔值为‘True’,反之，则为’False’。...这将会给’water_year’一个新的索引值。注意到列名虽然只有一个元素，却实际上需要包含于一个列表中。如果你想要多个索引，你可以简单地在列表中增加另一个列名。 ?...操作一个数据集结构 另一件经常会对dataframe所做的操作是为了让它们呈现出一种更便于使用的形式而对它们进行的重构。 首先，groupby： ? grouby所做的是将你所选择的列组成一组。
另一种常见的数据形式是嵌套字典，如果嵌套字典传给DataFrame， Pandas 就会被解释为：外层字典的键作为列，内层键则作为行索引： import pandas as pd pop1 = {'...虽然许多 Pandas 函数（如reindex）都要求标签唯一，但这并不是强制性的。...它们大部分都属于约简和汇总统计，用于从Series中提取单个值（如sum或mean）或从DataFrame的行或列中提取一个Series。...，它可以得到Series中的唯一值数组： uniques = obj.unique() print(uniques) 返回的唯一值是未排序的，如果需要的话，可以对结果再次进行排序（uniques.sort...计算Series中的唯一值数组，按发现的顺序返回 value_counts 返回一个Series，其索引为唯一值，其值为频率，按计数值降序排列 有时，你可能希望得到DataFrame中多个相关列的一张柱状图
我们删除了4列，因此列数从14减少到10。 2.读取时选择特定的列 我们只打算读取csv文件中的某些列。读取时，列列表将传递给usecols参数。如果您事先知道列名，则比以后删除更好。...尽管我们对loc和iloc使用了不同的列表示形式，但行值没有改变。原因是我们使用数字索引标签。因此，行的标签和索引都相同。 缺失值的数量已更改： ? 7.填充缺失值 fillna函数用于填充缺失值。...8.删除缺失值 处理缺失值的另一种方法是删除它们。“已退出”列中仍缺少值。以下代码将删除缺少任何值的行。...Balance hist 11.用isin描述条件 条件可能有几个值。在这种情况下，最好使用isin方法，而不是单独写入值。 我们只传递期望值的列表。...method参数指定如何处理具有相同值的行。first表示根据它们在数组（即列）中的顺序对其进行排名。 21.列中唯一值的数量 使用分类变量时，它很方便。我们可能需要检查唯一类别的数量。
DataFrame的列进行算术运算，只要它们的行是有意义的标签，如下图所示： 索引DataFrames 普通的方括号根本不足以满足所有的索引需求。...当使用几个条件时，它们必须用括号表示，如下图所示： 当你期望返回一个单一的值时，你需要特别注意。 因为有可能有几条符合条件的记录，所以loc返回一个Series。...1:1的关系joins 这时，关于同一组对象的信息被存储在几个不同的DataFrame中，而你想把它合并到一个DataFrame中。 如果你想合并的列不在索引中，可以使用merge。...注意：要小心，如果第二个表有重复的索引值，你会在结果中出现重复的索引值，即使左表的索引是唯一的 有时，连接的DataFrame有相同名称的列。...一列范围内的用户函数唯一可以访问的是索引，这在某些情况下是很方便的。例如，那一天，香蕉以50%的折扣出售，这可以从下面看到： 为了从自定义函数中访问group by列的值，它被事先包含在索引中。
关系数据库的一种非常常见的做法是将主键（如果存在）作为第一列，并在其后直接放置任何外键。 主键唯一地标识当前表中的行。 外键唯一地标识其他表中的行。...如果在创建数据帧的过程中未指定索引（如本秘籍所述），pandas 会将索引默认为RangeIndex。RangeIndex与内置范围函数非常相似。 它按需产生值，并且仅存储创建索引所需的最少信息量。...为了确保标签正确，我们在步骤 6 中从索引中随机选择四个标签，并将它们存储到列表中，然后再将它们的值选择为序列。 使用.loc索引器的选择始终包含最后一个元素，如步骤 7 所示。...这些布尔值通常存储在序列或 NumPy ndarray中，通常是通过将布尔条件应用于数据帧中的一个或多个列来创建的。...缺少值是float数据类型，因此任何以前的整数列现在都是浮点数。 如果列的数据类型不同，即使值相同，equals方法也会返回False。
中，我们可以使用SELECT语句从表选择数据，结果被存储在一个结果表中，语法如下： SELECT column_name,column_name FROM table_name; 如果不想显示全部的记录...而在pandas中，我们可以通过将列名列表传递给DataFrame来完成列选择 ?...二、查找 单条件查找 在SQL中，WHERE子句用于提取那些满足指定条件的记录，语法如下 SELECT column_name,column_name FROM table_name WHERE column_name...而在pandas中，按照条件进行查找则可以有多种形式，比如可以将含有True/False的Series对象传递给DataFrame，并返回所有带有True的行 ?...在pandas中也有类似的操作 ? 查找空值 在pandas检查空值是使用notna()和isna()方法完成的。
较亮的像素具有较高的降雨值。在下一节中，我将提取这些值并将它们转换为pandas数据框。 从光栅文件中提取数据 现在进入关键步骤——提取每个366个光栅图像的像素值。...这个过程很简单：我们将循环遍历每个图像，读取像素值并将它们存储在一个列表中。 我们将另外在另一个列表中跟踪日期信息。我们从哪里获取日期信息？...如果你仔细查看文件名，你会注意到它们是按照每个相应的日期命名的。...因此，我们刚刚创建了两个列表，一个存储文件名中的日期，另一个存储降雨数据。...), columns = ['date', 'rainfall_mm']) df.head() 现在我们有了一个pandas数据框，但请注意，“日期”列中的值是字符串，pandas尚不知道它代表日期
内存优化 一个现象是，在使用pandas进行数据处理的时候，加载大的数据或占用很大的内存和时间，甚至有时候发现文件在本地明明不大，但是用pandas以DataFrame形式加载内存中的时候会占用非常高的内存...pandas 内部将数值表示为 NumPy ndarrays，因为 pandas 表示同一类型的每个值时都使用同样的字节数，而 NumPy ndarray 可以存储值的数量，所以 pandas 可以快速准确地返回一个数值列所消耗的字节数...解决的办法是：pandas 在 0.15 版引入了 Categorials。category 类型在底层使用了int值来表示一个列中的值，而不是使用原始值。...当我们将一列转换成 category dtype 时，pandas 就使用最节省空间的 int 子类型来表示该列中的所有不同值。...你可以在此处执行的一项非常有用的操作是预处理，然后将数据存储在已处理的表单中，以便在需要时使用。但是，如何以正确的格式存储数据而无需再次重新处理？
Python的基本数据类型包括以下几种，这些数据类型表示了自身在Python中的存储形式。...列表(list) 1.1 列表简介 列表list是Python内置的一种数据类型，是一种有序的集合，用来存储一连串元素的容器，列表用[]来表示，其中元素的数据类型可不相同。...，条件会随着循环的运行而发生变化，当条件满足时，循环终止。...循环代码中使用了break表示满足条件时终止循环。...05 pandas 读取结构化数据 Numpy中的多维数组、矩阵等对象具备极高的执行效率，但是在商业数据分析中，我们不仅需要一堆数据，还需要了解各行、列的意义，同时会有针对结构化数据的相关计算，这些是Numpy
函数的第二个参数（delimiter=','）是默认分隔符，如果输入和输出文件都用逗号分隔，就不需要此参数。 使用filewriter对象的writerow函数来将每行中的列表值写入输出文件。...2.2 筛选特定的行 在输入文件筛选出特定行的三种方法： 行中的值满足某个条件 行中的值属于某个集合 行中的值匹配正则表达式 从输入文件中筛选出特定行的通用代码结构： for row in filereader...meets some business rule or set of rules:*** do something else: do something else 行中的值满足某个条件...需要在逗号前设定行筛选条件，在逗号后设定列筛选条件。 例如，loc函数的条件设置为：Supplier Name列中姓名包含 Z，或者Cost列中的值大于600.0，并且需要所有的列。...最后，对于第三个值，使用内置的len 函数计算出列表变量header 中的值的数量，这个列表变量中包含了每个输入文件的列标题列表。我们使用这个值作为每个输入文件中的列数。
我们可以用加减乘除（+ - * /）这样的运算符对两个 Series 进行运算，Pandas 将会根据索引 index，对响应的数据进行计算，结果将会以浮点数的形式存储，以避免丢失精度。 ?...DataFrames Pandas 的 DataFrame（数据表）是一种 2 维数据结构，数据以表格的形式存储，分成若干行和列。通过 DataFrame，你能很方便地处理数据。...此外，你还可以制定多行和/或多列，如上所示。 条件筛选 用中括号 [] 的方式，除了直接指定选中某些列外，还能接收一个条件语句，然后筛选出符合条件的行/列。...你可以用逻辑运算符 &（与）和 |（或）来链接多个条件语句，以便一次应用多个筛选条件到当前的 DataFrame 上。举个栗子，你可以用下面的方法筛选出同时满足 'W'>0 和'X'>1 的行： ?...在上面的例子中，数据透视表的某些位置是 NaN 空值，因为在原数据里没有对应的条件下的数据。
创建数据表 创建表的语法形式 SQL CREATE TABLE ( 字段名1 数据类型 [列级别约束条件] [默认值], 字段名2 数据类型 [列级别约束条件] [默认值], …… [表级别约束条件...如果字段值满足指定的范围查询条件，则这些记录被返回。 同样，在BETWEEN AND关键字前面加上 NOT即可使得查询的结果正好相反。...) 返回某列的最小值 SUM() 返回某列值的和 连接查询 内连接查询 在内连接查询中，只有满足条件的记录才能出现在结果关系中。...带 ANY、SOME关键字的子查询 ANY和 SOME关键字是同义词，表示满足其中任一条件，它们允许创建一个表达式对子查询的返回值列表进行比较，只要满足内层子查询中的任何一个比较条件，就返回一个结果作为外层查询的条件...当外层查询语句内只要有一个内层查询语句返回的数据列中的数据时，则判断为满足条件，外层查询语句将进行查询。 带比较运算符的子查询 子查询可以使用如 '','>=','!
它表示为方括号中的数据点集合。列表可用于存储任何数据类型或不同数据类型的混合。 列表是可变的，这也是为什么它们如此常用的原因之一。因此，我们可以删除和添加项。也可以更新列表中的项目。...列表生成式相对比for循环快。 ? 下面是一个简单的列表生成式，它根据给定的条件从另一个列表创建一个列表。...考虑一个需要存储学生成绩的案例。我们可以把它们存储在字典或列表中。 ? 创建字典的一种方法是在大括号中编写键值对。...不同的可散列对象：一个集合包含唯一的元素。hashable表示不可变。尽管集合是可变的，但集合的元素必须是不变的。 我们可以通过将逗号分隔的对象放在大括号中来创建一个集合。...大多数与数据科学相关的任务都是通过第三方库和框架完成的，如Pandas、Matplotlib、sciket-learn、TensorFlow等。
使用 Python 字典列表时，字典键将用作列标题，每个列表中的值将用作DataFrame的列。...记住 导入包，即 import pandas as pd 数据表以 pandas 的 DataFrame 形式存储 DataFrame 中的每一列都是一个 Series 您可以通过将方法应用于...当使用 Python 字典的列表时，字典的键将被用作列标题，每个列表中的值将作为 DataFrame 的列。...记住 导入包，即import pandas as pd 数据表以 pandas DataFrame的形式存储 每个DataFrame中的列都是一个Series 你可以通过将方法应用于...，isin() 条件函数会对提供的列表中的每一行返回True。
例如，下例演示了如何以这种方式创建字 典alien_0： 往期快速传送门（在文章最后）： 5.4 使用 if 语句处理列表 通过结合使用if语句和列表，可完成一些有趣的任务：对列表中特定的值做特殊处理；...5.4.2 确定列表不是空的 到目前为止，对于处理的每个列表都做了一个简单的假设，即假设它们都至少包含一个元素。 我们马上就要让用户来提供存储在列表中的信息，因此不能再假设循环运行时列表不是空的。...可使用列表和if语句来确定能否满足顾客的要求。 来看看在制作比萨前如何拒绝怪异的配料要求。下面的示例定义了两个列表，其中第一个列 表包含比萨店供应的配料，而第二个列表包含顾客点的配料。...在1处，我们定义了一个列表，其中包含比萨店供应的配料。请注意，如果比萨店供应的配 料是固定的，也可使用一个元组来存储它们。...你学习了如何编写 简单的if语句、if-else语句和if-elif-else结构。在程序中，你使用了这些结构来测试特定的条 件，以确定这些条件是否满足。
2.1 数据变换方法（6.2.1 ） 数据变换的常见处理方式包括： 数据标准化处理 数据离散化处理 数据泛化处理 在对数据进行分析或挖掘之前，数据必须满足一定的条件: 比如方差分析时要求数据具有正态性...转换函数如： 其中 max为样本数据的最大值，min为样本数据的最小值。max-min为极差。 以一个例子说明标准化的计算过程。...基于列值重塑数据(生成一个“透视”表)。使用来自指定索引/列的唯一值来形成结果DataFrame的轴。此函数不支持数据聚合，多个值将导致列中的MultiIndex。...pivot_table透视的过程如下图： 假设某商店记录了5月和6月活动期间不同品牌手机的促销价格，保存到以日期、商品名称、价格为列标题的表格中，若对该表格的商品名称列进行轴向旋转操作，即将商品名称一列的唯一值变换成列索引...，将出售日期一列的唯一值变换成行索引。
在开始之前，先快速回顾一下pandas -中的查询函数query。查询函数用于根据指定的表达式提取记录，并返回一个新的DataFrame。表达式是用字符串形式表示的条件或条件的组合。...返回的输出将包含该表达式评估为真的所有行。 示例1 提取数量为95的所有行，因此逻辑形式中的条件可以写为 - Quantity == 95 需要将条件写成字符串，即将其包装在双引号“”中。...它返回了数量为95的所有行。如果用一般查询的方式可以写成： df [df [“Quantity”] == 95] 但是，如果想在同一列中再包含一个条件怎么办？...： df.query("Quantity == 95 or UnitPrice == 182") 它返回满足两个条件中的任意一个条件的所有列。...日期时间列过滤 使用Query（）函数在日期时间值上进行查询的唯一要求是，包含这些值的列应为数据类型dateTime64 [ns] 在示例数据中，OrderDate列是日期时间，但是我们的df其解析为字符串
在开始之前，先快速回顾一下Pandas中的查询函数query。查询函数用于根据指定的表达式提取记录，并返回一个新的DataFrame。表达式是用字符串形式表示的条件或条件的组合。...如果用一般查询的方式可以写成： df [df [“Quantity”] == 95] 但是，如果想在同一列中再包含一个条件怎么办？ 它在括号符号中又增加了一对方括号，如果是3个条件或者更多条件呢？...： df.query("Quantity == 95 or UnitPrice == 182") output 它返回满足两个条件中的任意一个条件的所有列。...示例5 想获得即状态“未发货”所有记录，可以在query()表达式中写成如下的形式： df.query("Status == 'Not Shipped'") output 它返回所有记录，其中状态列包含值...日期时间列过滤 使用query()函数在日期时间值上进行查询的唯一要求是，包含这些值的列应为数据类型dateTime64 [ns] 在示例数据中，OrderDate列是日期时间，但是我们的df其解析为字符串
领取专属 10元无门槛券
手把手带您无忧上云
