一、前言 前几天在Python最强王者交流群【wen】问了一个Pandas自动化办公的问题，一起来看看吧。...请教问题 设置了header=None，通过drop_duplicates删除了重复行，怎样设置处理后的第一行为索引（原表格的列比较多，而且每次表格的列的名字不一定相同） 二、实现过程 这里【鶏啊鶏。
问题描述 在对课程表进行数据抽取时，由于课表结构的原因，需要在原始表字段名作为第一行数据，并对原始字段名进行替换。 原始数据如下所示： ? 2....解决办法 经思考，此问题可抽象为：在不影响原始数据的前提下，把字段名作为第一行数据插入原始数据表中，同时更新字段名。...总结 把字段名的数据插入到索引值为-1的行； 更新整个表索引值，加一操作，目的是修正步骤1的索引值为0； 对数据表按索引值升序排序，这样步骤1插入的数据就回到了第一行； 更新字段名。
=False) 查看唯一值和计数 df.apply(pd.Series.value_counts) 所有列的唯一值和计数 选择 df[col] 返回一维数组col的列 df[[col1, col2]]...作为新的数据框返回列 s.iloc[0] 按位置选择 s.loc['index_one'] 按索引选择 df.iloc[0,:] 第一行 df.iloc[0,0] 第一列的第一个元素 数据清洗 df.columns...) 从一列返回一组对象的值 df.groupby([col1,col2]) 从多列返回一组对象的值 df.groupby(col1)[col2] 返回col2中的值的平均值，按col1中的值分组（平均值可以用统计部分中的几乎任何函数替换...(col1).agg(np.mean) 查找每个唯一col1组的所有列的平均值 data.apply(np.mean) 在每个列上应用函数 data.apply(np.max,axis=1) 在每行上应用一个函数...() 查找每个列中的最大值 df.min() 查找每列中的最小值 df.median() 查找每列的中值 df.std() 查找每个列的标准差 点击“阅读原文”下载此速查卡的打印版本 END.
03 Groupby:分-治-合 group by具体来说就是分为3步骤，分-治-合，具体来说： 分：基于一定标准，splitting数据成为不同组 治：将函数功能应用在每个独立的组上 合：收集结果到一个数据结构上...分和合按照字面理解就可，但是“治”又是怎么理解，进一步将治分为3件事： 聚合操作，比如统计每组的个数，总和，平均值 转换操作，对每个组进行标准化，依据其他组队个别组的NaN值填充 过滤操作，忽略一些组...([ 'A', 'B'] ) 05 选择分组 分组后返回的对象类型为：DataFrameGroupBy，我们看下按照列标签'A'分组后，因为'A'的可能取值为：foo, bar ，所以分为了两组，通过DataFrameGroupBy...同样的方法，看下bar组包括的行： agroup = df.groupby('A') agroup.get_group('bar') ?...如果我们想看下每组的第一行，可以调用 first()，可以看到是每个分组的第一个，last()显示每组的最后一个： agroup.first() ?
例如nth方法，当给定一个整数列表时，该方法从每个组中选择那些特定的行。...例如，以下操作从每个组中选择第一行和最后一行： >>> grouped.nth([1, -1]).head(8) [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Htgv4GK7...更多 在此秘籍中，我们为每个组返回一行作为序列。 通过返回数据帧，可以为每个组返回任意数量的行和列。...以下函数为传递给它的每个组返回两行。 第一行是条纹的起点，最后一行是条纹的终点。...在第 5 步中，通过将每个值除以其行总数，可以找到每个组在所有组中占总数的百分比。 默认情况下，Pandas 会自动按对象的列对齐对象，因此我们不能使用除法运算符。
#Pandas ''' 1,Pandas是Python的一个数据分析报包，该工具为解决数据分析任务而创建。...])#索引在左边值在右边 print(s) #4.2 Date Frame #DateFrame是表格型数据结构，包含一组有序的列，每列可以使不同的值类型。...(by='E'))#按值进行排列 #pandas选择数据 dates = pd.date_range('20180924',periods=6) df = pd.DataFrame(np.random.rand...，第二次按照筛选条件选择 print(df.loc['20180924',['A','B']])#按照行标签进行选择 print(df.iloc[3,1])#输出第三行第一列的数据 print(df.iloc...0 print(pd.isnull(df))#是nan为true不是nan为false print(np.any(df.isnull()))#判断数据中是否存在nanz值 #8 pandas的导入导出
choice_description 是每一项更详尽的描述 例如：某个单子中，客人要 1瓶可乐 和 1瓶雪碧 ，那么这个订单的 order_id 为:'xx'，有2个行记录(样本)，2行的item_name...第一行的 choice_description 是 "Diet Coke"(可乐) ，第二行是 "Sprite"(雪碧) 前面章节讲解过的知识点，本文不再讲解！...fillna 是上一节介绍过的前向填充 从结果上看到，行索引 1414 是 Salad 组内第一条记录。所以他无法找到上一笔记录参考填充 ---- 有没有办法把 Salad 的缺失值填上？...：pandas 正在灵活之处在于在分组时能够用自定义函数指定每个组的处理逻辑 行3-5：此时数据有2组(2个不同的 item_name值)，因此这个自定义函数被执行2次，参数x就是每一组的 choice_description...列(Series) 行4：使用 value_counts 统计每个值的频数，然后取出第一笔的索引值(choice_description 的值) ---- 推荐阅读： 入门Python，这些JupyterNotebook
选择特定的列 3.读取DataFrame的一部分行 read_csv函数允许按行读取DataFrame的一部分。有两种选择。第一个是读取前n行。...这些方法根据索引或标签选择行和列。 loc：带标签选择 iloc：用索引选择 先创建20个随机indices。...df.isna().sum().sum() --- 0 9.根据条件选择行 在某些情况下，我们需要适合某些条件的观察值（即行）。例如，下面的代码将选择居住在法国并且已经流失的客户。...我们可以看到每组中观察值（行）的数量和平均流失率。 14.将不同的汇总函数应用于不同的组 我们不必对所有列都应用相同的函数。例如，我们可能希望查看每个国家/地区的平均余额和流失的客户总数。...从第一元素（4）到第二元素（5）的变化为％25，因此第二个值为0.25。 29.根据字符串过滤 我们可能需要根据文本数据（例如客户名称）过滤观察结果（行）。
当像上一步那样将数字列彼此相加时，pandas 将缺失值默认为零。 但是，如果缺少特定行的所有值，则 Pandas 也会将总数也保留为丢失。...Unicode 每个字符最多使用 4 个字节。 第一次对字符值进行修改时，Pandas 似乎有一些开销（100 字节）。 之后，每个字符增加 5 个字节。 并非所有列都可以强制转换为所需的类型。...仅当在列表的第一列中存在重复的值共享第 n 个排名位的情况时，这才对打破关系有用。 通过排序选择每个组中的最大值 在数据分析期间执行的最基本，最常见的操作之一是选择包含组中某个列的最大值的行。...drop_duplicates方法的默认行为是保留每个唯一行的第一次出现，因为每一行都是唯一的，所以不会删除任何行。 但是，subset参数将其更改为仅考虑为其提供的列（或列列表）。...mask方法的第一个参数是条件，该条件通常是布尔级数，例如criteria。 因为mask方法是从数据帧调用的，所以条件为False的每一行中的所有值都将变为丢失。
pandas是基于numpy构建的，使数据分析工作变得更快更简单的高级数据结构和操作工具。本文为大家带来10个玩转Python的小技巧，学会了分分钟通关变大神！...缺失值的数量 构建模型时，你可能希望排除具有很多缺失值或全是缺失值的行。你可以使用.isnull（）和.sum（）来计算指定列中缺失值的数量。...选择具有特定ID的行 在SQL中，我们可以使用SELECT * FROM ... WHERE ID（ A001 ， C022 ，...）来获取具有特定ID的记录。...Percentile groups 你有一个数字列，并希望将该列中的值分类为组，例如将列的前5％，分为组1，前5-20％分为组2，前20％-50％分为组3，最后50％分为组4。...10. to_csv 这也是每个人都会使用的命令。这里指出两个技巧。 第一个是 print(df[:5].to_csv()) 你可以使用此命令准确地打印出写入文件的前五行数据。
我们将提出一个问题，将问题分解为大体步骤，然后使用pandas DataFrame将每个步骤转换为 Python 代码。...现在让我们使用多列分组，来计算每年和每个性别的最流行的名称。 由于数据已按照年和性别的递减顺序排序，因此我们可以定义一个聚合函数，该函数返回每个序列中的第一个值。...应用 pandas序列包含.apply()方法，它接受一个函数并将其应用于序列中的每个值。...为避免这种情况，我们可以在调用.groupby()之前选择所需的列。...通过在pandas文档中查看绘图，我们了解到pandas将DataFrame的一行中的列绘制为一组条形，并将每列显示为不同颜色的条形。 这意味着letter_dist表的透视版本将具有正确的格式。
datetime_is_numeric参数还可以帮助pandas理解我们使用的是datetime类型的数据。 图2 添加更多信息到我们的数据中 继续为我们的交易增加两列：天数和月份。...图3 实际上，我们可以使用groupby对象的.agg()方法将上述两行代码组合成一行，只需将字典传递到agg()。字典键是我们要处理的数据列，字典值（可以是单个值或列表）是我们要执行的操作。...要更改agg()方法中的列名，我们需要执行以下操作： 关键字是新的列名 这些值是命名元组 pd.namedagh，第一个参数用于列，第二个参数用于指定操作 图6 pd.NamedAgg是一个名称元组...Pandas groupby：拆分-应用-合并的过程 本质上，groupby指的是涉及以下一个或多个步骤的流程： Split拆分：将数据拆分为组 Apply应用：将操作单独应用于每个组（从拆分步骤开始）...例如，属性groups为我们提供了一个字典，其中包含属于给定组的行的组名（字典键）和索引位置。 图12 要获得特定的组，简单地使用get_group()。
十一、合并，连接和重塑数据 数据通常被建模为一组实体，相关值的逻辑结构由名称（属性/变量）引用，并具有按行组织的多个样本或实例。...这是因为连接首先按每个DataFrame对象的行索引标签对齐，然后从第一个DataFrame对象然后是第二个对象填充列，而不考虑行索引标签。...已为sensors列中的每个不同值创建了一个组，并以该值命名。 然后，每个组都包含一个DataFrame对象，该对象由传感器值与该组名称匹配的行组成。...，但是 pandas 为您提供了选择。...每个框代表数据的第一和第三四分位数之间的值，并且在中位数处跨框有一条线。
行中的值满足某个条件 用pandas筛选出Sale Amount大于$1400.00的行。...设置数据框和iloc函数，同时选择特定的行与特定的列。如果使用iloc函数来选择列，那么就需要在列索引值前面加上一个冒号和一个逗号，表示为这些特定的列保留所有的行。...在一组工作表中筛选特定行 用pandas在工作簿中选择一组工作表，在read_excel函数中将工作表的索引值或名称设置成一个列表。...创建索引值列表my_ sheets，在read_excel函数中设定sheetname等于my_sheets。想从第一个和第二个工作表中筛选出销售额大于$1900.00 的行。...为工作簿的每个工作表计算统计量，并将结果连接成一个数据框。
本文提供了一系列的示例，说明如何使用pandas执行各种SQL操作。 Pandas简介 Pandas把结构化数据分为了三类： Series，可以理解为一个一维的数组，只是index可以自己改动。...SQL VS Pandas SELECT（数据选择） 在SQL中，选择是使用逗号分隔的列列表(或*来选择所有列): ? 在Pandas中，选择不但可根据列名称选取，还可以根据列所在的位置选取。...相关语法如下： loc，基于列label，可选取特定行（根据行index） iloc，基于行/列的位置 ix，为loc与iloc的混合体，既支持label也支持position at，根据指定行index...宝器带你画重点： subset，为选定的列做数据去重，默认为所有列； keep，可选择{'first', 'last', False}，保留重复元素中的第一个、最后一个，或全部删除； inplace ，...常见的SQL操作是获取数据集中每个组中的记录数。 ? Pandas中对应的实现： ? 注意，在Pandas中，我们使用size()而不是count()。
TOPSQL语句 TOP SQL获取原理 通过前面的章节我们获取了每个小时v$sqlare视图里面的数据，这里我以monitor_oracle_diskreads 为例，具体数据如下图 ?...由于我选择时间段间隔一个小时，所以上面查询结果每个sql_id对应两行数据，其中16:00的数据在上面一行 接下来我们要pandas做的事情就是计算每个sql_id对应的disk_reads等栏位的差值...，具体步骤如下: 首先以SQL_ID进行分组 然后遍历各个分组，将各个组的第一个值减去最后一个值，将结果放入列表中供后续使用，这里注意一点，由于后面我们要计算平均每次的值，会有分母为零的状况，所以这里先做判断如果执行次数为...0则将分母变为1 接下来将整理后的结果格式化成pandas的DataFrame格式 最后利用pandas排序函数以disk_reads的值来降序排列，得到TOP语句 运行结果 如下为运行后的结果，这里以...下面为程序的截图: 完整代码会在专题的最后放出，大家可根据代码进行调试来熟悉pandas的功能 ? 下节为如何讲如何在前端显示
本文为大家带来10个玩转Python的小技巧，学会了分分钟通关变大神! ? 1. read_csv 每个人都知道这个命令。...缺失值的数量 构建模型时，你可能希望排除具有很多缺失值或全是缺失值的行。你可以使用.isnull()和.sum()来计算指定列中缺失值的数量。 1....Percentile groups 你有一个数字列，并希望将该列中的值分类为组，例如将列的前5%，分为组1，前5-20%分为组2，前20%-50%分为组3，最后50%分为组4。...当然，你可以用pandas.cut来做，但这里提供另一个选择： 1. import numpy as np 2....10. to_csv 这也是每个人都会使用的命令。这里指出两个技巧。 第一个是 1. print(df[:5].to_csv()) 你可以使用此命令准确地打印出写入文件的前五行数据。
-- more --> 创建DataFrame 首先引入Pandas及Numpy： import pandas as pdimport numpy as np 官方推荐的缩写形式为pd，你可以选择其他任意的名称...由d构建的为一个4行2列的DataFrame。其中one只有3个值，因此d行one列为NaN（Not a Number）--Pandas默认的缺失值标记。...使用位置选取数据： df.iloc[行位置,列位置]df.iloc[1,1]#选取第二行，第二列的值，返回的为单个值df.iloc[0,2],:]#选取第一行及第三行的数据df.iloc[0:2,:]#...选取第一行到第三行（不包含）的数据df.iloc[:,1]#选取所有记录的第一列的值，返回的为一个Seriesdf.iloc[1,:]#选取第一行数据，返回的为一个Series PS：loc为location...groups = df.groupby('A')#按照A列的值分组求和groups['B'].sum()##按照A列的值分组求B组和groups['B'].count()##按照A列的值分组B组计数 默认会以
让我们通过机器学习技术的一个基本应用，看看将一组客户数据转变为风险水平评估这个预测涉及了哪些过程。 训练模型 我们可以使用分类模型——预测每个项分别属于哪个类或组。...现在，数据保存在 pandas 的 dataframe(df)，如下图所示，选择前5行作为样本。 ? 为了让模型进行预测，需要“训练”。也就是说，模型被显示一组已经具有相关分类的数据。...下面的代码段为每个观察值随机分配1到100之间的值，并将分配到低于70的随机数的那些行分到训练集，其余的作为测试集。因此，大约70％的数据用于训练。在每个数据集print一个值，可以显示这是有效的。...几个快速步骤可以将值解码回文本标签，然后将模型得出的类别与测试数据集中的原始标签进行比较。 ? 下面的表格显示了每个真实的组与预测组的比较。...对于最后10个中等风险的观察值，模型的预测有7项正确，另外3项被错误地预测为高风险。 ? 这是一个不错的结果。
布尔选择将逻辑表达式应用于Series的值，并在每个值上返回新的布尔值序列，这些布尔值表示该表达式的结果。 然后，该结果可用于仅提取结果为True的值。...四、用数据帧表示表格和多元数据 Pandas DataFrame对象将Series对象的功能扩展为二维。 代替单个值序列，数据帧的每一行可以具有多个值，每个值都表示为一列。...文件的第一行包含每个变量/列的名称，其余 500 行代表 500 种不同股票的值。....jpeg)] 在行和列中进行选择 通常的做法是选择由一组行和列组成的数据子集。...第一个DataFrame由行（按位置）0，1和2组成，第二个DataFrame由行（按位置）10，11和2组成。 两者中都包含位置2处的行（带有标签ABBV），以演示重复索引标签的创建。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
云直播
实时音视频
