也可以通过 count 方法得到每列不为NaN值的数目。...dropna() 删除NaN 值 可以通过 dropna 方法，默认按行扫描(操作)，会将每一行有NaN 值的那一行删除，同时默认是对原对象的副本操作，不会对原对象产生影响，也可以通过inplace 指示是否直接在原对象上操作...fillna() fillna 方法可以将df 中的nan 值按需求填充成某值 # 将NaN值用0填充 df.fillna(0,inplace = True) # inplace 指明在原对象上直接修改...复杂的 使用向前 或 向后 填充数据，依旧使用fillna 方法，所谓向前 是指 取出现NaN值的前一列或前一行的数据来填充NaN值，向后同理 # 在df 的e 这一列上操作，默认下按行操作，向前填充数据...外连接，分左外连接，右外连接，全连接，左外连接是左表上的所有行匹配右表，正常能匹配上的取B表的值，不能的取空值，右外连接同理，全连接则是取左并上右表的的所有行，没能匹配上的用空值填充。
我们可以创建一组类别，并对类别应用一个函数。这是一个简单的概念，但却是我们经常使用的极有价值的技术。Groupby的概念很重要，因为它能够有效地聚合数据，无论是在性能上还是在代码数量上都非常出色。...我们将调用pivot_table()函数并设置以下参数: index设置为 'Sex'，因为这是来自df的列，我们希望在每一行中出现一个唯一的值 values值为'Physics','Chemistry...使用max()查找每一行和每列的最大值 # Get a series containing maximum value of each row max_row = df.max(axis=1) ?...类似地，我们可以使用df.min()来查找每一行或每列的最小值。 其他有用的统计功能: sum():返回所请求的轴的值的总和。默认情况下，axis是索引(axis=0)。...mean():返回平均值 median():返回每列的中位数 std():返回数值列的标准偏差。 corr():返回数据格式中的列之间的相关性。 count():返回每列中非空值的数量。
比如说我们现在有这样一张表，那么把这张表做成dataframe，先把每一列都提取出来，然后将这些在列的数据都放到一个大的集合里，在这里我们使用字典。...这个时候我们看到这些数据做成的dataframe真的就像一个表一样，事实上它真的就是一张表。 我们把每一列数据都取出来，做成一个list（其实就是我们上期说的Series）。...)：查看DataFrame对象中每一列的唯一值和计数 print(df.head(2)) print(df[0:2]) ?...如果不想做全连接，想做一些其他的连接，那我们在连接的时候可以使用merge方法，这样就可以进行不同的连接了。...) 我们也可以增加一些限制，在一行中有多少非空值的数据是可以保留下来的（在下面的例子中，行数据中至少要有 5 个非空值） df1.drop(thresh=5) 删除不完整的列（dropna） 我们可以上面的操作应用到列上
比如，我们输入一个数据表如下： 如果我们想看下哪个地方存在空值 NaN，可以针对数据表 df 进行 df.isnull()，结果如下： 如果我想知道哪列存在空值，可以使用 df.isnull...merge() 函数，有下面 5 种形式： 基于指定列进行连接 比如我们可以基于 name 这列进行连接。...) 访问每一行某个元素的时候， 可以通过列名直接访问： 使用 itertuples 遍历打印每行： def itertuples_time(df): for nt in df.itertuples...访问每一行某个元素的时候， 需要getattr函数 使用iteritems遍历每一行 这个访问每一行元素的时候， 用的是每一列的数字索引 3....事实上，在 Python 里可以直接使用 SQL 语句来操作 Pandas。 这里给你介绍个工具：pandasql。
df.iloc[0,:] 第一行 df.iloc[0,0] 第一列的第一个元素 数据清洗 df.columns = ['a','b','c'] 重命名列 pd.isnull() 检查空值，返回逻辑数组...，按col1中的值分组（平均值可以用统计部分中的几乎任何函数替换） df.pivot_table(index=col1,values=[col2,col3],aggfunc=max) 创建一个数据透视表...data.apply(np.max,axis=1) 在每行上应用一个函数 加入/合并 df1.append(df2) 将df1中的行添加到df2的末尾（列数应该相同） df.concat([df1,...df2],axis=1) 将df1中的列添加到df2的末尾（行数应该相同） df1.join(df2,on=col1,how='inner') SQL类型的将df1中的列与df2上的列连接，其中col...() 查找每个列中的最大值 df.min() 查找每列中的最小值 df.median() 查找每列的中值 df.std() 查找每个列的标准差 点击“阅读原文”下载此速查卡的打印版本 END.
在Python中，我们创建计算列的方式与PQ中非常相似，创建一列，计算将应用于这整个列，而不是像Excel中的“下拉”方法那样逐行进行。要创建计算列，步骤一般是：先创建列，然后为其指定计算。...图1 在pandas中创建计算列的关键 如果有Excel和VBA的使用背景，那么一定很想遍历列中所有内容，这意味着我们在一个单元格中创建公式，然后向下拖动。然而，这不是Python的工作方式。...其正确的计算方法类似于Power Query，对整个列执行操作，而不是循环每一行。基本上，我们不会在pandas中循环一列，而是对整个列执行操作。这就是所谓的“矢量化”操作。...df[‘公司名称’].str是列中的字符串值，这意味着我们可以直接对其使用字符串方法。通过这种方式进行操作，我们不会一行一行地循环遍历。...记住，我们永远不应该循环每一行来执行计算。pandas实际上提供了一种将字符串值转换为datetime数据类型的便捷方法。
前言 上一期介绍了将文件加载到Pandas对象，这个对象就是Pandas的数据结构。本次我们就来系统介绍一下Pandas的数据结构。 本文框架 1. 数据结构简介 2....DataFrame 4.1 根据多个字典序列创建dataframe 5. 从DataFrame中查询出Series 5.1 查询一列 5.2 查询多列 5.3 查询一行 5.4 查询多行 1....DataFrame：代表整个表格对象，是一个二维的数据，有多行和多列； Series：每一列或者每一行都是一个Series，他是一个一维的数据（图中红框）。 2....DataFrame DataFrame是一个表格型的数据结构； 每列可以是不同的值类型（数值、字符串、布尔值等） 既有行索引index,也有列索引columns，可以被看做由Series组成的字典。...从DataFrame中查询出Series 如果只查询一行、一列，返回的是pd.Series； 如果查询多行、多列，返回的是pd.DataFrame。
for 循环遍历每一行/列 使用 for 循环可以遍历 DataFrame 中的每一行或每一列。需要使用 iterrows() 方法遍历每一行，或者使用 iteritems() 方法遍历每一列。...: [25, 30, 35], 'gender': ['F', 'M', 'M'] } df = pd.DataFrame(data) # 遍历每一行 for index, row in df.iterrows...C 0 1 3 6 1 2 4 8 其中，apply方法接受一个函数作为参数，该函数的输入是该列的每一个值，输出是计算结果。...其中，iterrows方法返回一个迭代器，可以逐行遍历DataFrame，返回每一行数据的索引和值。...我们可以通过row[“列名”]或row.列名的方式来获取指定列的值。 iteritems()方法 iteritems()方法以 (列标签，列) 的形式遍历 DataFrame 的列。
最大的不同在于pd.DataFrame行和列对象均为pd.Series对象，而这里的DataFrame每一行为一个Row对象，每一列为一个Column对象 Row：是DataFrame中每一行的数据抽象...：删除指定列 最后，再介绍DataFrame的几个通用的常规方法： withColumn：在创建新列或修改已有列时较为常用，接收两个参数，其中第一个参数为函数执行后的列名（若当前已有则执行修改，否则创建新列...），第二个参数则为该列取值，可以是常数也可以是根据已有列进行某种运算得到，返回值是一个调整了相应列后的新DataFrame # 根据age列创建一个名为ageNew的新列 df.withColumn('...select等价实现，二者的区别和联系是：withColumn是在现有DataFrame基础上增加或修改一列，并返回新的DataFrame（包括原有其他列），适用于仅创建或修改单列；而select准确的讲是筛选新列...，仅仅是在筛选过程中可以通过添加运算或表达式实现创建多个新列，返回一个筛选新列的DataFrame，而且是筛选多少列就返回多少列，适用于同时创建多列的情况（官方文档建议出于性能考虑和防止内存溢出，在创建多列时首选
# 一般只需要将字体文件复制到系统字体田录下即可,但是在 studio上该路径没有写权限,所以此方法不能用 # !...df.isnull().sum() # 提取某列含有空值的行 df[df['日期'].isnull()] # 输出每列缺失值具体行数 for i in df.columns: if df[...# np.max() 在每行上应用功能 数据合并 df1.append(df2) # 将df2添加 df1的末尾 （各列应相同） pd.concat([df1...行所在的列col 具有相同值的列连接起来。'...# 返回每列中的最高值 df.min() # 返回每一列中的最小值 df.median() # 返回每列的中位数 df.std() # 返回每列的标准偏差
['Age'] + 1 print(df, end="\n\n") # 缺失值处理 填充缺失值 使用每列的均值填充缺失值 df['Age'].fillna(df['Age'].mean(), inplace...(df.isna()) # 检查每列的缺失值总数 print(df.isna().sum()) # 删除包含缺失值的行 df_dropped_rows = df.dropna() print(df_dropped_rows...) # 删除包含缺失值的列 df_dropped_cols = df.dropna(axis=1) print(df_dropped_cols) # 使用常数填充缺失值 df_filled_constant...) # 使用每列的均值填充缺失值 df_filled_mean = df.fillna(df.mean()) print(df_filled_mean) # 使用每列的中位数填充缺失值 df_filled_median...= df.fillna(df.median()) print(df_filled_median) # 仅填充特定列的缺失值 df['A'] = df['A'].fillna(df['A'].mean
一般建议大家先使用 duplicated检查重复项，确定业务上需要删除重复项，再使用这个函数。图片 6.处理缺失值现实数据集中基本都会存在缺失值的情况，下面这些函数常被用作检查和处理缺失值。...”].map(lambda x: int(x[-4:])).apply：通过多列的数据创建新的字段，在创建新列时经常需要指定 axis=1。...图片 8.数据透视Dataframe有 2 种常见数据：『宽』格式，指的是每一行代表一条记录（样本），每一列是一个观测维度（特征）。...『长』格式，在这种格式中，一个主题有多行，每一行可以代表某个时间点的度量。我们会在这两种格式之间转换。melt：将宽表转换为长表。...重要的参数包括 on（连接字段），how（例如内连接或左连接，或外连接），以及 suffixes（相同字段合并后的后缀）。concat：沿行或列拼接DataFrame对象。
) 缺失值处理 # 检查数据中是否含有任何缺失值 df.isnull().values.any() # 查看每列数据缺失值情况 df.isnull().sum() # 提取某列含有空值的行 df[...在每行上应用功能 数据合并 df1.append(df2) # 将df2添加 df1的末尾 （各列应相同） pd.concat([df1, df2],axis=...1) # 将 df1的列添加到df2的末尾 （行应相同） df1.join(df2,on=col1,how='inner') # SQL样式将列 df1 与 df2 行所在的列col 具有相同值的列连接起来...df.corr() # 返回DataFrame中各列之间的相关性 df.count() # 返回非空值的每个数据帧列中的数字 df.max() # 返回每列中的最高值...df.min() # 返回每一列中的最小值 df.median() # 返回每列的中位数 df.std() # 返回每列的标准偏差 16个函数，用于数据清洗
axis=0，表示沿着第 0 轴进行操作，即对每一列进行操作；axis=1，表示沿着第1轴进行操作，即对每一行进行操作。...axis = 0，是对每一列进行操作，即把数组看成 [3, 8, 2]，[7, 4, 4]，[5, 3, 9]，从中选出最大或最小 axis = 1，是对每一行进行操作，即把数组看成 [3, 7, 5]...操作 语法 结果类型 选择某一列 df[col] Series 通过标签选择某一行 df.loc[label] Series 通过标签位置选择某一行 df.iloc[loc] Series 切片获取某些行...，可以通过它来在整体上查看数据的全貌，有助于了解数据。...直方图化 所谓的直方图化，就是函数 value_counts，该函数可以查看数据中，每列中有多少不同值，且各个不同值出现的次数 print(df, '\n') df3 = df.fillna(60) df3
本文介绍基于Python语言，读取Excel表格文件数据，并基于其中某一列数据的值，将这一数据处于指定范围的那一行加以复制，并将所得结果保存为新的Excel表格文件的方法。 ...现有一个Excel表格文件，在本文中我们就以.csv格式的文件为例；其中，如下图所示，这一文件中有一列（也就是inf_dif这一列）数据比较关键，我们希望对这一列数据加以处理——对于每一行，如果这一行的这一列数据的值在指定的范围内...接下来，我们再创建一个空的DataFrame，名为result_df，用于存储处理后的数据。 ...随后，我们使用df.iterrows()遍历原始数据的每一行，其中index表示行索引，row则是这一行具体的数据。接下来，获取每一行中inf_dif列的值，存储在变量value中。 ...此时，我们即可基于我们的实际需求，对变量value的数值加以判断；在我这里，如果value的值小于等于-0.1或大于等于0.1，则就开始对这一行加以复制；因为我这里需要复制的次数比较多，因此就使用range
(np.random.rand(20,5))：创建20行5列的随机数组成的DataFrame对象 pd.Series(my_list)：从可迭代对象my_list创建一个Series对象 df.index...s.value_counts(dropna=False)：查看Series对象的唯一值和计数 df.apply(pd.Series.value_counts)：查看DataFrame对象中每一列的唯一值和计数...DataFrame中的每一列应用函数np.mean data.apply(np.max,axis=1)：对DataFrame中的每一行应用函数np.max 数据合并 df1.append(df2)：将df2...的列执行SQL形式的join 数据统计 df.describe()：查看数据值列的汇总统计 df.mean()：返回所有列的均值 df.corr()：返回列与列之间的相关系数 df.count()：返回每一列中的非空值的个数...df.max()：返回每一列的最大值 df.min()：返回每一列的最小值 df.median()：返回每一列的中位数 df.std()：返回每一列的标准差
) # 查看DataFrame对象中每一列的唯一值和计数 数据选取： df[col] # 根据列名，并以Series的形式返回列 df[[col1, col2]] # 以DataFrame形式返回多列...： df.describe() # 查看数据值列的汇总统计 df.mean() # 返回所有列的均值 df.corr() # 返回列与列之间的相关系数 df.count() # 返回每一列中的非空值的个数...df.max() # 返回每一列的最大值 df.min() # 返回每一列的最小值 df.median() # 返回每一列的中位数 df.std() # 返回每一列的标准差 数据合并： df1.append...') # 对df1的列和df2的列执行SQL形式的join 数据清理： df[df[col] > 0.5] # 选择col列的值大于0.5的行 df.sort_values(col1) # 按照列col1..., values=[col2,col3], aggfunc=max) # 创建一个按列col1进行分组，并计算col2和col3的最大值的数据透视表 df.groupby(col1).agg(np.mean
丢弃缺失值dropna() # 默认axi=0（行）；1（列），how=‘any’ df.dropna()#每行只要有空值，就将这行删除 df.dropna(axis=1)#每列只要有空值，整列丢弃...df.fillna({1:0,2:0.5}) #对第一列nan值赋0，第二列赋值0.5 df.fillna(method='ffill') #在列方向上以前一个值作为值赋给NaN 值替换replace(...返回唯一值的数组（类型为array） df.drop_duplicates(['k1'])# 保留k1列中的唯一值的行，默认保留第一行 df.drop_duplicates(['k1','k2'],...df1.reindex(['a','b','c','d','e'], fill_value=0) # inplace=Ture，在DataFrame上修改数据，而不是返回一个新的DataFrame...# 将columns中的其中两列：race和sex的值设置索引，race为一级，sex为二级 # inplace=True 在原数据集上修改的 adult.set_index(['race','sex
表示不在原df上删除,此时df6没有j这一行,df5还有 df6 = df5.drop(['j'], axis=0, inplace=False) print(df6.head()) # inplace...为True表示在原df上删除 df5.drop(['j'], axis=0, inplace=True) print(df5.head()) # axios=1表示删除列 df5.drop(['A']..., axis=1, inplace=True) print(df5.head()) 改 # 修改某个位置的值 df.loc['a']['A'] = 150 print(df.head()) # 修改索引...) & (df['年份']<2018) df.loc[query_def] 注意 ● 以上查询方法，既适用于行，也适用于列 ● 查询结果会降维，dataFrame>Series>值类型 # 查询某一列...[0, 1]) print(df.loc['a']['A']) # 查询某列包含关键词的数据，多个关键词使用|分隔 print(df.loc[df['列名'].str.contains('关键词')]
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
腾讯会议
云直播
对象存储
