Python 实现多 Sheet 表合并、多工作簿合并、一表按列拆分

作者:黄伟 来源:杰哥的IT之旅(ID:Jake_Internet) 转载请联系授权(WeChat ID:Hc220066)

一、相关知识点讲解

1、需要使用的相关库

1import numpy as np
2import pandas as pd
3import os

2、os.walk(pwd)

举例如下 ① 先来看看"G:\a"文件夹下有哪些东西。

② 代码操作如下:

1pwd = "G:\\a"
2print(os.walk(pwd))
3for i in os.walk(pwd):
4    print(i)
5for path,dirs,files in os.walk(pwd):
6    print(files)

③ 结果如下:

1<generator object walk at 0x0000029BB5AEAB88>
2('G:\\a', [], ['aa.txt', 'bb.xlsx', 'cc.txt', 'dd.docx'])
3['aa.txt', 'bb.xlsx', 'cc.txt', 'dd.docx']

3、os.path.join(path1,path2…)

作用:将多个路径组合后返回

举例如下

1path1 = 'G:\\a'
2path2 = 'aa.txt'
3print(os.path.join(path1,path2))

结果如下:

1G:\a\aa.txt

4、案例解析

举例如下:

1pwd = "G:\\a"
2file_path_list = []
3for path,dirs,files in os.walk(pwd):
4    for file in files:
5        file_path_list.append(os.path.join(pwd,file))
6print(file_path_list)

结果如下:

1['G:\\a\\aa.txt','G:\\a\\bb.xlsx','G:\\a\\cc.txt','G:\\a\\dd.docx']

5、怎么在一个列表中存放多个DataFrame数据。

1# 先使用如下代码创建两个DataFrame数据源。
2import numpy as np
3xx = np.arange(15).reshape(5,3)
4yy = np.arange(1,16).reshape(5,3)
5xx = pd.DataFrame(xx,columns=["语文","数学","外语"])
6yy = pd.DataFrame(yy,columns=["语文","数学","外语"])
7print(xx)
8print(yy)

结果如下:

怎么讲上述两个DataFrame拼接在一起?

 1concat_list = []
 2concat_list.append(xx)
 3concat_list.append(yy)
 4# pd.concat(list)中【默认axis=0】默认的是数据的纵向合并。
 5# pd.concat(list)括号中传入的是一个DataFrame列表。
 6# ignore_list=True表示忽略原有索引,重新生成一组新的索引。
 7z = pd.concat(concat_list,ignore_list=True)
 8print(z)
 9
10# 或者直接可以写成z = pd.concat([xx,yy],ignore_list=True)

结果如下:

二、多工作簿合并(一)

1、将多个Excel合并到一个Excel中(每个Excel中只有一个sheet表)

操作如下:

 1import pandas as pd
 2import os
 3pwd = "G:\\b"
 4df_list = []
 5for path,dirs,files in os.walk(pwd):
 6    for file in files:
 7        file_path = os.path.join(path,file)                        
 8        df = pd.read_excel(file_path) 
 9        df_list.append(df)
10result = pd.concat(df_list)
11print(result)
12result.to_excel('G:\\b\\result.xlsx',index=False)

结果如下:

三、多工作簿合并(二)

1、相关知识点讲解

xlsxwrite的用法

 11)创建一个"工作簿",此时里面会默认生成一个名叫"Sheet1"的Sheet表。
 2import xlsxwriter
 3# 这一步相当于创建了一个新的"工作簿";
 4# "demo.xlsx"文件不存在,表示新建"工作簿";
 5# "demo.xlsx"文件存在,表示新建"工作簿"覆盖原有的"工作簿";
 6workbook = xlsxwriter.Workbook("demo.xlsx")
 7# close是将"工作簿"保存关闭,这一步必须有。否则创建的文件无法显示出来。
 8workbook.close()  
 92)创建一个"工作簿"并添加一个"工作表",工作表命名为"2018年销量"。
10import xlsxwriter
11workbook = xlsxwriter.Workbook("cc.xlsx")
12worksheet = workbook.add_worksheet("2018年销售量")
13workbook.close()   

结果如下:

 13)给"2018年销售量"工作表创建一个表头,向其中插入一条数据。
 2import xlsxwriter
 3# 创建一个名为【demo.xlsx】工作簿;
 4workbook = xlsxwriter.Workbook("demo.xlsx")
 5# 创建一个名为【2018年销售量】工作表;
 6worksheet = workbook.add_worksheet("2018年销售量")
 7# 使用write_row方法,为【2018年销售量】工作表,添加一个表头;
 8headings = ['产品','销量',"单价"] 
 9worksheet.write_row('A1',headings)
10# 使用write方法,在【2018年销售量】工作表中插入一条数据;
11# write语法格式:worksheet.write(行,列,数据) 
12data = ["苹果",500,8.9]
13for i in range(len(headings)):
14    worksheet.write(1,i,data[i]) 
15workbook.close()

结果如下:

其他用法可以参考:https://www.cnblogs.com/brightbrother/p/8671077.html

xlrd的用法

 11)打开某一个存在的excel文件,返回给我们"xlrd.book.Book"工作簿对象;
 2# 这里所说的"打开"并不是实际意义上的打开,只是将该表加载到内存中打开。
 3# 我们并看不到"打开的这个效果"
 4# 以打开上述创建的"test.xlsx"文件为例;
 5import xlrd 
 6file = r"G:\Jupyter\test.xlsx"
 7xlrd.open_workbook(file)
 8# 结果如下:
 9<xlrd.book.Book at 0x29bb8e4eda0>
10
112)sheet_names():获取所有的sheet表表名,假如有多个sheet表,返回一个列表;
12import xlrd
13file = r"G:\Jupyter\test.xlsx"
14fh = xlrd.open_workbook(file)
15fh.sheet_names()
16# 结果如下:
17['2018年销售量', '2019年销售量']
18
193)sheets()方法:返回的是sheet表的对象列表。
20# 返回sheet表的对象列表
21fh.sheets()
22# 结果如下:
23[<xlrd.sheet.Sheet at 0x29bb8f07a90>, <xlrd.sheet.Sheet at 0x29bb8ef1390>]
24
25# 可以利用索引,获取每一个sheet表的对象
26fh.sheets()[0]
27结果是:<xlrd.sheet.Sheet at 0x29bb8f07a90>
28fh.sheets()[1]
29结果是:<xlrd.sheet.Sheet at 0x29bb8ef1390>
30
314)返回每一个sheet表的行数(nrows) 和 列数(ncols);
32# 我们可以利用上述创建的sheet表对象,对每一个sheet表进行操作;
33fh.sheets()[0].nrows  # 结果是:4
34fh.sheets()[0].ncols  # 结果是:3
35
365)row_values(行数):获取每一个sheet表中每一行的数据;
37sheet1 = fh.sheets()[0]
38for row in range(fh.sheets()[0].nrows):
39   value = sheet1.row_values(row)
40   print(value)

结果如下:

16)col_values(列数):获取每一个sheet表中每一列的数据;
2sheet1 = fh.sheets()[0]
3for col in range(fh.sheets()[0].ncols):
4   value = sheet1.col_values(col)
5   print(value)

结果如下:

2、将多个Excel合并到一个Excel中(每个Excel中不只一个sheet表)

 1import xlrd
 2import xlsxwriter
 3import os
 4
 5# 打开一个Excel文件,创建一个工作簿对象
 6def open_xlsx(file):
 7    fh=xlrd.open_workbook(file)
 8    return fh
 9
10# 获取sheet表的个数
11def get_sheet_num(fh):
12    x = len(fh.sheets())
13    return x
14
15# 读取文件内容并返回行内容
16def get_file_content(file,shnum):
17    fh=open_xlsx(file)
18    table=fh.sheets()[shnum]
19    num=table.nrows
20    for row in range(num):
21        rdata=table.row_values(row)
22        datavalue.append(rdata)
23    return datavalue
24
25def get_allxls(pwd):
26    allxls = []
27    for path,dirs,files in os.walk(pwd):
28        for file in files:
29            allxls.append(os.path.join(path,file))
30    return allxls
31
32# 存储所有读取的结果
33datavalue = []  
34pwd = "G:\\d"                          
35for fl in get_allxls(pwd):
36    fh = open_xlsx(fl)     
37    x = get_sheet_num(fh)  
38    for shnum in range(x):
39        print("正在读取文件:"+str(fl)+"的第"+str(shnum)+"个sheet表的内容...")
40        rvalue = get_file_content(fl,shnum)   
41
42# 定义最终合并后生成的新文件
43endfile = "G:\\d\\concat.xlsx"
44wb1=xlsxwriter.Workbook(endfile)
45# 创建一个sheet工作对象
46ws=wb1.add_worksheet()
47for a in range(len(rvalue)):
48    for b in range(len(rvalue[a])):
49        c=rvalue[a][b]
50        ws.write(a,b,c)
51wb1.close()
52print("文件合并完成")

【将上述代码封装后如下】

 1import xlrd
 2import xlsxwriter
 3import os
 4
 5class Xlrd():
 6    def __init__(self,pwd):
 7        self.datavalue = [] 
 8        self.pwd = pwd 
 9
10    # 打开一个Excel文件,创建一个工作簿对象;
11    def open_xlsx(self,fl):
12        fh=xlrd.open_workbook(fl)
13        return fh
14
15    # 获取sheet表的个数;
16    def get_sheet_num(self,fh):
17        x = len(fh.sheets())
18        return x
19
20    # 读取不同工作簿中每一个sheet中的内容,并返回每行内容组成的列表;
21    def get_file_content(self,file,shnum):
22        fh = self.open_xlsx(file)
23        table=fh.sheets()[shnum]
24        num=table.nrows
25        for row in range(num):
26            rdata=table.row_values(row)
27            # 因为每一个sheet表都有一个表头;
28            # 这里的判断语句,把这个表头去除掉;
29            # 然后在最后写入数据的,添加上一个表头,即可;
30            if rdata == ['姓名','性别','年龄','家庭住址']:
31                pass
32            else:
33                self.datavalue.append(rdata)
34        return self.datavalue
35
36    # 获取xlsx文件的全路径;
37    def get_allxls(self):
38        allxls = []
39        for path,dirs,files in os.walk(self.pwd):
40            for file in files:
41                allxls.append(os.path.join(path,file))
42        return allxls
43
44    # 返回不同工作簿中,所有的sheet表的内容列表;
45    def return_rvalue(self):
46        for fl in self.get_allxls():
47            fh = self.open_xlsx(fl)     
48            x = self.get_sheet_num(fh)  
49            for shnum in range(x):
50                print("正在读取文件:"+str(fl)+"的第"+str(shnum)+"个sheet表的内容...")
51                rvalue = self.get_file_content(fl,shnum)  
52        return rvalue
53
54class Xlsxwriter():
55    def __init__(self,endfile,rvalue):
56        self.endfile = endfile
57        self.rvalue = rvalue
58
59    def save_data(self):
60        wb1 = xlsxwriter.Workbook(endfile)
61        # 创建一个sheet工作对象;
62        ws = wb1.add_worksheet("一年级(7)班")
63        # 给文件添加表头;
64        ws = wb1.add_worksheet("2018年销售量")
65        headings = ['姓名','性别','年龄','家庭住址'] 
66        for a in range(len(self.rvalue)):
67            for b in range(len(self.rvalue[a])):
68                c = self.rvalue[a][b]
69                # 因为给文件添加了表头,因此,数据从下一行开始写入;
70                ws.write(a+1,b,c)
71        wb1.close()
72        print("文件合并完成")   
73
74pwd = "G:\\d"
75xl = Xlrd(pwd)
76rvalue = xl.return_rvalue()
77endfile = "G:\\d\\concat.xlsx"
78write = Xlsxwriter(endfile,rvalue)
79write.save_data();

结果如下:

四、一个工作簿多sheet表合并。

1、将一个Excel表中的多个sheet表合并,并保存到同一个excel。

 1import xlrd
 2import pandas as pd
 3from pandas import DataFrame
 4from openpyxl import load_workbook
 5
 6excel_name = r"D:\pp.xlsx"
 7wb = xlrd.open_workbook(excel_name)
 8sheets = wb.sheet_names()
 9
10alldata = DataFrame()
11for i in range(len(sheets)):
12    df = pd.read_excel(excel_name, sheet_name=i, index=False, encoding='utf8')
13    alldata = alldata.append(df)       
14
15writer = pd.ExcelWriter(r"C:\Users\Administrator\Desktop\score.xlsx",engine='openpyxl')
16book = load_workbook(writer.path)
17writer.book = book  
18# 必须要有上面这两行,假如没有这两行,则会删去其余的sheet表,只保留最终合并的sheet表
19
20alldata.to_excel(excel_writer=writer,sheet_name="ALLDATA")
21writer.save()
22writer.close()

结果如下:

五、一表拆分(按照表中某一列进行拆分)

1、将一个Excel表,按某一列拆分成多张表。

 1import pandas as pd
 2import xlsxwriter
 3data=pd.read_excel(r"C:\Users\Administrator\Desktop\chaifen.xlsx",encoding='gbk')
 4
 5area_list=list(set(data['店铺']))
 6
 7writer=pd.ExcelWriter(r"C:\Users\Administrator\Desktop\拆好的表1.xlsx",engine='xlsxwriter')
 8data.to_excel(writer,sheet_name="总表",index=False)
 9
10for j in area_list:
11    df=data[data['店铺']==j]
12    df.to_excel(writer,sheet_name=j,index=False)
13
14writer.save()  #一定要加上这句代码,“拆好的表”才会显示出来

结果如下:

本文分享自微信公众号 - AI算法与图像处理(AI_study)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-11-13

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏CDA数据分析师

编程大神进阶之路:Python技巧小贴士

整理用户输入的问题在编程过程中极为常见。通常情况下,将字符转换为小写或大写就够了,有时你可以使用正则表达式模块「Regex」完成这项工作。但是如果问题很复杂,可...

5520
来自专栏Python数据科学

骚操作,如何用 Python 给照片换色

最近遇到了一个需求,就是对图片进行色彩风格转换,让一个物体可以以各种不同的色彩来呈现。

6620
来自专栏AI科技大本营的专栏

C#也能做机器学习?基于.NET的AI智能应用市场还是一片“处女地”

SciSharp 是怎样的一个社区?它是如何构建一个基于 .NET 的机器学习生态?它在做的事情对开发者来说有何意义?本次,AI 科技大本营与 SciSharp...

5510
来自专栏AI科技大本营的专栏

实战:基于tensorflow 的中文语音识别模型 | CSDN博文精选

目前网上关于tensorflow 的中文语音识别实现较少,而且结构功能较为简单。而百度在PaddlePaddle上的 Deepspeech2 实现功能却很强大,...

35910
来自专栏Python数据科学

编程大神进阶之路:Python技巧小贴士

整理用户输入的问题在编程过程中极为常见。通常情况下,将字符转换为小写或大写就够了,有时你可以使用正则表达式模块「Regex」完成这项工作。但是如果问题很复杂,可...

4820
来自专栏CDA数据分析师

哪些开发问题最让程序员“头秃”?我们分析了Stack Overflow的11000个问题

自 2008 年成立以来,Stack Overflow 一直在拯救所有类型的开发人员。自那时以来,开发人员提出了数百万个关于开发领域的问题。

6010
来自专栏中科院渣渣博肆僧一枚

Python的内置函数(二十九)、 strip()

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。 ...

7720
来自专栏中科院渣渣博肆僧一枚

Python类中的方法要加self的理由

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。 ...

9720
来自专栏腾讯NEXT学位

Python 工匠:使用装饰器的技巧

01 前言 装饰器(Decorator) 是 Python 里的一种特殊工具,它为我们提供了一种在函数外部修改函数的灵活能力。它有点像一顶画着独一无二 @ 符...

8930
来自专栏AI科技大本营的专栏

实战:人脸识别的Arcface实现 | CSDN博文精选

本文将简单讲述arcface从训练到部署的整个过程,主要包括前期的数据筛选和准备,模型训练以及模型部署。

40250

扫码关注云+社区

领取腾讯云代金券

年度创作总结 领取年终奖励