用Python解决Excel问题的最佳姿势

这篇具有很好参考价值的文章主要介绍了用Python解决Excel问题的最佳姿势。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

 大家好,我是毕加锁。

今天给大家带来的是用Python解决Excel问题的最佳姿势

文末送书! 文末送书! 文末送书!

python处理完excel后不回写,pandas,python,excel

「问题说明」

这次要处理的excel有两个sheet,要根据其中一个sheet的数据来计算另外一个sheet的值。造成问题的点在于,要计算值的sheet里不仅仅有数值,还有公式。我们来看一下:

python处理完excel后不回写,pandas,python,excel

如上图所示,这个excel一共有两个sheet:CP和DS,我们要按照一定的业务规则,根据CP中的数据计算DS对应单元格的数据。图中蓝色方框框出来的是带公式的,而其他区域是数值。

我们来看看,如果我们按照之前说的处理逻辑,把excel一次性批量读取到dataframe处理,然后再一次性批量写回去有啥问题。这部分代码如下:

import pandas as pd
import xlwings as xw

#要处理的文件路径
fpath = "data/DS_format.xlsm"

#把CP和DS两个sheet的数据分别读入pandas的dataframe
cp_df = pd.read_excel(fpath,sheet_name="CP",header=[0])
ds_df = pd.read_excel(fpath,sheet_name="DS",header=[0,1])

#计算过程省略......

#保存结果到excel       
app = xw.App(visible=False,add_book=False)
ds_format_workbook = app.books.open(fpath)
ds_worksheet = ds_format_workbook.sheets["DS"]
ds_worksheet.range("A1").expand().options(index=False).value = ds_df 
ds_format_workbook.save()
ds_format_workbook.close()
app.quit()

如上代码存在的问题在于,pd.read_excel()方法从excel里读取数据到dataframe的时候,对于有公式的单元格,会直接读取公式计算的结果(如果没有结果则返回Nan),而我们写入excel的时候是直接把dataframe一次性批量写回的,这样之前带公式的单元格,被写回的就是计算出来的值或Nan,而丢掉了公式。

好了,问题出现了,我们该如何解决呢?这里会想到两个思路:

  1. dataframe写回excel的时候,不要一次性批量写回,而是通过行和列的迭代,只写回计算的数据,有公式的单元格不动;

  2. 读取excel的时候,有没有办法做到对于有公式的单元格,读取公式,而不是读取公式计算的结果;

我确实按照上面两个思路分别尝试了一下,我们一起来看一下。

「方案1」

如下代码尝试遍历dataframe然后按单元格写入对应的值,有公式的单元格不动

#根据ds_df来写excel,只写该写的单元格
for row_idx,row in ds_df.iterrows():
    total_capabity_val = row[('Total','Capabity')].strip()
    total_capabity1_val = row[('Total','Capabity.1')].strip()
    #Total和1Gb  Eqv.所在的行不写
    if total_capabity_val!= 'Total' and total_capabity_val != '1Gb  Eqv.':
        #给Delta和LOI赋值
        if total_capabity1_val == 'LOI' or total_capabity1_val == 'Delta':
            ds_worksheet.range((row_idx + 3 ,3)).value = row[('Current week','BOH')]
            print(f"ds_sheet的第{row_idx + 3}行第3列被设置为{row[('Current week','BOH')]}") 
        #给Demand和Supply赋值
        if total_capabity1_val == 'Demand' or total_capabity1_val == 'Supply':
            cp_datetime_columns = cp_df.columns[53:]
            for col_idx in range(4,len(ds_df.columns)):
                ds_datetime = ds_df.columns.get_level_values(1)[col_idx]
                ds_month = ds_df.columns.get_level_values(0)[col_idx]
                if type(ds_datetime) == str and ds_datetime != 'TTL' and ds_datetime != 'Total' and (ds_datetime in cp_datetime_columns):
                    ds_worksheet.range((row_idx + 3,col_idx + 1)).value = row[(f'{ds_month}',f'{ds_datetime}')]
                    print(f"ds_sheet的第{row_idx + 3}行第{col_idx + 1}列被设置为{row[(f'{ds_month}',f'{ds_datetime}')]}") 
                elif type(ds_datetime) == datetime.datetime and (ds_datetime in cp_datetime_columns):
                    ds_worksheet.range((row_idx + 3,col_idx + 1)).value = row[(f'{ds_month}',ds_datetime)]     
                    print(f"ds_sheet的第{row_idx + 3}行第{col_idx + 1}列被设置为{row[(f'{ds_month}',ds_datetime)]}")   

如上的代码确实解决了问题,也即有公式的单元格的公式被保留了。但是,根据我们文章开头提到的Python处理excel的忠告,这个代码是有严重性能问题的,因为它通过api频繁操作excel的单元格,导致写入非常慢,在我的老迈Mac本上一共跑了40分钟,简直不可接受,故该方案只能放弃。

「方案2」

这个方案是希望做到读取excel有公式值的单元格的时候,能保留公式值。这只能从各个Python的excel库的API来寻找有无对应的方法了。Pandas的read_excel()方法我仔细看了一下没有对应的参数可以支持。Openpyxl我倒是找到了一个API可以支持,如下:

import openpyxl
ds_format_workbook = openpyxl.load_workbook(fpath,data_only=False)
ds_wooksheet = ds_format_workbook['DS']
ds_df =  pd.DataFrame(ds_wooksheet.values)

关键是这里的data_only参数,为True则返回数据,为False的情况下可以保留公式值

本以为找到了对应解决方案正一顿窃喜,但当我看到通过openpyxl读取到dataframe中的数据结构的时候,才被破了一盆冷水。因为我的excel表的表头是比较复杂的两级的表头,表头中还存在合并和拆分单元格的情况,这样的表头被openpyxl读取到dataframe后,没有按照pandas的多级索引进行处理,而是简单的被处理成数字索引0123...

但我对dataframe的计算会依赖多级索引,因此openpyxl的这种处理方式导致我后面的计算无法处理。

openpyxl不行,再看看xlwings呢?通过对xlwings API文档的一通寻找,还真给我找到了,如下所示:

python处理完excel后不回写,pandas,python,excel

Range类提供了一个Property叫formula,可以获取和设置formula。

看到这个我简直如获至宝,赶紧代码操练起来。也许出于惯性,又或许是被之前按行列单元格操作excel的效率搞怕了,我直接先想到的方案还是一次性批量搞定,也即一次性读取excel所有的公式,然后再一次性写回去,所以我一开始的代码是这样的:

#使用xlwings来读取formula
app = xw.App(visible=False,add_book=False)
ds_format_workbook = app.books.open(fpath)
ds_worksheet = ds_format_workbook.sheets["DS"]
#先把所有公式一次性读取并保存下来
formulas = ds_worksheet.used_range.formula

#中间计算过程省略...

#一次性把所有公式写回去
ds_worksheet.used_range.formula = formulas 

可是我想错了,ds_worksheet.used_range.formula让我误解只会返回excel中的有公式的单元格的公式,但其实它返回的是所有的单元格,只是对有公式的单元格保留了公式。所以,当我重新写回公式的时候,会覆盖掉我通过dataframe计算完并写入excel的其他的值。

既然这样的话,那我只能对有公式的单元格分别处理而不是一次性处理了,所以代码得这样写:

#使用xlwings来读取formula
app = xw.App(visible=False,add_book=False)
ds_format_workbook = app.books.open(fpath)
ds_worksheet = ds_format_workbook.sheets["DS"]

#保留excel中的formula
#找到DS中Total所在的行,Total之后的行都是formula
row = ds_df.loc[ds_df[('Total','Capabity')]=='Total ']
total_row_index = row.index.values[0]
#获取对应excel的行号(dataframe把两层表头当做索引,从数据行开始计数,而且从0开始计数。excel从表头就开始计数,而且从1开始计数)
excel_total_row_idx = int(total_row_index+2)
#获取excel最后一行的索引
excel_last_row_idx = ds_worksheet.used_range.rows.count
#保留按日期计算的各列的formula
I_col_formula = ds_worksheet.range(f'I3:I{excel_total_row_idx}').formula
N_col_formula = ds_worksheet.range(f'N3:N{excel_total_row_idx}').formula
T_col_formula = ds_worksheet.range(f'T3:T{excel_total_row_idx}').formula
U_col_formula = ds_worksheet.range(f'U3:U{excel_total_row_idx}').formula
Z_col_formula = ds_worksheet.range(f'Z3:Z{excel_total_row_idx}').formula
AE_col_formula = ds_worksheet.range(f'AE3:AE{excel_total_row_idx}').formula
AK_col_formula = ds_worksheet.range(f'AK3:AK{excel_total_row_idx}').formula
AL_col_formula = ds_worksheet.range(f'AL3:AL{excel_total_row_idx}').formula
#保留Total行开始一直到末尾所有行的formula
total_to_last_formula = ds_worksheet.range(f'A{excel_total_row_idx+1}:AL{excel_last_row_idx}').formula

#中间计算过程省略...

#保存结果到excel                 
#直接把ds_df完整赋值给excel,会导致excel原有的公式被值覆盖
ds_worksheet.range("A1").expand().options(index=False).value = ds_df 
#用之前保留的formulas,重置公式
ds_worksheet.range(f'I3:I{excel_total_row_idx}').formula = I_col_formula
ds_worksheet.range(f'N3:N{excel_total_row_idx}').formula = N_col_formula
ds_worksheet.range(f'T3:T{excel_total_row_idx}').formula = T_col_formula
ds_worksheet.range(f'U3:U{excel_total_row_idx}').formula = U_col_formula
ds_worksheet.range(f'Z3:Z{excel_total_row_idx}').formula = Z_col_formula
ds_worksheet.range(f'AE3:AE{excel_total_row_idx}').formula = AE_col_formula
ds_worksheet.range(f'AK3:AK{excel_total_row_idx}').formula = AK_col_formula
ds_worksheet.range(f'AL3:AL{excel_total_row_idx}').formula = AL_col_formula
ds_worksheet.range(f'A{excel_total_row_idx+1}:AL{excel_last_row_idx}').formula = total_to_last_formula

ds_format_workbook.save()
ds_format_workbook.close()
app.quit()

经测试,如上代码完美地解决我的需求,而且性能上也完全没问题。

「写在最后」

通过这几次用Python对Excel进行处理的实践,让我深刻感觉到,Pandas用于对Excel数据的高效内存计算是很不错的,但涉及到对Excel的读写以及一些跟样式、格式相关的操作,还是得依赖xlwings或openpyxl等其他库来完成,因此,在用Python处理Excel的场景,最佳方案是将Pandas和xlwings或openpyxl等库结合起来一起使用是最佳组合。

「粉丝福利」

在此评论区 评论“人生苦短 我学python”即可参与抽奖文章来源地址https://www.toymoban.com/news/detail-796736.html

python处理完excel后不回写,pandas,python,excel

专家推荐

回看近20年的企业培训经历,最直接有效的培训就是能够交付实操技能,回去就能快速上手的课。正如两位老师的这本《Excel高效应用:HR数字化管理实战》书籍,它不仅是一本工具书,还融汇了讲师多年的数据管理实战经验。面对繁杂的HR工作,它能够给我们带来的最大价值,就是帮助我们如何构建好用易上手的Excel自动化数据系统,让我们在数据分析与管理路上少走弯路。

易迪思(中国)培训中心CEO  刘新

《Excel高效应用:HR数字化管理实战》的两位作者深耕企业培训领域多年,为世界500强企业设计职业技能培训课程的同时,也为企业打造量身定制化的数据分析解决方案。本书凝结了两位讲师多年从业经验,针对职场员工面临的实际问题,通过大量案例分析,从Excel实战应用思路和技巧两个维度,为HR专业人士提供了一套高效的数据处理解决方案,快速提升办公效率。

国研世讯教育管理咨询有限公司  董事长  索爱玲

 在此评论区 评论“人生苦短 我学python”即可参与抽奖

在此评论区 评论“人生苦短 我学python”即可参与抽奖

在此评论区 评论“人生苦短 我学python”即可参与抽奖

到了这里,关于用Python解决Excel问题的最佳姿势的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 【Python处理EXCEL】基础操作篇3:用Python对Excel表格进行拼接合并

    目录 准备工作 一、横向拼接 1.1 一般拼接 1.2 指定键进行拼接,即指定某一列作为两个表的连接依据。 1.2.1 多对一 1.2.2 多对多 1.2.3 用on来指定多个连接键 1.2.4 指定左右连接键 1.2.5 索引当作连接键 1.3 连接的方式 1.3.1 内连接(inner) 1.3.2 左连接(left) 1.3.3 右连接(right)

    2024年01月17日
    浏览(58)
  • 详解Python对Excel处理

    Excel是一种常见的电子表格文件格式,广泛用于数据记录和处理。Python提供了多个第三方库,可以方便地对Excel文件进行读写、数据操作和处理。本文将介绍如何使用Python对Excel文件进行处理,并提供相应的代码示例和详细说明。 在开始之前,我们需要安装一些Python第三方库,

    2024年02月15日
    浏览(34)
  • python| 关于excel的文件处理

    import openpyxlimport random # 打开原始文件和目标文件 source_file = openpyxl.load_workbook(\\\'平时成绩单.xlsx\\\')target_file = openpyxl.Workbook() # 获取源文件中所有的工作表 worksheets = source_file.sheetnames for worksheet_name in worksheets: # 读取原始文件中每个工作表的学号和姓名列的内容 source_worksheet = sour

    2023年04月22日
    浏览(45)
  • python 使用 openpyxl 处理 Excel 教程

    python 操作excel 的库有很多 ,有的库只能读取 xsl 格式,比如 xlrd 库; 有的库只能写 xsl 格式,比如 xlwt 库; 有的只能读写 xslx 格式,比如 openpyxl 库 。 综合各库及 xslx 格式比较常见,所以本文主要讲解 openpyxl 库对 xslx 格式的 excel 操作。 例如当使用 Pyramid, Flask 或 Django 等 we

    2024年02月10日
    浏览(58)
  • Python Pandas 处理Excel数据 制图

    目录 1、饼状图  2、条形统计图

    2024年02月11日
    浏览(40)
  • Python处理数据:匹配两个Excel文件数据

    当需要处理两个Excel文件的数据,根据两个Excel的某一些内容进行数据匹配,从而提取出相应的数据时,除了使用Excel自带的Vlookup函数,还能使用Python进行处理。我是不会告诉你们我选择Python处理的原因是对Excel的Vlookup不熟悉的。 目录 1 前言自述 2 需求场景 3 代码实现 4 运行

    2024年02月09日
    浏览(39)
  • 【openpyxl】python处理excel——删除指定行

    本文给出了用 openpyxl 删除excel满足指定条件的行或列的正确示范,同时给出了一些网络资料的常见错误供读者参考 因为需要删除的行数不固定,正确示范应该采用 while 循环来遍历excel表,方便删除操作,网络上很多教程采用 for 循环,存在循环过程中行号改变的错误 以下例子

    2024年02月12日
    浏览(42)
  • Python之第十二章 处理Excel电子表格

    工作薄: .xlsx文件、包含多个表(工作表)。 活动表:用户当前查看的表、关闭Excel前最后查看的表。 import openpyxl 先制作一张例表1.xlsx openpyxl模块提供了openpyxl.load_workbook()函数,用来打开Excel文档。  openpyxl.load_workbook()函数打开Excel文档会返回一个workbook数据类型的值。 workb

    2024年02月05日
    浏览(36)
  • Python 处理 Excel 表格的 14 个常用操作

    目录 1. 安装依赖库 2. 导入库 3. 读取Excel文件 4. 写入Excel文件 5. 创建工作表 6. 访问工作表 7. 读取单元格数据 8. 写入单元格数据 9. 获取行数和列数 10. 过滤数据 11. 排序数据 12. 添加新行 13. 删除行或列 14. 计算汇总统计 总结 无论是数据分析师、财务专员还是研究人员,Excel都

    2024年02月12日
    浏览(36)
  • 轻松学会Python--openpyxl库,处理Excel有如神助

    Excel是Windows环境下流行的、强大的电子表格应用。无论是在工作中还是学习中。我们几乎都在不间断的使用Excel来记录或处理一些数据。例如:可能有一个无聊的任务,需要从一个电子表格拷贝数据,粘贴到另一表格。 或者可能需要从几千上万行中挑选几行,根据各种条件稍

    2024年02月19日
    浏览(47)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包