我有一些pandas代码,我试图在一个大数据集上运行,尽管使用了apply,但它看起来本质上是迭代和运行缓慢的……欢迎您的建议!
我在试着把我的数据分组。每行都有一个非唯一的事件ID,并且每个事件ID可以包含多个事件。如果这些事件中的任何一个是特定的类型,我希望具有该ID的每一行都有一个特定的标志-例如,这种类型的事件发生在该ID中。然后,我希望导出仅包含ID的数据框,并使用该标志显示该事件是否在该ID中发生。
这是我使用的代码:
no_duplicates = df.drop_duplicates(subset=["ID])
def add_to_clean(URN):
single_df = df[df["URN"] == URN].copy()
return single_df["Event_type"].sum() > 0
no_duplicates["Event_type"] = no_duplicates["ID"].swifter.apply(add_to_clean)虽然我已经尝试使用应用而不是循环,但它似乎仍然迭代了整个代码并且花费了很长时间。有没有关于如何让它更有效率的想法?
发布于 2020-09-23 16:37:36
如果需要由聚合值填充的新列,请使用GroupBy.transform而不是apply + join,但transform只使用一个列Event_type
no_duplicates["Event_type"] = no_duplicates.groupby("URN").Event_type.transform('sum') > 0 https://stackoverflow.com/questions/64024039
复制相似问题