用户Python3解析超大的csv文件
Posted August 15, 2016
我在日前获得一个任务,为了做分析, 从一个超大的csv文件中解析email地址和对应的日期时间戳然后插入到数据库中....我知道有其他工具可以方便的完成我的工作(比如pandas),对于本文的目的, 我只打算用python的方式来处理这些数据.
这个csv文件超过了2G, 200万条的数据....起初, 我尝试用excel打开这个文件, 来查看数据 。不幸的是, 我的excel程序开始假死最后我不得不杀掉excel进程....Python
def get_email_data(csv_fname):
with open(csv_fname, "r", encoding="latin-1") as email_records..., 然后友好的处理大的文件.