前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >抓取模板

抓取模板

作者头像
hankleo
发布2020-09-17 10:21:32
6340
发布2020-09-17 10:21:32
举报
文章被收录于专栏:Hank’s BlogHank’s Blog
代码语言:javascript
复制
import pandas as pd
from lxml import etree
import json,requests,random
import os,time,shutil,traceback

def get_data(url, headers):
    try:
        store_res = requests.get(url=url, headers=headers)
        if store_res.status_code == 200:
            jdata=store_res.json()
            for s in jdata:
                result=s['title']
                print(result)
                yield result
    except Exception:
        traceback.print_exc()

def save_data(data, sheet, head):
    data = pd.DataFrame([i for i in data], columns=head)
    dirname=time.strftime("%Y%m%d",time.localtime())
    os.makedirs(dirname,exist_ok=True)
    skufile='./{0}/'.format(dirname)+sheet+dirname
    os.makedirs(skufile,exist_ok=True)
    shutil.copy(sheet+'.py',skufile+'/'+sheet+'.py')
    data.to_excel(skufile+'/{0}{1}.xlsx'.format(sheet,dirname),index=False,sheet_name=sheet)
    print('Done!')

def main():
    headers = {
        "user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.100 Safari/537.36",
        "x-requested-with": "XMLHttpRequest"
    }
    url = ' '
    data = get_data(url, headers)

    sku = os.path.splitext(os.path.basename(__file__))[0]
    head = [' ']
    save_data(data,sheet,head)

if __name__ == '__main__':
    main()
本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2019-10-16 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档