前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Selenium添加Cookie来实现自动登录

Selenium添加Cookie来实现自动登录

作者头像
灯珑LoGin
发布2022-10-31 15:01:42
1.3K0
发布2022-10-31 15:01:42
举报
文章被收录于专栏:龙进的专栏

最近在写一个爬虫,需要爬取京东的商品信息。本来第一天还爬的好好的,第二天就提示要登录才能进去搜索页面了。

上网找的办法是添加cookie来实现自动登录。我写了一个程序,使用selenium+chrome,先手动登录一次之后,把Cookie保存到数据库里,然后当需要登录时,自动从数据库里面读取cookie,并设置上去。

网上的代码大都是这样,但是事实证明这是不行的,没法登陆上去。

直到我看到一篇文章之后,才意识到,可能是因为cookie里面有些内容需要被替换,才能继续使用,于是我就加了一个重新构造cookie的代码,就能实现登录了!

代码片段:

代码语言:javascript
复制
def set_cookie(browser, url):
    log.logger.info("正在设置cookie。...")
    global current_ckid
    current_ckid, cookie = utils.get_valid_cookie(url)
    # 在这里获取到了cookie
    if cookie is not None:
        browser.delete_all_cookies()
        for ck in cookie:
            # print(ck)
            cookie_dict = {
                "domain": ".jd.com",  # 火狐浏览器不用填写,谷歌要需要
                'name': ck.get('name'),
                'value': ck.get('value'),
                "expires": "",
                'path': '/',
                'httpOnly': False,
                'HostOnly': False,
                'Secure': False}
            browser.add_cookie(cookie_dict)
        # browser.refresh()
        time.sleep(3)
    else:
        log.logger.warning("无可用cookie, 停止抓取...")

转载请注明来源:https://longjin666.cn/?p=1281

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2021年12月30日,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
数据库
云数据库为企业提供了完善的关系型数据库、非关系型数据库、分析型数据库和数据库生态工具。您可以通过产品选择和组合搭建,轻松实现高可靠、高可用性、高性能等数据库需求。云数据库服务也可大幅减少您的运维工作量,更专注于业务发展,让企业一站式享受数据上云及分布式架构的技术红利!
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档