首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Google SDK返回403 `用户速率限制已超出`

stream was reset: CANCEL

页面内容是否对你有帮助?
有帮助
没帮助

相关·内容

一份解决爬虫错误问题指南

在互联网上进行自动数据采集已是互联网从业者的常规操作,爬虫程序想要长期稳定地进行数据采集,都会使用到爬虫代理来避免目标网站的IP访问限制。在数据采集过程中难免会遇到各种各样的问题,若想要想要快速分析数据采集过程中的问题,我们该怎么做呢?其实可以通过HTTP返回的各种状态码进行判断。今天就来重点讨论下这几个错误应该如何解决。 一、出现HTTP的407错误 几种情况下会出现http的407、408错误: 1. 全部是http的407错误,是代理认证信息不对。 1. 少量http的407错误,大量http的200请求成功,有些语言库第一次请求不会传递认证信息,自动发起第二次请求并将认证信息传递,属正常情况。 1. 少量http的200请求成功,少量http的407错误,大量http的429错误,有可能是每秒请求数大量超出代理限定,代理直接返回相关错误。 二、429 Too Many Requests 您的请求过快,请降低请求速率 注意:如果遇到过多429,可以考虑减少线程数量(并发数量),或加上时间间隔(建议 >300ms)。请求超过代理限制,严格按照所开代理的请求数,按照300毫秒为单位进行管理。如果限制之后,既然大量429,需要优化爬虫策略,应该是目标网站返回的错误提示。 三、http状态码403 503 或504 原因:少量不影响,大量403 503或504需要优化爬虫策略 四、504 Proxy Gateway TimeoutLink 代理正在切换IP,请稍后(30秒)再试 目标网站不可达 注意:如果出现少量504属于正常情况。如大量出现,建议在不使用代理的情况下检查目标网站是否可以访问。 可能由目标网站的防护措施导致。

01

分布式环境下限流方案的实现redis RateLimiter Guava,Token Bucket, Leaky Bucket

对于web应用的限流,光看标题,似乎过于抽象,难以理解,那我们还是以具体的某一个应用场景来引入这个话题吧。在日常生活中,我们肯定收到过不少不少这样的短信,“双11约吗?,千款….”,“您有幸获得唱读卡,赶快戳链接…”。这种类型的短信是属于推广性质的短信。为什么我要说这个呢?听我慢慢道来。一般而言,对于推广营销类短信,它们针对某一群体(譬如注册会员)进行定点推送,有时这个群体的成员量比较大,甚至可以达到千万级别。因此相应的,发送推广短信的量也会增大。然而,要完成这些短信发送,我们是需要调用服务商的接口来完成的。倘若一次发送的量在200万条,而我们的服务商接口每秒能处理的短信发送量有限,只能达到200条每秒。那么这个时候就会产生问题了,我们如何能控制好程序发送短信时的速度昵?于是限流这个功能就得加上了

02
领券