前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >那个爬虫不被封 -- 数据开放平台之POI

那个爬虫不被封 -- 数据开放平台之POI

作者头像
叫我阿柒啊
发布2022-05-09 20:15:03
5380
发布2022-05-09 20:15:03
举报

在做爬虫的时候,不免都有爬取这个数据是不是合法的这种担忧,程序中也有加代理、UA、控制爬取频率等手段来避免被网站识别。但是从一些数据平台开放的接口中爬取数据就不需要有这种考量。曾经做过这么个需求,爬取一个省份的POI。

POI是Point of Information的缩写,即信息点。在地理信息系统中,一个POI可以是一栋房子、一个商铺、一个邮筒、一个公交站等。但是POI的正统翻译还是Point of Interest,即兴趣点。

每个POI包含四方面信息,名称、类别、坐标、分类,那时候就打算从一些公示网站爬取,数据更新缓慢导致不准确不说,而且因为数据量太大,爬取效果也不理想,后来就找到了高德的一个poi数据开发平台,完成了数据采集。高德开放平台通过API来提供poi数据,通过参数可以控制地区、类别等信息。

登录高德账号

点击 高德开放平台入口 进入页面,没有注册的homie先注册一个账号,注册登录之后点击申请key。

高德开放平台URL如下:

代码语言:javascript
复制
https://lbs.amap.com/api/webservice/guide/api/search/
注册密钥

1 进入注册页面的首页,点击新建应用

2 填写配置,选择web端(JS API)

3 点击管理key,查看申请的密钥

接口使用

点击 接口规范 进入页面查看接口的规范,请求参数如下

请求URL如下:

代码语言:javascript
复制
https://restapi.amap.com/v3/place/text?key=输入你的key&city={0}&extensions=all&types={1}&citylimit=true&offset=25'

其中key就是申请的秘钥,city和types可以下载POI分类编码和城市编码表来获取自己想要的poi数据。

结果数据

这就是从接口中获取的poi数据,可用于地图打点等方面

日常结语

这个接口的调用也是有限制的,点击查看调用量,一般每天可以free调用3W次,一次25个poi,这样一天也能获取70W个poi,enough!!!

晚安,各位homie。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2020-07-26,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 入门到放弃之路 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 登录高德账号
  • 注册密钥
  • 接口使用
  • 结果数据
  • 日常结语
相关产品与服务
访问管理
访问管理(Cloud Access Management,CAM)可以帮助您安全、便捷地管理对腾讯云服务和资源的访问。您可以使用CAM创建子用户、用户组和角色,并通过策略控制其访问范围。CAM支持用户和角色SSO能力,您可以根据具体管理场景针对性设置企业内用户和腾讯云的互通能力。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档