首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >聊聊phantomjs的优化措施

聊聊phantomjs的优化措施

作者头像
code4it
发布2018-09-17 15:15:30
8320
发布2018-09-17 15:15:30
举报
文章被收录于专栏:码匠的流水账码匠的流水账

本文主要小结一下phantomjs的优化措施

phantomjs

phantomjs相当于一个后台浏览器,有点内嵌jetty的味道,通常在自动化测试或者爬虫领域用。

优化点

  • 池化技术,避免重复启动 对于其他语言进行进程间调用的话,频繁地调用进程进行上下文切换以及频繁创建对象及其消耗时间,因此可以进行连接池优化处理
  • 设置about:blank,避免状态没有清除的bug 在引入连接池之后,处理不好的话,难以避免的带来很多状态的错乱,类似java的threadlocal,在tomcat连接池中使用的话,如果上一个线程使用完没有清除掉,则下个复用该线程的请求则会读到脏数据。

phantomjs貌似没有reset的接口,这里可以使用一个黑魔法,在每次get的时候,先打开一个blank,然后再进行请求。

  • 开启disk-cache 如果对同一个页面访问比较频繁,则开启cache缓存一些静态资源,避免重复请求
  • 抛弃selenium,直接使用api 如果你是使用selenium的封装来调用的话,那么可以考虑直接使用原始api,更直接一些。
  • 构建分布式rest api服务 请求网络资源的处理,可能是非常耗时的,也及其不稳定,因此吞吐量肯定不高,高并发的时候很容易出现瓶颈,必要的时候进行分布式部署。

小结

除了phantomjs,chrome以及firefox也推出类似的headless版本,因此也多了几个选择,有待进行尝试。

doc

  • 【phantomjs系列】Phantomjs正确打开方式
  • 【phantomjs系列】Phantomjs Api介绍
  • 【phantomjs系列】Selenium+Phantomjs性能优化
  • 【phantomjs系列】Selenium+Phantomjs爬过的那些坑
  • Selenium+PhantomJS的爬虫那些事儿
本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2017-11-07,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 码匠的流水账 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • phantomjs
  • 优化点
  • 小结
  • doc
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档