首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

RPA 实战:让小姐姐填满你硬盘(上)

首先我们要从网页获取图片,打开网页控件是第一个用到;其次我们要获取网页高度并进行滚动、获取页面图片元素及src属性,我们可以通过执行 js 代码控件来帮我们完成;此外,涉及一些流程控制我们必须依赖分支...尽管整个流程梳理起来非常简单,但实际开发时候,由于对工具、编程语言基础等不熟练,踩了一个又一个坑,最终走出了结合 JS 代码以及 NodeJS 爬虫思路来开发这个图片爬取 RPA 程序。...全局变量定义 由于本大狮功力不够,暂时没能实现打开网页之后动态获取跳转链接,因此直接使用输入关键字搜索之后 url 作为全局变量 url 值,拼接 keyword 来实现结果页面图片获取。...循环操作 此处模拟了 JS 定时器方法,使用While来进行滚动操作循环。...遍历图片链接并下载 “没有什么问题是一个 for 循环不能解决,如果有,那就两个”,此处能够直接进行循环是因为之前 JS 代码返回值已经是 list 了,因此将 url 遍历出来调用下载文件控件就能直接下载

1.9K20

更新|PC截图工具最佳选择。

说到截图,最常用可能就是QQ自带截图功能了,简单流畅满足我们日常需求,依附于QQ,没有特殊需求甚至不需要其他截图软件。...如果你使用过以上两种截图方式,发现有些功能并不需要,而有些功能不能满足,比如你想截图时候想截什么形状就截什么形状,比如滚动截图,比如想在截图以后立刻进行编辑,如果你对截图其他功能有一丁点兴趣,请一定要看看下面的内容...滚动截图:在浏览长网页时候,在一个文件夹很多内容时候,需要滚动截图。 ? 矩形截图:截取一个矩形截图,位置大小自由。 固定区域:自定义一个长和宽,只能截取对应大小图片。...实用工具 取色器、调色板、放大镜、标尺、坐标轴、量角器、白板演示等功能,大家可以自行使用。 ? ? 设置及小技巧 设置里面可以选择截图以后是保存到文件夹还是复制到剪切板,打开编辑器还是发送到打印机。...PS:软件设计满满微软风,觉得挺好看。 —— End ——

1.3K00
您找到你想要的搜索结果了吗?
是的
没有找到

JS 中 scrollWidth、scrollHeight、scrollLeft 、scrollTop 详解

以上4个属性是成对出现,因此下面介绍中也成对介绍,在实例中为了减少代码量,直接用id,实际开发中不推荐。...2.2 实例 在页面中,溢出说得更加通俗一些就是有没有滚动条出现,出现了,说明子元素有一部分被父元素遮挡了,就溢出了,下面给出两个实例,一个没有溢出(没有滚动条),一个溢出了,分别观察他们scrollWidth...当我们拉动水平滚动条时,元素与视图就不再是左上角顶点重合了,水平之间是存在距离(按左上角顶点重合计算),可以看到现在scrollLef了数值,因为没有移动垂直滚动条,因此垂直方向仍然是没有距离。...,如果正常计算的话最大距离应该为 : 300-200= 100 以及 320-180 = 140,但结果都增加了16左右,那么因为浏览器计算了滚动宽高,具体代码我会在下面贴出,实际代码会让你更加清楚理解这一过程...console.log(parent_div.scrollLeft) console.log(parent_div.scrollTop) } 希望能够帮助到大家,什么问题可以

2.4K40

爬虫方案 | 爬取大众点评网评论几个思路(从小程序端)

获取大众点评网店铺评论,我们一般以下几个途径:1、PC端网页端;2、小程序端;3、APP端;PC端由于字体加密,采集时需要对加密字体进行解密,具体思路可以参考:爬虫方案 | 爬取大众点评网评论几个思路...(从PC端) – 富泰科 (futaike.net)本篇我们尝试从小程序端来获取:工具:1、fiddler软件:抓包使用;2、python首先我们从电脑微信打开小程序,开启fiddler,定位到评论页面...下面我们就请出python库当中另一个模块,pyautogui,让它帮我们去滚动小程序页面,翻页加载。我们思路是运行以后让鼠标自动跑到小程序界面,然后再滚动向下,进行翻页,一直翻到没有数据为止。...还可以加一个break条件来终止这个循环,比如滚动到最后有一个,没有更多数据提示,那我们就可以使用这个来作为循环停止条件。...,返回是元组 pyautogui.PAUSE = 5 # 暂停5秒我们定义一个滚动函数:# 循环滚动page = 0while True: for i in range(4): # 循环滚动

4.4K62

十行python代码定时给微信好友发送晚安,自动应答--python云舔狗

每当我看到这一幅幅漫画就想起了那逝去青春,作为一只快乐小狗在夕阳下奔跑,追逐那位(些)不曾回头她(们),如果早早学会python,成为一只“云舔狗”,也许她(们)就能回头上下滚动查看更多 ?...们)发送微信,当然她(们)人数比较多的话,建一个列表也可以写个for循环也没什么问题。...测试图 测试结果还是可以,再加上时间判断和while循环,十行代码实现一年365天发送早安和晚安。...(名人名言),去某乎搜罗了一些,大家如果有时间去名人名言网站,鬼故事网站每日定时爬取,然后伴着早安和晚安发送过去,给她(们)带去一次次惊喜,事半功倍,好感度蹭蹭往上涨 while True...上下滚动查看更多每日情话 3.2 发送传说中舔狗语句 当然了也搜一集了一些"舔狗"语录,句句扎心,想用代码发送这些语录同上,各位读者大老爷们看看就好啦 ?

4.4K20

不会玩阴阳师带你一键下载《阴阳师:百闻牌》所有卡牌并调用百度OCR识别文字信息

下载图片并回调实现文字识别 (4)主函数 三、项目分析 1.程序测试 2.改进分析 3.补充说明 一、项目概述 1.项目背景 一天,一个朋友给我发来一条链接https://ssr.163.com/cardmaker/#/,让帮他看看怎么获取到网页中所有的图片链接...怪不得没听过,因为不玩游戏,一个准程序猿不玩游戏一定有很多人不相信 ,但是确实如此,从未玩过游戏 。 但是这并不影响来分析网页得到图片,网页如下: ?...但是你右键查看网页代码会发现源代码中无任何图片链接信息,除了一堆HTML整体布局代码和极端JS,什么都没有,显然,图片是动态加载生成,用常规requests库是请求不到链接,这个时候最简单也最直接办法就是使用...,可以使用请求到链接来下载图片,再将其中文字识别出来。...这类网页要实现爬取所有数据或者尽可能多数据需要模拟点击按钮以实现动态加载,所以需要使用selenium,示例如下: while True: try: driver.find_element_by_xpath

1.3K20

前端性能优化之防抖与节流,大幅度降低你事件处理性能

以上文字就是对防抖这个概念一个形象解释,希望大家反复阅读,理解了定义以后才方便理解下面的实现防抖代码。...) }, 500) } } 我们来解读一下这段代码: 我们在全局定义了一个用于存放定时器变量timer, 当我们在网页第一次滚动页面时...就这样在后面会触发无数次滚动事件, 代码运行会一直按照步骤2里逻辑进行,这样循环往复…… 直到我们停止滚动以后, 不再触发滚动事件了,最后一次滚动事件中给 timer赋值 setTimeout...也请大家仔细体会节流含义,方便理解下面的代码 (2)使用 节流方法,两种,一种是利用时间戳,另一种是利用定时器 利用时间戳来完成节流 代码如下: // 同样这里也是只需要修改js代码 <script...我们很清楚看到, 利用定时器节流效果跟利用时间戳节流效果差不多,如果非要说差别的话,就是利用时间戳节流,第一次滚动会立马获取一次数据,而利用定时器节流, 第一次获取数据会延迟一定时间。

1.5K20

jQuery 自定义网页滚动条样式插件 mCustomScrollbar 介绍和使用方法

如果你构建一个很有特色和创意网页,那么肯定希望定义网页滚动条样式,这方面的 jQuery 插件比较不错两个:jScrollPane 和 mCustomScrollbar。...*注:加载顺序也要按照上面代码顺序,如果不注意加载顺序,可能会导致失败,原因请看本人网页代码顺序是不可忽略细节。...否则可能会无效,关于网页代码顺序,详情可以看一下 潜行者m 这篇文章:网页代码顺序是不可忽略细节。...但是没有人愿意使用如此强大插件来实现这个默认效果,下面来说一下进阶使用。...,官方给出了一张非常形象图片 根据这张图片,就可以很容易定义滚动样式了。

13.9K30

一个女人机器人日记

Double 公司说他们从 2012 年开始发行网真机器人以来已经卖出了将近 5000 台。这些机器人大多数流向大型企业,如 IBM 和麦当劳,但目前还没听说过教育行业和医院使用它们。...和 Davey 联系,Davey 坐在 EmBot 旁边,正在帮我检查她“生命特征”。她把 EmBot 推回去充电底座,觉得她现在应该在充电了,但是没办法表达。...在这边把她关闭了,但是 Davey 告诉正在尝试着抓住她,屏幕上一片空白,就像一只鸡身体,在被厨师砍断头后血淋淋地在园地里到处盘旋。恳求 Davey 在她身上找到可以关掉她按钮。...旧金山一位同事在登录她,这让感到很紧张,但是感到更不安并不在意其他人正在进入她体内。 和 Double Robotics 打电话,想听听公司发现了什么问题。...它滚动方式不一样,扩音器更小声,也不能连接上 Wi-Fi,在地毯边缘摇晃方式也不同。这个不是“”,这就只是机器人。一台无法给予信任机器人。 当然现在还在使用它。

77450

【爬虫实践】爬取官方新闻标题、正文、时间

爬虫用频率较少,每次使用都会手生,特此记录一次实战经历。 项目需求 要求爬取济南市政务网中“滚动预警”菜单中文章,包括文章标题,文章正文,文章时间,并保存为txt文件。...在网页中右键->选择查看源代码,即网页静态代码。在网页中右键->检查,可查看浏览器当前渲染内容。 若两者一致,则网页是静态加载。...此时,通常使用requests.get方式即可获取到网页数据。 若两者不一致,网页是动态加载。此时需通过开发者后台查看本地向服务器发送交互性数据(XHR)。...,以显示程序正在允许中 # print(len(Linklist)) # print(Linklist) # 假如爬完所有内容,跳出循环...解决方式:每次gethtml添加time.sleep(1),让每次爬取间隔1秒时间,若仍报错,尝试使用代理ip。

98311

经验 | Web开发野蛮生长这17年

在我看来,世间万物都是循环,它们会反复出现,因此我们能够以史为镜,避免重蹈覆辙。 这张照片拍摄于 1997 年,是第一张使用网络摄像头拍摄照片,照片上右边那个家伙就是。...最开始在 Lynda 和 Coursera 工作,这让真正理解了 JavaScript,理解使用 underscorejs 原因,理解了怎样才能让需要东西更好融合起来。...上周需要转换一些 UTF-8 HTML 字符实体--来给大家看一下搜索出来结果: 针对于同一个问题,许多模块给出了解决方案,所以选择正确解决方案真的有点困难。...没有人站出来说这段代码问题。所以不管你是从 Stackoverflow 还是其他什么地方复制粘贴代码都要三思而后行。...毕竟是别人代码,所以你应该理解整个代码,并逐行确认代码确实如你所想那样运行。 Daniel Khan 终极 web 开发建议 恩,最后再说几句。对于我来说,几条原则至关重要。

19010

使用相交观察器和SQIP进行渐进式图像加载

最近开始尝试使用SQIP,开始创建低质量版本图像可能非常有趣 前段时间,使用Intersection Observer写了一个图像延迟加载技术。...如果你网页包含多个图像,但你只能在滚动查看图像时加载每个图像,则最终会节省带宽,并确保网页加载速度更快 这让思考;想知道是否可以将交叉观察者和使用TobiasSQIP工具创建低质量占位符图像结合起来...一旦开始进一步尝试,它比我想象更容易。...起初发现这个装置有点棘手,但遇到了这篇精彩文章,指出了正确方向。一旦安装Go,您需要安装一个名为Primitive工具。...utm_source=mobiledevweekly&utm_medium=email 作者:川川,一个靠前排90后帅小伙,争做一个具有情怀代码男,愿做你耳朵旁边暖男,眼睛笔尖下朋友,故事,

1.8K20

模态框最佳实践

它一定要是可行动,可以理解。不要试图让按钮内容让用户迷惑,如果你尝试做一个取消动作,但框内有一个取消按钮,那么是要取消一个取消呢,还是继续取消。 大小与位置。...在网页里,使用 Command(Ctrl) and +/- 和使用触摸板缩放事件是两个不同表现? 如果你终端用户没有好用触摸板,但是他的确看不清你网页内容。...模态框代码实现层面 前端开发还是少不了代码层面的实现,业务代码对于状态或无状态模态框使用方式存在普遍问题。...对状态模态框来说,很多库会支持 .show 直接调用方式,那么模态框内部渲染逻辑,会在此方法执行时执行,没有什么问题。...但我们还是看到一些同学提出了相反意见,总结下就是不同产品或不同用户带给我们不同认识。这时候是不是要死守着『最佳实践』呢?

1.4K40

基于Apify+node+reactvue搭建一个有点意思爬虫平台

前言 熟悉朋友可能会知道,一向是不写热点。为什么不写呢?是因为不关注热点吗?其实也不是。有些事件还是很关注,也确实有不少想法和观点。但我一直奉行一个原则,就是:要做有生命力内容。...本文介绍内容来自于笔者之前负责研发爬虫管理平台, 专门抽象出了一个相对独立功能模块为大家讲解如何使用nodejs开发专属于自己爬虫平台.文章涵盖知识点比较多,包含nodejs, 爬虫框架, 父子进程及其通信...正文 在开始文章之前,我们必要了解爬虫一些应用....我们还可以使用它提供cli工具实现更加便捷爬虫服务管理等功能,感兴趣朋友可以尝试一下. apify提供了很多有用api供开发者使用, 如果想实现更加复杂能力,可以研究一下,下图是官网api截图...// 最大滚动高度, 防止无限加载页面导致长效耗时任务 let max_height = 30000; let m = {prevScroll: -1, curScroll: 0} while (

2.2K20

微信小程序实践:2.3 可滚动容器组件之 scroll-view

这时候因为上面的图片会使下方图片自动往下跑。 这个体验肯定很不好。 为了解决这个1%问题。谷歌提出了滚动锚定」策略,即通过一个css样式,控制滚动实体在内容变化时不发生滚动。...如果出现不滚动现象,可以尝试给外框容器添加样式:white-space:nowrap;display:inline-block,并且保证内容实际宽度大于屏幕宽度。...除了使用scroll-view下拉刷新,一种替代方案,是直接使用Page下拉刷新。如何使用呢?...右侧列表滚动时,通过绑定scroll事件,拿到scrollTop,循环对比在哪个区域,就把哪个区域对应菜单高亮。 6、如何在小程序中使用 WeUI 组件库?...好了,是石桥码农,今天分享就到这里,今天主要讲了scroll-view这个组件,希望对你学习帮助。什么问题欢迎留言,也欢迎进群讨论。 2020年4月10日 参考文献 WEIXIN."

14.3K30

精读《模态框最佳实践》

它一定要是可行动,可以理解。不要试图让按钮内容让用户迷惑,如果你尝试做一个取消动作,但框内有一个取消按钮,那么是要取消一个取消呢,还是继续取消。 大小与位置。...在网页里,使用 Command(Ctrl) and +/- 和使用触摸板缩放事件是两个不同表现? 如果你终端用户没有好用触摸板,但是他的确看不清你网页内容。...模态框代码实现层面 前端开发还是少不了代码层面的实现,业务代码对于状态或无状态模态框使用方式存在普遍问题。...对状态模态框来说,很多库会支持 .show 直接调用方式,那么模态框内部渲染逻辑,会在此方法执行时执行,没有什么问题。...但我们还是看到一些同学提出了相反意见,总结下就是不同产品或不同用户带给我们不同认识。这时候是不是要死守着『最佳实践』呢?

53510

Iphone秘密起源故事

没有人准确地告诉你他们去哪里。 “一直在听到隆隆声,好吧,目前还不清楚正在建造什么,但是很明显,很多最好球队中最好工程师已经被淘汰到了这个神秘队伍,”当时Evan Doll说道。...在iPod之前,没有人弄清楚如何使用数字音乐播放器; 随着Napster蓬勃发展,人们纷纷向随身携带烧录专辑快乐便携式CD播放器转载。...他要求UI wiz进行一个使用多触点滚动虚拟通讯录演示。“很激动,”Ording说。“想,是的,这似乎是不可能,但是尝试一下它会很有趣。”...“当我看到橡皮筋,惯性滚动,还有其他一些事情,想,”上帝,我们可以打这个电话。“ ” “我们已经了一些其他演示,一个网页,例如 - 这只是一个图片,你可以卷动动量,”奥丁说。...“ 设计团队大力地尝试了一个解决方案。 “出了一些预测性打字想法,”Bas Ording说。在屏幕底部会有一个字母表,用户将使用滚轮来选择字母。

1.7K30

利用Selenium模拟页面滚动,结合PicCrawler抓取网页图片SeleniumPicCrawler具体实现总结

在做图片爬虫时,经常会遇到一些网站需要鼠标不断滚动网页才会继续响应,这对传统HttpClient是一件很困难事情,至少不知道如何处理。幸好,找到了Selenium。...3.多次滚动某个网页,下载网页图片 /** * * @param url * @param scrollDownNum 模拟鼠标滚动到屏幕底部到次数...(),第一次先通过WebDriver请求网页,然后不断地模拟浏览器行为向下滚动不断地请求网页,并解析网页下载图片。...,那我就可以放心去抓其他网站上图片了:) 总结 具体代码可以查看这个文件。...也是第一次尝试使用selenium,未来希望能够结合它能够做出更好玩东西。 最后,附上github地址: https://github.com/fengzhizi715/PicCrawler

1.9K10

touch-action导致安卓页面无法滚动

之所以写,是因为单独去学知识点或者单独看一篇文章其实很简单,难是在自己实践中,因为一个问题找一个方案,然后又引起另外一个问题,而这个不断发现问题过程非常低效,需要各种尝试理解。...用这个属性是因为自己在使用antd-mobile走马灯时候,在控制台代码警告,内容是这样: [Intervention] Unable to preventDefault inside passive...搜到方案是两种,一种是通过css方式,一种是通过js方式。...什么问题呢?就是ios基本都可以,但是安卓中页面滚动都没了。这是为什么呢?这个就要看下touch-action更官方触摸说明了。 默认情况下,平移(滚动)和捏手势由浏览器独占处理。...– 在写全局样式要注意影响范围 – 在每次提交代码时候尽可能针对不确定部分增加备注,风险埋点,因为这次刚好是因为用户反馈这个问题,想到了是加了这行代码原因,但如果是其他时候或者过了很久,其实很难定位到是因为这行代码原因

4.1K00

简易数据分析 10 | Web Scraper 翻页——抓取「滚动加载」类型网页

我们今天就是要讲讲,如何利用 Web Scraper 抓取滚动到底翻页网页。...down,就是滚动网页底部加载数据意思。...我们可以回想一下,网页上的的确确存在数据,我们在整个操作过程中,唯一变数就是选择元素这个操作上。所以,肯定是我们选择元素时出错了,导致内容匹配上出了问题,无法正常抓取数据。...; a 标签里一行字,就是我们要抓取标题:如何快速成为数据分析师? 上句话从可视化角度分析,其实就是一个嵌套结构,把关键内容抽离出来,内容结构是不是清晰了很多?...如果你爬取网站多了,就会发现大部分网页结构都是比较「随心所欲」。所以在正式抓取数据前,经常要先做小规模尝试,比如说先抓取 20 条,看看数据有没有问题。

2.3K20
领券