前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Navi.Soft31.任务管理器(定时同步+数据采集)

Navi.Soft31.任务管理器(定时同步+数据采集)

作者头像
用户1219352
发布2018-02-01 17:26:30
8420
发布2018-02-01 17:26:30
举报
文章被收录于专栏:小特工作室小特工作室

1系统简介

1.1功能简述

在众多的软件分类中,有几类的软件不是很重要,但也很重要。它们有的是每隔一段时间需要执行一些任务的软件,我们叫它定时类软件;还有一种软件是采集网页中的数据,我们叫它采集类软件。

本产品是任务管理器,包括上述2种软件

同步服务,可以根据配置好的时间间隔执行任务。可以每隔一段时间,也可以在某个时间点执行

采集服务,可以采集指定页面的数据,用于大数据分析。可根据网址直接采集,也可以可视化采集(如:淘宝中我的订单,就是需要登录才能采集)

1.2运行环境

.NET Framework 4.0

1.3使用方法

双击软件图标,打开登录页面,验证成功后弹出如图1-1所示

clip_image002
clip_image002

图1-1

1.4产品亮点

l 定时模块,任务类型包括:间隔时间和时间点

l 采集模块,支持可视化采集和非可视化采集

l 完善的日志模块帮助问题的定位和解决

2同步服务
2.1配置同步项
clip_image004
clip_image004

只要定义好同步项,这些同步项可保存至内存中,也可以存储在数据库中。用于定义有哪些任务需要定时执行

2.2运行同步项
clip_image006
clip_image006

如上图所示

1, 记录同步项的开始和结束时间,定时执行次数,还有配置项,如:间隔时间,时间点等

2, 最下面的日志用于输出同步项的操作结果

2.3定时邮件

是指程序每间隔一定时间,向系统管理员发送邮件。以通知管理员系统运行正常

2.4配置采集项

是采集模块范围,下一部分详细描述

3数据采集
3.1主界面
clip_image008
clip_image008

图3-1

如上图所示

1. 本产品已经内置几个采集模板,如:博客园、糗事百科、淘宝网和1688(需登录后可视化采集)

2. 选中某个采集模板,点击:创建,相当于创建了这个模板的一个实例(可同时创建多个)

3. 再选中某个实例,点击:开始。实现采集数据

3.2创建实例
clip_image009
clip_image009
3.3开始采集
clip_image011
clip_image011

如上图所示

点击开始后,实现数据采集

3.4采集结果
clip_image013
clip_image013
3.5可视化采集
clip_image015
clip_image015

若是可视化采集,点击:开始的时候,会自动弹出可视化采集页面(注:有的需要登录)

3.5.1调试
clip_image017
clip_image017

l 取分页数:是指获取有多少分页,如下图所示

clip_image019
clip_image019

l 采集当页:是指只采集当前页数据,如下图所示

clip_image020
clip_image020

l 下一页:是指当前页采集完成后,直接触发:下一页按钮,实现页面翻转

3.5.2登录帐户

是指登录的帐户和密码,可直接复制。当然,需要提前配置好才行

3.5.3采集

采集是指采用调试中的方式,实现对所有页面的采集。步骤如下

a. 先获取有多少分页

b. 循环从第1页开始采集

c. 当前页采集成功后,再触发下一页按钮,采集第2页,直至所有页面均采集完成

3.6组件化开发
clip_image022
clip_image022

无论是可视化采集,还是非可视化采集。均已实现组件化开发。如:采集页面只有一个,不同的采集模板,只需传入不同的参数即可实现

4FAQ
4.1FAQ1

问:若360安全卫士开启时,会弹出是否允许此程序运行,如图8-1所示

clip_image023
clip_image023

图8-1

答:选择:一直允许运行(加入白名单)

4.2FAQ2

问:可视化采集页面中的浏览器控件用的是哪个?

答:可视化采集控件采用的是微信自带的WebBrowser控件,在Win7或Win10系统中,它需要修改注册,来保证使用的IE内核与系统的IE内核保持一致

5后记

对本产品感兴趣的,可以加我微信号(xiyang1011或13867408830)私聊

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2017-12-26 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 1系统简介
    • 1.1功能简述
      • 1.2运行环境
        • 1.3使用方法
          • 1.4产品亮点
            • 2同步服务
              • 2.1配置同步项
              • 2.2运行同步项
              • 2.3定时邮件
              • 2.4配置采集项
            • 3数据采集
              • 3.1主界面
              • 3.2创建实例
              • 3.3开始采集
              • 3.4采集结果
              • 3.5可视化采集
              • 3.6组件化开发
            • 4FAQ
              • 4.1FAQ1
              • 4.2FAQ2
            • 5后记
            相关产品与服务
            大数据
            全栈大数据产品,面向海量数据场景,帮助您 “智理无数,心中有数”!
            领券
            问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档