从一个小任务开始——Python学习笔记

前记 

之前随着阿米尔·汗的电影《摔跤吧,爸爸》大热,本人对这部电影产生了浓厚兴趣。但网上关于这部电影的资源实在太少,于是我把目光转向了公司的SMB服务器。对喜欢看电影的同学来说,这里有大量的“福利”,很多稀有资源都能在第一时间上传,对于伸手党而言简直是个天堂。但是,由于资源众多,在服务器上寻找到我们想要的资源并不是一件容易的事情,尤其是在Mac上,搜索极为缓慢,经常十几二十分钟后仍一无所获,让人大为光火。但在window上该情况有所好转,大胆猜测,是否是由于文件系统的不同,在win上建有索引呢?换而言之,在Mac上如果能把内网搜索改为本地搜索,那么搜索速度和准确率将直线提升,这个问题就能很好解决。

说干就干,既然要把内网搜索变为本地搜索,首先要有数据,所谓巧妇难为无米之炊。遗憾的是,目前服务器似乎没有提供任何数据下载的渠道,或者提供可访问的接口。人工收集显然不现实,因而,我们需要借助网络爬虫,利用计算机的特性,来自动获取我们想要的数据。

当然,实现一个爬虫很多语言都能做到,但伟大的Bruce Eckel曾言:”Life is short, you need Python”。作为仅次于PHP的第二大语言,网络爬虫正是Python的拿手好戏。由于存在许多优秀的轮子,Python可以用最简洁的代码,实现其它语言繁琐的操作。而本次的任务正是学习Python的一个绝佳机会。

关于Python

虽然之前并没有接触过Python,但这门语言本身并不复杂,任何有语言基础的人,只需花两个小时了解下基本语法,即可快速上手。鉴于网上有大把的学习资料,这里不对语言本身做过多描述。值得一提的是,和OC相比,Python有两大有趣的特性:lambda和tuple,lambda表达式有点像匿名函数,而tuple作为返回值则省去了大量一次性类的创建,通过搭配使用,在一定程度上可以简化编程,十分灵活。

目前,Python的最新版本是3.5,它和2.x版本相比,差别还是比较大的,而且不向下兼容。鉴于目前Mac OS 10.12自带的Python版本是2.7.1,为了避免冲突,也为了代码可移植,这里暂时采用2.7版本进行编写。尽管Python3解决了Python2的许多坑,例如字符编码问题,本人就花了不少时间来处理。实际上,日常练习Python时我们完全可以使用Python3.X版本,通过安装Pyenv,我们可以自由管理Python的版本切换,而不会对系统产生干扰。另一种方案来自Cirolong的推荐,安装Virtualenv可以创建一个独立的Python运行环境,这样不仅可以兼容版本,还可以在环境中自由地安装各种第三方包,但使用时需要手动切换环境。两种方案各有优劣,目前本人采用的是第一种,具体做法可以参考文章:http://www.jianshu.com/p/1927349cb6a2

关于爬虫

众所周知,爬虫的基本原理,正是绕过浏览器或其它客户端工具,直接向服务器发起请求,并对服务器返回的数据进行解析,提取我们需要的信息。但有时服务器为了安全,会对请求进行相关校检,判断是否合法,对于非法请求则拒绝返回数据。基于此原因,我们往往需要进行“伪装”,带上必要的Header和Cookie信息,模拟用户的正常操作,防止被打回。而有些严谨的服务器甚至会设置防爬措施,对IP访问进行限频,对于这种,我们就需要人为降低访问频率,或者通过设置代理服务器来变更IP地址。当然,访问Smb服务器并没有访问网站那么复杂,且幸运的是,本人在测试时发现,公司的Smb服务器目前还没有对访问频率做限制,这无疑大大降低了我们操作的难度。

在通过Google搜索简单了解一些相关知识后,一个项目的雏形就建立了,基本流程如下:

  1.  学习Python语法,编写一个网络爬虫; 
  2.  利用网络爬虫,连接Smb服务器,爬取相关的数据; 
  3.  对数据进行处理,分词并建立索引库; 
  4.  利用本地索引库搜索关键词,获取想要的信息; 

数据的抓取

由于搜索Python官网找不到关于连接Smb文件服务器的相关API(如果有的话,麻烦大神指点一下),这里采用了一个第三方库Pysmb,官网链接如下:https://miketeo.net/wp/index.php/projects/pysmb,上面有详细的wiki文档;

至于Pysmb库的安装则十分简单,直接在Terminal输入以下命令即可:

sudo pip install pysmb

 当然,对于还没有安装pip的Mac用户,我们可以通过以下命令快速安装:

Sudo easy_install pip

 在引入必要头文件后,我们就可以通过以下几行代码,轻松连接Smb服务器:

def _search_server() :
    conn = SMBConnection(Config.Username, Config.Password, Config.Hostname, Config.ServerName, domain = Config.Domain, use_ntlm_v2=True, is_direct_tcp=True)
    try :
        print 'Start connecting...';
        result = conn.connect(Config.ServerIP, 445);
        print 'Connect result : '+ str(result);
    except Exception :
        print 'Connect fail.';
    else :
        print 'Connect success.';
        _run_search(conn);
        conn.close();

这里涉及几个重要参数,这些参数目前都配置在Config.py文件中:Username和Password,顾名思义,就是我们的Outlook账号;Hostname,这个也很好拿到,在Terminal中输入hostname即可;但ServerName却实在不好获取;抱着试一试的心态,随便糊弄了一个,最终果然成功。。。被拒绝了。。

查看Pysmb文档关于SMBConnection方法的说明,该参数和remote server的配置名称必须严格一致,否则会被拒绝,看起来这个点无法简单绕过;

解决这个问题花了我一些时间,通过查询资料可知,腾讯的文件系统TFS是一个分布式的文件系统,采用DFS技术,虽然访问时并无明显差别,但不同的目录很可能存在于不同的主机上;在Mac上尝试获取无果后,偶然发现了一个取巧的方法,可以进行“曲线救国”:在Window上,对于共享文件,我们可以通过右键属性,查看其DFS选项,这里可以获取该目录所在的服务器路径,如下所示:

举个栗子,我们关心的目录“腾讯电影协会-影音博物馆”,右键其属性可以看到服务器路径为:\\FS-gk27a\腾讯电影协会-影音博物馆$,如预想的一样 ,其中的FS-gk27a,正是我们所需要的服务器域名;而有了服务器域名,获取其IP则很简单了,在CMD中ping一下,便可得到服务器真实域名为 FS- gk27a.tencent.com,IP地址为10.14.37.68;

有了这些参数,便可顺利连接服务器;”腾讯电影协会- 影音博物馆”目录下有四个文件夹,其中“★书籍”和“★游戏”不是我们所需要的,可以直接过滤,剩下的可以通过一个递归的方法,循环获取文件信息,精简后的代码如下:

def _searchPath(conn, path, folderName) :
    for subPath in conn.listPath(Config.RootPath.decode('utf-8'), path.decode('utf-8')) :
        # Process
        if subPath.filename.startswith('.') :
            print 'Hidden file, pass.';
        elif subPath.filename == 'DfsrPrivate' :
            pass;
        elif subPath.isDirectory :
            print '[Directory] : ' + subPath.filename;
            subDicPath = path + subPath.filename.encode('utf-8') + '/';
            _searchPath(conn, subDicPath, subPath.filename.encode('utf-8'));
        else :
            print '[File] name = : ' + subPath.filename + ' folderName = ' + folderName.decode('utf-8') + ' path = ' + path.decode('utf-8');
            _record(subPath.filename, folderName.decode('utf-8'), path.decode('utf-8'));

 抓包大约会持续10分钟,最后我们可以得到一份全量数据;从日志上看,共有26万多个文件,我的天,终于明白为何在Mac上搜索如此缓慢了;

分词器的选型

既然有了原始数据,剩下的便是分词并建立索引库了;对于英文,分词比较简单,我们往往以空格作为分词标志,对字符串做简单处理即可;但服务器上大多数的电影名称都是中文,中文的分词可要复杂得多,即使同一个单词,是否需要拆分也要视语境而定。而中文分词的策略,在我看来又可简单分为两种,基于词典的分词,以及暴力分词;根据我们的场景,我搜索比较了几种常见的分词器,最终选定了Jieba分词器。

Jieba分词器是一个开源的基于词典的中文分词库,优点是搜索速度快,且自带中文词库,可以提高中文搜索的成功率;但缺点也有,Jieba分词器在初始化时需要加载这些数据,因而启动较慢;鉴于我们对单次搜索的时间要求并没有严格的要求,相比于优点,其不足之处是可以接受的;

此外,在测试时发现,对于有些剧集,其文件夹的名称才具有实际意义,子文件则往往以01、02等无意义的下标作为名称,用户搜索时根本不会输入这些关键字。这就导致,如果不做处理,这类电影会被间接过滤,如搜索”神探夏洛克”,基本难以找到匹配的结果。为了较大程度地规避此问题,对于Keyword的选取,不再简单地使用文件名,而是绑定其文件夹,将FolderName_FileName作为一个整体的方式进行分词处理,提高匹配的成功率;至于英文,原本计划对字母做统一的小写化处理,但Jieba本身做了这部分工作,所以这个步骤可以跳过;

FTS方案的选择

目前市面上主流的FTS方案很多,这里主要对比了下Pylucene和Whoosh。作为鼎鼎大名的Lucene的Python实现,我对Pylucene一开始是充满向往的,然而实际使用起来却不尽人意,过程略显繁琐,最终不得不放弃。相比之下,纯Python实现的Whoosh则简洁有效得多。由于Whoosh使用并不复杂,且FTS不是本次学习的重点,这里就不做过多赘述,有兴趣的同学可以到官网学习一下,上面有许多详细的Demo:https://pypi.python.org/pypi/Whoosh

本地搜索

利用Whoosh+Jieba,我们轻松完成了分词和索引库建立的工作,至此,我们离成功仅有一步之遥了;搜索依旧采用Whoosh的API,这里补充下前面关于这两个库的安装,打开我们的Terminal,输入以下命令即可:

sudo pip install Whoosh
sudo pip install Jieba

至于代码比较简单,这里就不列出来了,有兴趣的可以看下源码;

我们直接进入体验环节,通过运行Search.py,搜索”摔跤吧“,结果如下:

Perfect,成功获得了我们想要的结果;在Finder中用CMD+K快捷键,输入上面的SMB链接,即可跳到对应的文件夹;而更重要的是,有了本地的索引库,以后终于不用忍受龟速般的搜索了,简直是我等伸手党的福音啊;虽然目前由于时间缘故,还未做到对索引库进行增量更新乃至自动更新,但从技术上分析是可行的,这里留待以后完成。

后记

关于这个小项目,从萌生这一想法,到学习Python、抓取数据以及建立本地索引库,总共花了1天多的时间,代码总行数不超过300,不得不说这正是Python的魅力所在。当然,由于时间有限,这只是一个简单的雏形版本,勉强算得上V1.0,很多方案和实现并未达到最优,需要后续进行调试改进。此外,由于对Python不熟悉,在编写过程中,自然免不了踩坑,一边查阅文档以了解其语法和使用,一边Google原理,最终磕磕绊绊地写完。但我始终认为,学习一门语言,最好的方式还是写一个小Demo,这样理解起来才会更加深刻。由于某些不可描述的原因,最近恰好需要写一篇文章,这里我将Python入门的经历简单记录下来,希望能对那些有感于此的同事有所帮助和启发,毕竟原理是相通的。

最后,文章的末尾附上源码,有兴趣的朋友可以根据 README.md 中的说明,配置参数后,自己抓包尝试一下,或者修改源码实现,以贴合自己的需求;当然,如果你对Python没有兴趣,也没关系,可以直接下载抓包后的Index库,按照 README.md 的说明简单安装几个Python库,即可以开始使用,很惭愧,只是做了一些微小的工作。。。

[ P.S. 如果该行为违反了相关规定,麻烦8000知会一声,本人会立即停止一切行为,并删除相关文章和代码 !!! ] 

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏hightopo

原 Web SCADA 电力接线图工控组态

1205
来自专栏哲学驱动设计

精通 WPF UI Virtualization

    本篇博客主要说明如何使用 UI Virtualization(以下简称为 UIV) 来提升 OEA 框架中 TreeGrid 控件的性能,同时,给出了一...

1879
来自专栏别先生

PowerDesigner最基础的使用方法入门学习

1:入门级使用PowerDesigner软件创建数据库(直接上图怎么创建,其他的概念知识可自行学习) 我的PowerDesigner版本是16.5的,如若版本不...

9338
来自专栏施炯的IoT开发专栏

用本地代码实现屏幕方向自适应的Windows Mobile程序

    在Windows Mobile平台的应用程序开发过程中,如何处理屏幕方向改变对程序带来的影响是一个重要的问题。Allen Lee的文章《WM有约(四):...

2047
来自专栏刘望舒

Android P 适配指南

Google自 android L (5.0) 以来就持续对安装系统进行 安全 以及 性能上的升级,此次的 android P (9.0)也不例外, 更大程度...

1192
来自专栏Spark学习技巧

Kafka源码系列之使用要点总结及重要错误解决

1,创建一个topic bin/kafka-topics.sh --create --zookeeper localhost:2181 --replicatio...

1946
来自专栏Vamei实验室

树莓派:开机使用

作者:Vamei 出处:http://www.cnblogs.com/vamei 严禁任何形式转载。

984
来自专栏信安之路

铁人三项赛数据赛 writeup

这次的数据分析赛相对上个星期 05.05 的数据分析赛,个人觉得虽然简单了很多,但其中值得学习的知识点也不少呀。

500
来自专栏算法+

谷歌开源项目Google Preview Image Extractor(PIEX) (附上完整demo代码)

前天偶然看到谷歌开源项目中有一个近乎无人问津的项目Google Preview Image Extractor(PIEX) 。 项目地址: https://gi...

3926
来自专栏梦里茶室

收藏的技术文章链接(ubuntu,python,android等)

开发过程中收藏在Chrome书签栏里的技术文章,与自己的文章分开。 主要涉及python,android,ubuntu等内容,我自己常常在这里面找回忘了的知识...

24110

扫码关注云+社区