从2016年年初,开始用python写一个简单的爬虫,帮我收集一些数据。 6月份,开始学习Machine Learning的相关知识。 9月开始学习Spark和Scala。 现在想,整理一下思路。 先感谢下我的好友王峰给我的一些建议。他在Spark和Scala上有一些经验,让我前进的速度加快了一些。
作为一个程序猿,以前多次尝试看过一些机器学习方面的书,其过程可以说是步履阑珊,碰到的阻力很大。 主要原因是,读这些机器学习的书,需要有一些数学方面的背景。 问题就在这些数学背景上,这些背景不仅仅是数学技巧,也有一些共识。对于缺乏这些背景的我,即使一个简单的公式,也有时会感到困惑。 如果你像我一样是一个程序猿,我建议读Peter Harrington写的Machine Learning in Action (中文书名是《机器学习实战》)。 这本书是以开发者的知识背景来写的,并且提供的python代码可以下载,方便开发人员理解。
我写了一些博文,主要作用是帮助我理解学习的算法。大部分写的不好,后来我自己都看不懂。以后慢慢修正一下。 机器学习实战 - 读书笔记(03) - 决策树 机器学习实战 - 读书笔记(04) - 朴素贝叶斯 机器学习实战 - 读书笔记(05) - Logistic回归 机器学习实战 - 读书笔记(06) – SVM支持向量机 机器学习实战 - 读书笔记(07) - 利用AdaBoost元算法提高分类性能 机器学习实战 - 读书笔记(08) - 预测数值型数据:回归 机器学习实战 - 读书笔记(10) - 利用K-均值聚类算法对未标注数据分组 机器学习实战 - 读书笔记(11) - 使用Apriori算法进行关联分析 机器学习实战 - 读书笔记(12) - 使用FP-growth算法来高效发现频繁项集 机器学习实战 - 读书笔记(13) - 利用PCA来简化数据 机器学习实战 - 读书笔记(14) - 利用SVD简化数据
在数据量不大的情况下(几个G),单机上就可以很好跑机器学习的程序。 这时,Python的用途就很大,不仅有已经实现好的算法,也可以实现爬虫,从网上获取数据。
对于大数据处理来说,Spark和Scala结合是现在的大趋势。 我写的博文有: 学习Scala: 初学者应该了解的知识 函数式编程 : 一个程序猿进化的故事 Scala underscore的用途 不变(Invariant), 协变(Covarinat), 逆变(Contravariant) : 一个程序猿进化的故事 Scala Collection简介 Scala on Visual Studio Code
我写的博文有: Spark集群 + Akka + Kafka + Scala 开发(1) : 配置开发环境 Spark集群 + Akka + Kafka + Scala 开发(2) : 开发一个Spark应用 Spark集群 + Akka + Kafka + Scala 开发(3) : 开发一个Akka + Spark的应用 Spark集群 + Akka + Kafka + Scala 开发(4) : 开发一个Kafka + Spark的应用
蒙特卡洛树算法
成为Spark的Contributer是件很cool的事。
路还很长。