机器学习工程师31门课程(视频):从新手到专业

机器学习不仅仅是模型

产生这个问题的原因就是所有人都以为机器学习的模型就是机器学习本身,以为对那些个算法理解了就是机器学习的大牛了,但实际上完全不是这样的。

模型是谁在玩呢?模型是科学家发明出来的, 是各个大公司的各个科学家,研究员发明出来的,这个发明出来是会出论文的,是他们用来虐我们的智商的,一般情况下,你发明不了模型吧(如果可以,可以不要往下看了,你可以走学术那条路)?你修改不了模型吧?

所以说,学会了模型,只是刚刚刚刚入门,甚至还算不上入门吧

那各个公司的那么多算法工程师在干嘛呢?我们以一个搜索排序的算法工程师为例,他们在做甚呢?他们在

观察数据--->找特征--->设计算法--->算法验证--->洗数据--->工程化--->上线看效果--->goto 观察数据

而且一个成熟的系统中,一般模型已经大概确定了,如果效果不是特别不好不会换模型,比如一个公司的搜索排序系统用了机器学习的逻辑回归模型,你要改成别的模型一般不太可能,那么只能做一些特征上的补充。

好,我们通过这个流程来看看一个机器学习的算法工程师到底还要什么能力。

观察数据

小明每天就在工位上看数据,查数据,看表格,画曲线,发现像销量,收藏,点击等等这种能想到的特征早就被用了,就这么耗了三个月,没有任何进展,人都崩溃了,来了这么久,机器学习代码毛都没看到呢。

第四个月,他发现一点问题,他发现有些商品,评论什么的都挺好,感觉产品质量也不错,但就是销量上不去,所以老排后面,于是,他把这些评论都是五星,但是销量比较差的商品滤出来了,想看看他们有什么共性。

观察数据阶段,你说要什么能力?呵呵,只能告诉你,需要数据敏感性,其实也就是告诉你需要全面的能力,需要经验,需要产品经理的能力。

除了这些,你还需要能随手编脚本代码的能力,遇到有些数据需要初步处理,可能需要随手编代码处理,而且编的要快,因为这些代码可能就用一两次就不用了,所以需要比较强大的脚本语言能力,那么python至少要熟悉吧,shell要会吧。

找特征

数据观察下来发现了问题,现在要找特征了,要找特征,也就是找什么因素导致销量上不去的,首先,需要想象力,然后去验证你的想象力。

小明的想象力爆棚,即便这样,也搞了一个月才发现这些个商品有个共同特征,那就是图片都比较烂,让人一看就不想点。卧槽,要是能把图片质量加入到排序因素里面的话,是不是有奇效呢?图片质量作为特征,这之前可没人做过,终于找到一个特征了。

所以在这一阶段,毕竟大家的想象力都是有限的,更多的是经验值,才能找到符合当前场景的特征。

设计算法

特征是找到了,但怎么把这个特征加到排序模型里面去呢?图片好不好,有多好,这些机器怎么理解呢?如果不能把图片质量变成一个数学上的向量,那永远都无法加入到排序模型里面去。

这一阶段是真正考验算法工程师的地方了,那就是将特征向量化,小明观察到越好看的图像往往颜色变化更多,而质量差的图片往往颜色没什么变化,于是他想到一种办法,先把图像数据进行傅里叶变换,变成频域的数据,根据傅里叶变换的性质,高频部分的幅度高表示图像的颜色变化很明显,如果低频部分高,表示颜色变化不明显,这和观察到的图像信息基本能匹配上,这样一副图像的好坏,就可以用傅里叶变换后高频部分的幅度表示了,然后在做一些归一化的变化,就把图像向量化了,向量化以后就可以加入到排序模型去了。

这一步,你可能会用到你学习的机器学习模型,但肯定只占了一小部分,大部分情况需要你根据当前场景自己建立一个数学模型,而不是机器学习模型,你说这一阶段需要什么技能?虽然我这里举的例子比较极端,但是数学抽象能力,数学建模能力和数学工具的熟练使用是必不可少的,并且同样需要较强的编程能力,这已不是上一步的脚本能力,是实打实的计算机算法编程能力了。

算法验证

算法是设计好了,还要设计一个算法的离线验证方法来证明给你的老大看说我的算法是有效果的,不然哪那么多机会让你到线上去试啊,这一步也是各种综合能力的组合,关键是在这一步上,你要用一种通俗的语言从理论上说服你的老大,这是一种什么能力?强大的语言表达能力。

除了这个你还需要设计出一个上线以后的AB测试方案,能够很好的测试出你的算法是否真的有效。

洗数据

特征找到了,算法也设计得差不多能体现特征了,体力活来了,那就是洗数据,这是算法工程师的必修课,数据不是你想要什么样子他就长得什么样子的,所以要把数据变成你想要的样子,然后去掉无效的数据可是个体力活。

像上面这个例子,首先可能大家的图片大小都不一样,要变成一个尺寸才好进行变换,有些商品有多个图片,可能需要找出质量最好的再处理等等等等。

这一阶段首先也是要脚本语言处理能力,而且还需要掌握一些数据处理工具的使用,关键还要有足够的耐性和信心,当然,必不可少的是优秀的编程能力。

工程化

好了,前面的坑你全跨过来了,到了这一步了,呵呵,算法设计完了,数据也准备好了,估计半年过去了,那赶快放到线上去吧,你以为拿着一堆脚本就能上线了啊,得考虑工程化了,如果把你的算法嵌入到原有系统中,如果保证你的算法的效率,别一跑跑一天,代码的健壮性也要考虑啊,如果是在线算法,还得考虑性能,别把内存干没了。

这一步,你才真正的用上了你上面学的机器学习的hadoop,spark工具,看了上面说的,要完成工程化这一步,得有什么能力不用我说了吧,这是一个标准的软件开发工程师的必要技能,还是高级开发工程师哦。

上线看效果

所有的都做完了,前前后后10个月了,终于可以上线了,好了,真正的考验来了,看看上线的效果呗,产品经理说,做个AB测试吧,结果呵呵了,点击率降低了,小明啊!这10个月忙活下来点击率还下降了???老板还不把你骂死,所以,你必须有强大的抗打击能力。

呵呵,赶快下线吧,从头看看哪里出了问题,又花了一个月修改了算法,重新上线,恩,这次不错,点击率提高了0.2个百分点,继续努力吧,看看还有没有什么可以挖掘的,于是,你就goto到了看数据的那一步。

别看这0.2,大的数据集合下,提高0.2已经是非常不错的提高了,所以花这么多钱,养算法工程师,要是一年能出几次0.2,那就是真值了。

让我们总结一下

上面这么多的过程,靠一个人全部完成确实有点困难,我说的有点夸张,中间有些步骤是有人配合的,观察数据的时候有产品经理配合你,洗数据的时候有数据工程师配合你,工程化的时候有系统工程师配合你,但是作为机器学习的算法工程师,整个过程你都得能hold得住啊,所以即便是你一个人应该也要能完成整个流程才行。

这只是一个标准的算法工程师应该具备的能力,当然我这里是以搜索算法举例的,其他的算法工程师也差不太多,总跑不过上面几个过程,当然,你要是牛人,能根据场景修改这个机器学习的模型,甚至自己能想个模型,那就更厉害了。

好,我们把上面的重点标记的部分取出来汇总一下,让我们看看一个算法工程师需要具备哪些技能:

  • 数据敏感性,观察力
  • 数学抽象能力,数学建模能力和数学工具的熟练使用的能力
  • 能随手编脚本代码的能力,强大的计算机算法编程能力,高级开发工程师的素质
  • 想象力,耐性和信心,较强的语言表达能力,抗打击能力
  • 然后,还有很关键的一点,你需要很聪明。

当然,你如果能做到以上那么几点,基本上也会很聪明了,如果真能做到这样,反而那些机器学习的模型,理论和工具就显得不那么重要了,因为那些也只是知识和工具,随时都可以学嘛。

你说,这些是靠看几篇博客,看几本书,上几次课就能具备的么??

当然,我们这里讨论的是一般情况,如果你一心就是做研究的话,那么需要把上述技能熟练度再提高一个量级。

最后,正在学习机器学习,励志做算法工程师的你,准备好踏这些坑了么??

很多的工程师都想转行到这个岗位。本文根据 Coursera 上面的课程,列了一个从新手到专业工程师的学习计划,提供给大家学习。以下是具体的学习路径:

以下课程均有课程链接

https://www.jianshu.com/p/32b21d32663c

机器学习工程师必修课(6门课程)

  • 课程 1:Algorithmic Toolbox(共35小时)
  • 课程 2:Data Structures(共35小时)
  • 课程 3:Algorithms on Graphs(共20小时)
  • 课程 4:Algorithms on Strings(共23小时)
  • 课程 5:Advanced Algorithms and Complexity(共43小时)
  • 课程 6:Genome Assembly Programming Challenge(共19小时)

初级机器学习工程师(6门课程)

  • 课程 1 :Machine Learning(共45小时)
  • 课程 2 :Introduction to Data Science in Python(共21小时)
  • 课程 3 :Applied Plotting, Charting & Data Representation in Python(共15小时)
  • 课程 4 :Applied Machine Learning in Python(共22小时)
  • 课程 5 :Applied Text Mining in Python(共16小时)
  • 课程 6 :Applied Social Network Analysis in Python(共17小时)

中级机器学习工程师(4门课程)

  • 课程 1 :Machine Learning Foundations: A Case Study Approach(共21小时)
  • 课程 2 :Machine Learning: Regression(共26小时)
  • 课程 3 :Machine Learning: Classification(共23小时)
  • 课程 4 :Machine Learning: Clustering & Retrieval(共21小时)

高级机器学习工程师(3门课程)

  • 课程 1 :Neural Networks and Deep Learning(共5小时)
  • 课程 2 :Improving Deep Neural Networks(共5小时)
  • 课程 3 :Structuring Machine Learning Projects(共5小时)

本文来自 微信公众号 datadw 【大数据挖掘DT数据分析】

机器学习工程师方向选择(12门课程)

  • 课程 1 :Google Cloud Platform Big Data and Machine Learning Fundamentals(共8小时)
  • 课程 2 :Leveraging Unstructured Data with Cloud Dataproc on Google Cloud Platform(共5小时)
  • 课程 3 :Serverless Data Analysis with Google BigQuery and Cloud Dataflow(共6小时)
  • 课程 4 :Serverless Machine Learning with Tensorflow on Google Cloud Platform(共8小时)
  • 课程 5 :Building Resilient Streaming Systems on Google Cloud Platform(共5小时)
  • 课程 6 :Introduction to Recommender Systems: Non-Personalized and Content-Based(共14小时)
  • 课程 7 :Nearest Neighbor Collaborative Filtering(共11小时)
  • 课程 8 :Recommender Systems: Evaluation and Metrics(共8小时)
  • 课程 9 :Matrix Factorization and Advanced Techniques(共7小时)
  • 课程 10 :Probabilistic Graphical Models 1: Representation(共27小时)
  • 课程 11 :Probabilistic Graphical Models 2: Inference(共22小时)
  • 课程 12 :Probabilistic Graphical Models 3: Learning(共22小时)

原文发布于微信公众号 - 大数据挖掘DT数据分析(datadw)

原文发表时间:2018-03-02

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI研习社

公开课年度盘点,AI 研习社的人工智能视频学习资料全在这里了!

在2017年,AI研习社围绕人工智能做了一系列公开课,给大家带来知识的同时,也给了嘉宾们一个展示的舞台,下面是我们的年度盘点。 Deep Learning读...

3898
来自专栏机器之心

业界 | 英伟达官方解读:Volta Tensor Core GPU实现AI性能新里程碑

1635
来自专栏机器之心

观点 | Facebook田渊栋盛赞DeepMind最新围棋论文:方法干净标准,结果好

2477
来自专栏专知

【教程】AlphaGo Zero 核心技术 - David Silver深度强化学习课程中文学习笔记

【导读】昨天 Google DeepMind在Nature上发表最新论文,介绍了迄今最强最新的版本AlphaGo Zero,不使用人类先验知识,使用纯强化学习,...

2584
来自专栏机器之心

开源 | 谷歌开放大规模音频数据集 AudioSet,加速音频识别研究

选自Google Research 机器之心编译 参与:李亚洲、晏奇、微胖 近日,谷歌开放了一个大规模的音频数据集 AudioSet。该数据集包含了 632 类...

30710
来自专栏大数据文摘

开学了,如何用2017年最后三分之一学会深度学习?

1394
来自专栏Python攻城狮

DIKW模型与数据工程1.DIKW 体系2.数据工程领域中的DIKW体系3.数据工程 领域职业划分4.数据分析5.数据建模基础

DIKW体系是关于数据、信息、知识及智慧的体系,可以追溯至托马斯·斯特尔那斯·艾略特所写的诗--《岩石》。在首段,他写道:“我们在哪里丢失了知识中的智慧?又在哪...

863
来自专栏CDA数据分析师

数据挖掘:推荐系统综述以及美团推荐系统介绍

其实推荐系统前面已经讲过不少,那时候主要是放在机器学习上讲的,既然这次要系统撸一遍数据挖掘,就把推荐系统单独拿出来说一说。相信如果做过推荐系统的人,都知道是什么...

3948
来自专栏新智元

ArXiv最受欢迎开源深度学习框架榜单:TensorFlow第一,PyTorch第四

来源:Twitter等 作者:文强 【新智元导读】Kears作者François Chollet刚刚在Twitter贴出最近三个月在arXiv提到的深度学习框架...

4099
来自专栏机器之心

学界 | 杜克大学NIPS 2017 Oral论文:分布式深度学习训练算法TernGrad

机器之心报道 作者:吴欣 为了提高分布式深度学习的速度和效率,杜克大学「进化智能研究中心」陈怡然和李海教授的博士生温伟提出了 TernGrad 分布式训练算法...

3409

扫描关注云+社区