机器学习工程师31门课程(视频):从新手到专业

机器学习不仅仅是模型

产生这个问题的原因就是所有人都以为机器学习的模型就是机器学习本身,以为对那些个算法理解了就是机器学习的大牛了,但实际上完全不是这样的。

模型是谁在玩呢?模型是科学家发明出来的, 是各个大公司的各个科学家,研究员发明出来的,这个发明出来是会出论文的,是他们用来虐我们的智商的,一般情况下,你发明不了模型吧(如果可以,可以不要往下看了,你可以走学术那条路)?你修改不了模型吧?

所以说,学会了模型,只是刚刚刚刚入门,甚至还算不上入门吧

那各个公司的那么多算法工程师在干嘛呢?我们以一个搜索排序的算法工程师为例,他们在做甚呢?他们在

观察数据--->找特征--->设计算法--->算法验证--->洗数据--->工程化--->上线看效果--->goto 观察数据

而且一个成熟的系统中,一般模型已经大概确定了,如果效果不是特别不好不会换模型,比如一个公司的搜索排序系统用了机器学习的逻辑回归模型,你要改成别的模型一般不太可能,那么只能做一些特征上的补充。

好,我们通过这个流程来看看一个机器学习的算法工程师到底还要什么能力。

观察数据

小明每天就在工位上看数据,查数据,看表格,画曲线,发现像销量,收藏,点击等等这种能想到的特征早就被用了,就这么耗了三个月,没有任何进展,人都崩溃了,来了这么久,机器学习代码毛都没看到呢。

第四个月,他发现一点问题,他发现有些商品,评论什么的都挺好,感觉产品质量也不错,但就是销量上不去,所以老排后面,于是,他把这些评论都是五星,但是销量比较差的商品滤出来了,想看看他们有什么共性。

观察数据阶段,你说要什么能力?呵呵,只能告诉你,需要数据敏感性,其实也就是告诉你需要全面的能力,需要经验,需要产品经理的能力。

除了这些,你还需要能随手编脚本代码的能力,遇到有些数据需要初步处理,可能需要随手编代码处理,而且编的要快,因为这些代码可能就用一两次就不用了,所以需要比较强大的脚本语言能力,那么python至少要熟悉吧,shell要会吧。

找特征

数据观察下来发现了问题,现在要找特征了,要找特征,也就是找什么因素导致销量上不去的,首先,需要想象力,然后去验证你的想象力。

小明的想象力爆棚,即便这样,也搞了一个月才发现这些个商品有个共同特征,那就是图片都比较烂,让人一看就不想点。卧槽,要是能把图片质量加入到排序因素里面的话,是不是有奇效呢?图片质量作为特征,这之前可没人做过,终于找到一个特征了。

所以在这一阶段,毕竟大家的想象力都是有限的,更多的是经验值,才能找到符合当前场景的特征。

设计算法

特征是找到了,但怎么把这个特征加到排序模型里面去呢?图片好不好,有多好,这些机器怎么理解呢?如果不能把图片质量变成一个数学上的向量,那永远都无法加入到排序模型里面去。

这一阶段是真正考验算法工程师的地方了,那就是将特征向量化,小明观察到越好看的图像往往颜色变化更多,而质量差的图片往往颜色没什么变化,于是他想到一种办法,先把图像数据进行傅里叶变换,变成频域的数据,根据傅里叶变换的性质,高频部分的幅度高表示图像的颜色变化很明显,如果低频部分高,表示颜色变化不明显,这和观察到的图像信息基本能匹配上,这样一副图像的好坏,就可以用傅里叶变换后高频部分的幅度表示了,然后在做一些归一化的变化,就把图像向量化了,向量化以后就可以加入到排序模型去了。

这一步,你可能会用到你学习的机器学习模型,但肯定只占了一小部分,大部分情况需要你根据当前场景自己建立一个数学模型,而不是机器学习模型,你说这一阶段需要什么技能?虽然我这里举的例子比较极端,但是数学抽象能力,数学建模能力和数学工具的熟练使用是必不可少的,并且同样需要较强的编程能力,这已不是上一步的脚本能力,是实打实的计算机算法编程能力了。

算法验证

算法是设计好了,还要设计一个算法的离线验证方法来证明给你的老大看说我的算法是有效果的,不然哪那么多机会让你到线上去试啊,这一步也是各种综合能力的组合,关键是在这一步上,你要用一种通俗的语言从理论上说服你的老大,这是一种什么能力?强大的语言表达能力。

除了这个你还需要设计出一个上线以后的AB测试方案,能够很好的测试出你的算法是否真的有效。

洗数据

特征找到了,算法也设计得差不多能体现特征了,体力活来了,那就是洗数据,这是算法工程师的必修课,数据不是你想要什么样子他就长得什么样子的,所以要把数据变成你想要的样子,然后去掉无效的数据可是个体力活。

像上面这个例子,首先可能大家的图片大小都不一样,要变成一个尺寸才好进行变换,有些商品有多个图片,可能需要找出质量最好的再处理等等等等。

这一阶段首先也是要脚本语言处理能力,而且还需要掌握一些数据处理工具的使用,关键还要有足够的耐性和信心,当然,必不可少的是优秀的编程能力。

工程化

好了,前面的坑你全跨过来了,到了这一步了,呵呵,算法设计完了,数据也准备好了,估计半年过去了,那赶快放到线上去吧,你以为拿着一堆脚本就能上线了啊,得考虑工程化了,如果把你的算法嵌入到原有系统中,如果保证你的算法的效率,别一跑跑一天,代码的健壮性也要考虑啊,如果是在线算法,还得考虑性能,别把内存干没了。

这一步,你才真正的用上了你上面学的机器学习的hadoop,spark工具,看了上面说的,要完成工程化这一步,得有什么能力不用我说了吧,这是一个标准的软件开发工程师的必要技能,还是高级开发工程师哦。

上线看效果

所有的都做完了,前前后后10个月了,终于可以上线了,好了,真正的考验来了,看看上线的效果呗,产品经理说,做个AB测试吧,结果呵呵了,点击率降低了,小明啊!这10个月忙活下来点击率还下降了???老板还不把你骂死,所以,你必须有强大的抗打击能力。

呵呵,赶快下线吧,从头看看哪里出了问题,又花了一个月修改了算法,重新上线,恩,这次不错,点击率提高了0.2个百分点,继续努力吧,看看还有没有什么可以挖掘的,于是,你就goto到了看数据的那一步。

别看这0.2,大的数据集合下,提高0.2已经是非常不错的提高了,所以花这么多钱,养算法工程师,要是一年能出几次0.2,那就是真值了。

让我们总结一下

上面这么多的过程,靠一个人全部完成确实有点困难,我说的有点夸张,中间有些步骤是有人配合的,观察数据的时候有产品经理配合你,洗数据的时候有数据工程师配合你,工程化的时候有系统工程师配合你,但是作为机器学习的算法工程师,整个过程你都得能hold得住啊,所以即便是你一个人应该也要能完成整个流程才行。

这只是一个标准的算法工程师应该具备的能力,当然我这里是以搜索算法举例的,其他的算法工程师也差不太多,总跑不过上面几个过程,当然,你要是牛人,能根据场景修改这个机器学习的模型,甚至自己能想个模型,那就更厉害了。

好,我们把上面的重点标记的部分取出来汇总一下,让我们看看一个算法工程师需要具备哪些技能:

  • 数据敏感性,观察力
  • 数学抽象能力,数学建模能力和数学工具的熟练使用的能力
  • 能随手编脚本代码的能力,强大的计算机算法编程能力,高级开发工程师的素质
  • 想象力,耐性和信心,较强的语言表达能力,抗打击能力
  • 然后,还有很关键的一点,你需要很聪明。

当然,你如果能做到以上那么几点,基本上也会很聪明了,如果真能做到这样,反而那些机器学习的模型,理论和工具就显得不那么重要了,因为那些也只是知识和工具,随时都可以学嘛。

你说,这些是靠看几篇博客,看几本书,上几次课就能具备的么??

当然,我们这里讨论的是一般情况,如果你一心就是做研究的话,那么需要把上述技能熟练度再提高一个量级。

最后,正在学习机器学习,励志做算法工程师的你,准备好踏这些坑了么??

很多的工程师都想转行到这个岗位。本文根据 Coursera 上面的课程,列了一个从新手到专业工程师的学习计划,提供给大家学习。以下是具体的学习路径:

以下课程均有课程链接

https://www.jianshu.com/p/32b21d32663c

机器学习工程师必修课(6门课程)

  • 课程 1:Algorithmic Toolbox(共35小时)
  • 课程 2:Data Structures(共35小时)
  • 课程 3:Algorithms on Graphs(共20小时)
  • 课程 4:Algorithms on Strings(共23小时)
  • 课程 5:Advanced Algorithms and Complexity(共43小时)
  • 课程 6:Genome Assembly Programming Challenge(共19小时)

初级机器学习工程师(6门课程)

  • 课程 1 :Machine Learning(共45小时)
  • 课程 2 :Introduction to Data Science in Python(共21小时)
  • 课程 3 :Applied Plotting, Charting & Data Representation in Python(共15小时)
  • 课程 4 :Applied Machine Learning in Python(共22小时)
  • 课程 5 :Applied Text Mining in Python(共16小时)
  • 课程 6 :Applied Social Network Analysis in Python(共17小时)

中级机器学习工程师(4门课程)

  • 课程 1 :Machine Learning Foundations: A Case Study Approach(共21小时)
  • 课程 2 :Machine Learning: Regression(共26小时)
  • 课程 3 :Machine Learning: Classification(共23小时)
  • 课程 4 :Machine Learning: Clustering & Retrieval(共21小时)

高级机器学习工程师(3门课程)

  • 课程 1 :Neural Networks and Deep Learning(共5小时)
  • 课程 2 :Improving Deep Neural Networks(共5小时)
  • 课程 3 :Structuring Machine Learning Projects(共5小时)

本文来自 微信公众号 datadw 【大数据挖掘DT数据分析】

机器学习工程师方向选择(12门课程)

  • 课程 1 :Google Cloud Platform Big Data and Machine Learning Fundamentals(共8小时)
  • 课程 2 :Leveraging Unstructured Data with Cloud Dataproc on Google Cloud Platform(共5小时)
  • 课程 3 :Serverless Data Analysis with Google BigQuery and Cloud Dataflow(共6小时)
  • 课程 4 :Serverless Machine Learning with Tensorflow on Google Cloud Platform(共8小时)
  • 课程 5 :Building Resilient Streaming Systems on Google Cloud Platform(共5小时)
  • 课程 6 :Introduction to Recommender Systems: Non-Personalized and Content-Based(共14小时)
  • 课程 7 :Nearest Neighbor Collaborative Filtering(共11小时)
  • 课程 8 :Recommender Systems: Evaluation and Metrics(共8小时)
  • 课程 9 :Matrix Factorization and Advanced Techniques(共7小时)
  • 课程 10 :Probabilistic Graphical Models 1: Representation(共27小时)
  • 课程 11 :Probabilistic Graphical Models 2: Inference(共22小时)
  • 课程 12 :Probabilistic Graphical Models 3: Learning(共22小时)

原文发布于微信公众号 - 大数据挖掘DT数据分析(datadw)

原文发表时间:2018-03-02

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI科技评论

虽又击败了人类选手,但我们认为 OpenAI 的 5v5 DOTA AI 不过如此

AI 科技评论按:各位读者想必今天一睁眼就被「OpenAI 的人工智能在 DOTA 5v5 比赛中也打败了人类选手」的新闻刷屏了。OpenAI 开发的 DOT...

1015
来自专栏镁客网

研究团队利用光谱仪和肉的数据库,五分钟内就可以检测出“假肉” | 黑科技

1230
来自专栏华章科技

机器学习工作职位需要的7项技能

机器学习经常与人工智能紧密相连,在不考虑显式编程的情况下,机器学习可以使计算机具备完成特定任务的能力,例如识别,诊断,规划,机器人控制和预测等。它往往聚焦于算法...

522
来自专栏新智元

机器学习实践:用一个管道解决多个 Kaggle 竞赛问题(52PPT)

【新智元导读】与机器学习不同,数据挖掘关注对特定问题及其数据的理解,针对每个问题设计最适合的解决方案。但本文作者却使用同一个管道,解决 3 个不同数据分析预测问...

3497
来自专栏AI科技大本营的专栏

Youtube 短视频推荐系统变迁:从机器学习到深度学习

本人最近系统的看了youtube推荐相关的论文,觉得非常有收获,所以整理小文以飨读者;“它山之石可以攻玉” ,希望可以给大家带来帮助和启发。 作者 | 赖博先 ...

35112
来自专栏AI研习社

谷歌发布「与书对话」AI 工具,从字里行间邂逅心仪书籍

AI 研习社消息:今日,谷歌分享了 Semantic Experiences,在博客中展示了两大关于自然语言理解的互动工具。Talk to Books 是一个可...

441
来自专栏AI科技评论

业界 | 更善于自动抓拍「有趣」瞬间:谷歌 Clips AI 拍照新技术

尽管深度学习已经在近期取得了一些进步,但在其在自动摄影方面依旧面临着一项极具挑战的难题:相机能够自动抓拍到精彩的瞬间吗?

683
来自专栏AI研习社

博客 | 一个项目的经验教训:关于打乱和拆分数据

最近因为某事要准备一点材料,刚好前段时间给导师做项目的时候遇到一个大坑,浪费了很多时间,所以就着这个问题顺便做点总结。

552
来自专栏DevOps时代的专栏

Youtube 短视频推荐系统变迁:从机器学习到深度学习

本人最近系统的看了 youtube 推荐相关的论文,觉得非常有收获,所以整理小文以飨读者;“它山之石可以攻玉” ,希望可以给大家带来帮助和启发。

3.8K2
来自专栏专知

Smart Compose:神经网络辅助写邮件

1602

扫码关注云+社区