前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >火爆GitHub:100天搞定机器学习编程(超赞信息图+代码+数据集)

火爆GitHub:100天搞定机器学习编程(超赞信息图+代码+数据集)

作者头像
量子位
发布2018-08-08 15:17:44
6350
发布2018-08-08 15:17:44
举报
文章被收录于专栏:量子位量子位
问耕 栗子 发自 麦蒿寺 量子位 出品 | 公众号 QbitAI

你是想喝一辈子糖水,还是想用AI改变世界?

但怎么想是一回事,怎么做往往是另一回事。学习和健身一样,不少人都停留在口头上,有各种借口不曾付诸实施。

为此,YouTube网红Siraj Raval发起了一个挑战赛:#100DaysOfMLCode。

这个挑战赛意在号召大家行动起来,从参与活动的那天起,每天至少花费1小时的时间来学习提升或者应用编程,连续坚持100天,从而更好的理解和掌握机器学习这个强大的工具。积跬步、至千里。

而且参加这个活动,还要使用#100DaysOfMLCode这个标签,在社交平台每日“打卡”,公开记录自己的工作。

你想在这100天里学到什么,或者完成一个项目全凭自主决定。大家的选择五花八门,其中有一个小哥的学习计划,很快引发大家的关注。

这个小哥名叫Avik Jain(重名的不少),他的百天计划,是从机器学习的基础概念起步,逐层递进,内容比较适合初学者。

这个100天搞定机器学习编程的项目,现在已经是爆红GitHub,很快累积了3000多标星,在Twitter上,也有一大票人热捧这个项目。

同是百天计划,这个有什么特别之处?三点:

1、超赞的学习图片

2、配套的代码

3、相应的数据集

对这个项目的评价,多以awesome、great、fantastic、outstanding、perfect等评价,大家纷纷表示感谢(并祝楼主好人一生平安)。

项目地址在此:

https://github.com/Avik-Jain/100-Days-Of-ML-Code

请你一定收藏好。

目前作者的100天计划,已经进行到第25天,已有的内容包括:

数据预处理、线性回归、逻辑回归、K最邻近算法、支持向量机、深度学习专项课程等,最新的内容已经讲到决策树及实现等。

量子位摘录其中的部分内容,做个示例。

第一天

看上去,真是美好的一天。

第一步:导入一些库

Numpy和Pandas这两个,是非常重要的库。

Numpy里面有各种数学函数,Pandas是用来导入数据集、管理数据集的。

代码语言:javascript
复制
1import numpy as np
2import pandas as pd
代码语言:javascript
复制

第二步:导入数据集

数据集通常是.csv格式。CSV文件,是把表格数据,存储成纯文本。每一行是一个数据记录 (Data Record) 。

在Pandas库里面,用read_csv的方法,来读取本地的CSV文件,每个文件是一个数据帧 (Data Frame) 。

给每个数据帧里的自变量和因变量,分别做矩阵和向量。

代码语言:javascript
复制
1dataset = pd.read_csv('Data.csv')
2X = dataset.iloc[ : , :-1].values
3Y = dataset.iloc[ : , 3].values

第三步:处理缺失数据

我们获取的数据,通常是异构数据。导致缺失数据 (Missing Data) 的原因有很多,需要处理一下,模型的表现才不会减损。

可以把缺失的数据,用整列数据的平均值或者中位数代替。拿sklearn.preprocessing里的Imputer来处理。

代码语言:javascript
复制
1from sklearn.preprocessing import Imputer
2imputer = Imputer(missing_values = "NaN", strategy = "mean", axis = 0)
3imputer = imputer.fit(X[ : , 1:3])
4X[ : , 1:3] = imputer.transform(X[ : , 1:3])

第四步:编码分类数据

分类数据 (Categorical Data) 里的变量,不包含数值,只包含分类标签

比如,是/否,性别,婚姻状态,这样的变量,是没办法当成数值直接运算的。

所以,才需要把它们编码成能够运算的数值。用sklearn.preprocessing里面的LabelEncoder就可以了。

代码语言:javascript
复制
1from sklearn.preprocessing import LabelEncoder, OneHotEncoder
2labelencoder_X = LabelEncoder()
3X[ : , 0] = labelencoder_X.fit_transform(X[ : , 0])

创建个虚拟变量:

代码语言:javascript
复制
1onehotencoder = OneHotEncoder(categorical_features = [0])
2X = onehotencoder.fit_transform(X).toarray()
3labelencoder_Y = LabelEncoder()
4Y =  labelencoder_Y.fit_transform(Y)

第五步:分开训练集和测试集

要把数据集分成两半,一个当训练集,另一个当测试集。

一般来说,可以按80/20这样分,训练集大一些。用sklearn.crossvalidation里面的train_test_split() 来分,就行了。

代码语言:javascript
复制
1from sklearn.cross_validation import train_test_split
2X_train, X_test, Y_train, Y_test = train_test_split( X , Y , test_size = 0.2, random_state = 0)

第六步:特征缩放

大部分机器学习算法,都会拿两个数据点之间的欧几里得距离 (Euclidean Distance) 做计算。

这样一来,如果一个特征比其他特征的范围值更大,这个特征值就会成为主导。

而我们希望其他特征,也得到同等的重视,所以用特征标准化 (Feature Standardization) 来解决这个问题。

sklearn.preprocessing里面的StandardScalar,就派上用场了。

代码语言:javascript
复制
1from sklearn.preprocessing import StandardScaler
2sc_X = StandardScaler()
3X_train = sc_X.fit_transform(X_train)
4X_test = sc_X.fit_transform(X_test)

第二天

今天,要做的是简单线性回归 (Simple Linear Regression) 。

就是拿已知的那些 (x,y) 数据点,做出一条线性的趋势,来预测其他x值,对应的y。

第一步:数据预处理

其实,就是把第一天做过的事情,复习一下:

· 导入一些库 · 导入数据集 · 处理缺失数据 · 把数据集分成训练集和测试集 · 特征缩放的话,交给库了

代码语言:javascript
复制
 1import pandas as pd
 2import numpy as np
 3import matplotlib.pyplot as plt
 4
 5dataset = pd.read_csv('studentscores.csv')
 6X = dataset.iloc[ : ,   : 1 ].values
 7Y = dataset.iloc[ : , 1 ].values
 8
 9from sklearn.cross_validation import train_test_split
10X_train, X_test, Y_train, Y_test = train_test_split( X, Y, test_size = 1/4, random_state = 0) 

第二步:拟合训练集

要把数据集,拟合到简单线性回归模型里面去,可以用sklearn.linear_model里面的LinearRegression来解决。

LinearRegression里面,建一个叫做regressor的对象。

然后,把regressor拟合到数据集里去,用fit() 就行了。

代码语言:javascript
复制
1from sklearn.linear_model import LinearRegression
2regressor = LinearRegression()
3regressor = regressor.fit(X_train, Y_train)

第三步:预测结果

现在,用测试集来预测一下。

把输出存到一个向量Y_pred里面。然后,用LinearRegression里面的预测方法,来支配上一步训练过的regressor

代码语言:javascript
复制
1Y_pred Y_pred == regressor.predict(X_test) regressor.predict(X_test)

第四步:可视化

最后一步,就是给预测结果做个可视化。

matplotlib.pyplot做散点图,给训练集和测试集都做一下,看看预测结果是不是接近真实。

训练集可视化:

代码语言:javascript
复制
1plt.scatter(X_train , Y_train, plt.scatter(X_train , Y_train, colorcolor  ==  ''redred'')
2plt.plot(X_train , regressor.predict(X_train), ) plt.plot(X_train , regressor.p color ='blue')

测试集可视化:

代码语言:javascript
复制
1plt.scatter(X_test , Y_test, color = 'red')
2plt.plot(X_test , regressor.predict(X_test), color ='blue')

两件需要提醒的事

总之,大概就是上面这个样子。部分已经放出的信息图集合如下,大家可以预览一下。

如果你也想入门或者提升自己的机器学习能力,不妨试试跟着这个小哥一起学习进步。虽然这个项目全是英文,但并不晦涩高深,说不定还能顺便提高一下英文水平,以后读paper也用得到~

还有两件事,需要提醒一下。

1、这个项目已经开始汉化了

@zhyongquan 在GitHub上已经开始尝试中文版,效果如下图所示。

不过目前只进行了第一天内容的汉化。如果你感兴趣,可以持续关注,或者加入汉化的行动中。地址在此:

https://github.com/Avik-Jain/100-Days-Of-ML-Code/issues/8

2、项目内容不能盲信

尽信书不如无书。这个学习项目,也不是百分百完全正确,比如第四天讲逻辑回归时的右下角配图,就被指出存在错误。

作者也承诺将更新改正这个问题。

就酱。

最后,再发一次这个项目的地址:

https://github.com/Avik-Jain/100-Days-Of-ML-Code

请你一定收藏好,如果能开始学习那就更好啦。

如果这种偏入门的内容不适合你,还有更多进阶或者具体项目实现的100天计划可供参考,希望能帮助你精进。

比方#100DaysOfMLCode挑战赛发起人Siraj Raval,就选择了在100天里,使用机器学习技术,根据气温、降水、植被变化等因素,预测每周的登革热疫情,改善防疫的研究计划和资源分配。

你也可以选择其他项目,或者在Twitter、GitHub等看看别人的100天挑战,有没有你合适跟随的,或者全新启动你的挑战。

对了Siraj Raval还在GitHub和YouTube上发布过很多其他机器学习课程,例如三个月学习机器学习,六周入门深度学习等。

相关地址在此:

https://github.com/llSourcell

总之,原则就是每天进步一点点。

加油。

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2018-08-05,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 量子位 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 第一天
    • 第一步:导入一些库
      • 第二步:导入数据集
      • 第二天
        • 第一步:数据预处理
        • 两件需要提醒的事
        领券
        问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档