【学术】将吴恩达的第一个深度神经网络应用于泰坦尼克生存数据集

这篇文章包括了神经网络在kaggle泰坦尼克生存数据集上的应用程序。它帮助读者加深他们对神经网络的理解,而不是简单地执行吴恩达代码。泰坦尼克生存数据集就是可以随意使用的一个例子。

  • Github repo上的代码地址: https://github.com/jaza10/AppliedNeuralNetworkTitanicSurvival

1.下载“深度神经网络应用程序”和来自Coursera中心的“dnn_utils_v2.py”文件,并将其保存在本地

  • Github repo不包含deeplearning.ai提供的代码。请从Coursera深度学习专业化课程中学习。所需的材料在第4周的编程作业中。

课程地址:https://www.coursera.org/learn/neural-networks-deep-learning

下载Coursera中心的“深度神经网络应用程序v3”并点击“打开”

下载dnn_app_utils_v2.py文件

2. 下载kaggle泰坦尼克生存数据集,并将其保存在与“数据集”文件夹相同的位置。

  • 泰坦尼克生存数据集地址:https://www.kaggle.com/c/titanic/data
  • 为方便起见,我已经在Github repo中包含了数据集。

3.打开“深度神经网络应用程序”笔记本。

  • 你可以安全地删除所有其他单元格,除了输入和L-Layer_model单元格;
  • 运行两个单元格。

4.加载泰坦尼克生存数据集。

5.预先处理数据集。

  • 以等级为基础来计算乘客年龄–该想法来自Jose Portilla极力推荐的Udemy课程“数据科学与机器学习训练营的Python”,它属于逻辑回归的一个分支;
  • 课程地址:https://www.udemy.com/python-for-data-science-and-machine-learning-bootcamp/learn/v4/overview
  • 从名字中提取乘客头衔 – 我遵循曼努埃尔(Manuel)伟大而简单的文章–从名字中提取头衔;
  • 文章地址:https://www.kaggle.com/manuelatadvice/feature-engineering-titles
  • 列出乘客序号、客舱和名字;
  • 伪编码分类变量的性别,登船卡和头衔;
  • 衡量年龄和票价–特征扩展帮助梯度下降算法收敛更快,参阅scikit-learn文档或Github repo。

scikit-学习文档地址:http://scikit-learn.org/stable/modules/generated/sklearn.preprocessing.StandardScaler.html

预先处理数据看起来是这样的:

训练集包含11个特征,为神经网络的评估做好准备

6.应用神经网络.

得到变量X和y,然后转置以适应神经网络结构。

from sklearn.model_selectionimport train_test_split
X= train.drop('Survived', axis=1)
y= train['Survived']
X_tr, X_te, y_tr, y_te= train_test_split(X, y, test_size=0.2)

# Transpose your data
X_tr_T= X_tr.T
X_te_T= X_te.T
y_tr_T= y_tr.T.values.reshape(1,y_tr.shape[0])
y_te_T= y_te.T.values.reshape(1,y_te.shape[0])

根据特性的数量选择第一层的维度。在这种情况下,第一个维度是11。然后选择尽可能多的隐藏层。

### CONSTANTS ###
layers_dims= [11,25,25,25,25,25,10,1]#  7-layer model
parameters= L_layer_model(X_tr_T, y_tr_T, layers_dims, num_iterations= 2500, print_cost= True)
# Calculate accuracy on the training set
pred_train= predict(X_tr_T, y_tr_T, parameters)
# Calculate accuracy on the test set
pred_test= predict(X_te_T, y_te_T, parameters)

第一次尝试获得85%的训练和82%的测试精度

预先处理测试数据。通过X的正向传播和训练神经网络的参数生成预测。

# Load test data
test= pd.read_csv('datasets/titanic_test.csv')

# Preprocess test data

# Prepare X to generate predictions
X= test.drop(['PassengerId','Master'], axis=1)

# Transpose X to fit neural network architecture
X_tr_T= X.T

# Calculate predictions through forward propagation with the parameters
# obtained through fitting the neural net to the training data
probas, caches= L_model_forward(X_tr_T, parameters)

# Get classes from predictions
p= np.zeros((1,X_tr_T.shape[1]))
for iin range(0, probas.shape[1]):
        if probas[0,i] >0.5:
            p[0,i]= 1
        else:
            p[0,i]= 0

# Generate the predictions file
pIds= pd.DataFrame(data=test['PassengerId'].astype(int), columns=['PassengerId'], dtype=int)
preds= pd.DataFrame(data=p.T,columns=['Survived'], dtype=int)
final_prediction= pd.concat([pIds, preds], axis=1)
final_prediction.to_csv('titanic_survival_predictions.csv', index=False)

最后一步:生成测试数据的预测

将生成的预测保存为csv文件,然后将文件提交给kaggle。这一预测将使你跻身于参与者的前30%。

提交预测文件会使你进入前三名,并帮助你适应kaggle竞赛

你已经将神经网络应用于你自己的数据集了。现在我鼓励你使用网络中的迭代次数和层数。在泰坦尼克号生存数据库上应用的神经网络大概有些矫枉过正。

关键要点:

  • 从Coursera中心下载“应用深度学习”和“dnn_utils_v2”jupyter notebook,并在局部环境中运行;
  • 相应地预先处理数据;
  • 调换X和Y变量,以便拥有一个“示例特征”的训练矩阵;
  • 调整第一个图层的维度以匹配特征的数量;
  • 训练神经网络并保存生成的参数;
  • 通过测试数据的正向传播和之前保存的神经网络参数,生成对测试集的预测。

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2017-11-23

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏人工智能头条

AI 可能真的要代替插画师了……

1203
来自专栏大数据挖掘DT机器学习

用机器学习方法对影评与观影者情感判定

朴素贝叶斯常见的应用场景之一是情感分析。又上Kaggle溜达了一圈,扒下来一个类似场景的比赛。比赛的名字叫做当词袋/Bag of words 遇上 爆米花/B...

2834
来自专栏机器学习人工学weekly

机器学习人工学weekly-2018/5/6

1. Facebook这周太热闹,因为开F8大会(视频回放在https://www.f8.com/)

1314
来自专栏机器之心

业界 | 谷歌开源「Tangent」:一个用于自动微分的源到源Python库(附API概述)

3308
来自专栏MixLab科技+设计实验室

TensorFlow.js、迁移学习与AI产品创新之道

TensorFlow 的 JS 版本终于出啦,deeplearn.js 正式收编至 TensorFlow 项目,并改名为 TensorFlow.js :

6699
来自专栏企鹅号快讯

如何用Python和深度神经网络识别图像?

视觉 进化的作用,让人类对图像的处理非常高效。 这里,我给你展示一张照片。 如果我这样问你: 你能否分辨出图片中哪个是猫,哪个是狗? 你可能立即会觉得自己遭受到...

2929
来自专栏吉浦迅科技

如何在Jetson TX1上部署Matlab神经网络代码

还记得之前本公众号曾经发布了一个NV关于Jetson和Matlab讲座么?什么?在Jetson TX2上跑Matlab么? ---- Build Your...

4165
来自专栏人工智能头条

详解TensorBoard如何调参

743
来自专栏玉树芝兰

如何用Python和深度神经网络识别图像?

(由于微信公众号外部链接的限制,文中的部分链接可能无法正确打开。如有需要,请点击文末的“阅读原文”按钮,访问可以正常显示外链的版本。)

472
来自专栏大数据挖掘DT机器学习

13个Tensorflow实践案例,教你入门到进阶

关于深度学习,每个人都有自己的看法。有人说就是炼丹,得个准确率召回率什么的,拿到实际中,问问为什么,都答不上来。各种连代码都没写过的人,也纷纷表示这东西就是小孩...

38215

扫描关注云+社区