【学术】将吴恩达的第一个深度神经网络应用于泰坦尼克生存数据集

这篇文章包括了神经网络在kaggle泰坦尼克生存数据集上的应用程序。它帮助读者加深他们对神经网络的理解,而不是简单地执行吴恩达代码。泰坦尼克生存数据集就是可以随意使用的一个例子。

  • Github repo上的代码地址: https://github.com/jaza10/AppliedNeuralNetworkTitanicSurvival

1.下载“深度神经网络应用程序”和来自Coursera中心的“dnn_utils_v2.py”文件,并将其保存在本地

  • Github repo不包含deeplearning.ai提供的代码。请从Coursera深度学习专业化课程中学习。所需的材料在第4周的编程作业中。

课程地址:https://www.coursera.org/learn/neural-networks-deep-learning

下载Coursera中心的“深度神经网络应用程序v3”并点击“打开”

下载dnn_app_utils_v2.py文件

2. 下载kaggle泰坦尼克生存数据集,并将其保存在与“数据集”文件夹相同的位置。

  • 泰坦尼克生存数据集地址:https://www.kaggle.com/c/titanic/data
  • 为方便起见,我已经在Github repo中包含了数据集。

3.打开“深度神经网络应用程序”笔记本。

  • 你可以安全地删除所有其他单元格,除了输入和L-Layer_model单元格;
  • 运行两个单元格。

4.加载泰坦尼克生存数据集。

5.预先处理数据集。

  • 以等级为基础来计算乘客年龄–该想法来自Jose Portilla极力推荐的Udemy课程“数据科学与机器学习训练营的Python”,它属于逻辑回归的一个分支;
  • 课程地址:https://www.udemy.com/python-for-data-science-and-machine-learning-bootcamp/learn/v4/overview
  • 从名字中提取乘客头衔 – 我遵循曼努埃尔(Manuel)伟大而简单的文章–从名字中提取头衔;
  • 文章地址:https://www.kaggle.com/manuelatadvice/feature-engineering-titles
  • 列出乘客序号、客舱和名字;
  • 伪编码分类变量的性别,登船卡和头衔;
  • 衡量年龄和票价–特征扩展帮助梯度下降算法收敛更快,参阅scikit-learn文档或Github repo。

scikit-学习文档地址:http://scikit-learn.org/stable/modules/generated/sklearn.preprocessing.StandardScaler.html

预先处理数据看起来是这样的:

训练集包含11个特征,为神经网络的评估做好准备

6.应用神经网络.

得到变量X和y,然后转置以适应神经网络结构。

from sklearn.model_selectionimport train_test_split
X= train.drop('Survived', axis=1)
y= train['Survived']
X_tr, X_te, y_tr, y_te= train_test_split(X, y, test_size=0.2)

# Transpose your data
X_tr_T= X_tr.T
X_te_T= X_te.T
y_tr_T= y_tr.T.values.reshape(1,y_tr.shape[0])
y_te_T= y_te.T.values.reshape(1,y_te.shape[0])

根据特性的数量选择第一层的维度。在这种情况下,第一个维度是11。然后选择尽可能多的隐藏层。

### CONSTANTS ###
layers_dims= [11,25,25,25,25,25,10,1]#  7-layer model
parameters= L_layer_model(X_tr_T, y_tr_T, layers_dims, num_iterations= 2500, print_cost= True)
# Calculate accuracy on the training set
pred_train= predict(X_tr_T, y_tr_T, parameters)
# Calculate accuracy on the test set
pred_test= predict(X_te_T, y_te_T, parameters)

第一次尝试获得85%的训练和82%的测试精度

预先处理测试数据。通过X的正向传播和训练神经网络的参数生成预测。

# Load test data
test= pd.read_csv('datasets/titanic_test.csv')

# Preprocess test data

# Prepare X to generate predictions
X= test.drop(['PassengerId','Master'], axis=1)

# Transpose X to fit neural network architecture
X_tr_T= X.T

# Calculate predictions through forward propagation with the parameters
# obtained through fitting the neural net to the training data
probas, caches= L_model_forward(X_tr_T, parameters)

# Get classes from predictions
p= np.zeros((1,X_tr_T.shape[1]))
for iin range(0, probas.shape[1]):
        if probas[0,i] >0.5:
            p[0,i]= 1
        else:
            p[0,i]= 0

# Generate the predictions file
pIds= pd.DataFrame(data=test['PassengerId'].astype(int), columns=['PassengerId'], dtype=int)
preds= pd.DataFrame(data=p.T,columns=['Survived'], dtype=int)
final_prediction= pd.concat([pIds, preds], axis=1)
final_prediction.to_csv('titanic_survival_predictions.csv', index=False)

最后一步:生成测试数据的预测

将生成的预测保存为csv文件,然后将文件提交给kaggle。这一预测将使你跻身于参与者的前30%。

提交预测文件会使你进入前三名,并帮助你适应kaggle竞赛

你已经将神经网络应用于你自己的数据集了。现在我鼓励你使用网络中的迭代次数和层数。在泰坦尼克号生存数据库上应用的神经网络大概有些矫枉过正。

关键要点:

  • 从Coursera中心下载“应用深度学习”和“dnn_utils_v2”jupyter notebook,并在局部环境中运行;
  • 相应地预先处理数据;
  • 调换X和Y变量,以便拥有一个“示例特征”的训练矩阵;
  • 调整第一个图层的维度以匹配特征的数量;
  • 训练神经网络并保存生成的参数;
  • 通过测试数据的正向传播和之前保存的神经网络参数,生成对测试集的预测。

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2017-11-23

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏企鹅号快讯

第二课:开发机器学习app前的准备工作

框架的选择 如上一节课所说,随着机器学习的发展,目前已经出现很多不错的学习框架,这里我们做个对比: TensorFlow:深度学习最流行的库之一,它不仅便携、高...

2257
来自专栏Y大宽

Cytoscape插件2:CytoHubba

CytoHubba:发现复杂网络的关键目标和子网络 网络对呈现包括PPI,基因调控,细胞路径和信号转导等多种类型生物数据非常有用。我们//+重要性,并且这也能...

1621
来自专栏CDA数据分析师

谷歌教你学 AI-第五讲模型可视化

Google Cloud发布了名为"AI Adventures"的系列视频,用简单易懂的语言让初学者了解机器学习的方方面面。今天让我们来看到第五讲模型可视化。 ...

1907
来自专栏人人都是极客

第二课:开发机器学习app前的准备工作

框架的选择 如上一节课所说,随着机器学习的发展,目前已经出现很多不错的学习框架,这里我们做个对比: TensorFlow:深度学习最流行的库之一,它不仅便携、高...

29510
来自专栏数据派THU

这5个机器学习项目你不可错过!(附代码)

本文共2299字,建议阅读6分钟。 本文将给大家介绍五个十分可怕但还鲜为人知的机器学习项目,囊括了一些潜在的机器学习的新想法。

613
来自专栏小小挖掘机

数据城堡参赛代码实战篇(七)--- xgboost介绍及实战

小编们最近参加了数据城堡举办的“大学生助学金精准资助预测”比赛,以分组第19名的成绩进入了复赛,很激动有木有!在上一篇文章中,小编介绍了使用sklearn进行数...

3004
来自专栏大数据文摘

干脆面君,你给我站住!你已经被TensorFlow盯上了

1593
来自专栏数说工作室

面板数据与Eviews操作指南(上)

假想,你现在需要分析2000-2014年,全国34个省级行政区基础建设投资对GDP的影响分析,或者说构建回归模型: GDP = a × 基础建设投资额 + e ...

3194
来自专栏PPV课数据科学社区

数据挖掘比赛通用框架

作者|穆文 报名啦CDA数据分析师认证培训Level 1 国内权威的数据分析师系统 培养学员超过上千人理论结合实际 更有多重福利提供 点击文末“阅读原文”...

3756
来自专栏机器之心

世界上最好的语言PHP:我也可以用OpenCV搞计算机视觉

就像许多开发人员一样,我也经常使用别人的工作成果(Medium 上的文章、GitHub 上的代码等),因此也很乐意与社区分享我的成果。写文章不仅是对社区的一种回...

1083

扫码关注云+社区