前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >简单二层神经网络介绍

简单二层神经网络介绍

作者头像
YG
发布2018-05-23 17:24:47
1.6K0
发布2018-05-23 17:24:47
举报
文章被收录于专栏:YG小书屋

假设有两个节点的两层的神经网络,只包含一个隐藏层和输出层,其参数如下:   g[1]和个g[2]分别是两层的转换函数;

梯度下降

则其输入和损失函数如下:

其梯度下降的过程类似于逻辑回归如下:

向前传播

神经网络向前传播的过程如下,由第一个节点开始计算,直至计算出到最后一层:

向后传播

神经网络向后传播的过程如下,由最后一个节点开始计算偏导数,直至计算到第一个节点:

向后转播的关键是计算出第一个公式dz[2],其推导过程如下:

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2018.04.30 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 梯度下降
  • 向前传播
  • 向后传播
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档