深度学习笔记-神经网络介绍


Deep Learning 学习笔记-第一周

Andrew Ng发布了新课程,业界评价很好。在看的过程中非常不错,我把一些重要的知识和要点进行了总结和记录。

神经网络

对于神经网络的定义很复杂,wiki和百度给出了更详细的学术定义。Andrew Ng通过一个房屋预测的例子解释了神经网络。

x轴为房子的面积大小,y轴为该面积下的价格,价格不可为负数,图中的红色X代表历史数据的实例,我们需要做的是通过拟合一个曲线。即根据房子的面积来预测房子价格,我们需要找到一个拟合函数。 我们可以用一个简单的神经网络来表示,如上图中的右侧用一个独立神经元来表示。这是一个最简单的神经网络。该神经网络的输入是X(size of house),通过拟合函数neuron(ReLU),输出为Y(price). 有时我们在预测房屋价格时,还需要房屋的其它特性,比如:卧室的数量、邮政编码、步行化程度等等。如下图:

房屋的大小和卧室的数量可以评估家庭成员数量,在美国邮政编码可以评估步行化程度,邮编和富裕程度体校了学校的质量。中间的每一个圆圈都可能是一个ReLU。那么人们愿意付出这个房子多少与他们关注的内容息息相关,家庭成员数量、步行化程度和学校质量,能帮助你预测房屋的价格。神经网络当你实现了它,你只需要输入X就能得到输出Y,不管训练集多大,所有的中间过程都会自己完成。

深度学习兴起

为什么深度学习会如此广泛和兴起,我们先来看一张图:

x轴代表完成任务的数据量,y轴代表算法的性能(比如:垃圾邮件过滤的准确性,广告点击预测的准确率等等)。

  • 红色的曲线代表机器学习的算法性能,这些算法模型无法处理海量数据。
  • 黄色的曲线代表小型神经网络模型,在相同数据规模下的算法的性能。
  • 蓝色的曲线代表中等神经网络模型。
  • 绿色的曲线代表大型神经网络模型。 虽然大型神经网络模型的数据不仅需要海量数据作为支撑,但其他计算和算法的支撑也是非常重要的。在数据规模不大的情况下,要依赖于你自己设计算法的组件。

1.Data 2.Computation 3.Algorithms

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏汪毅雄的专栏

机器学习之数据清洗与特征提取

本文详细的解释了机器学习中,经常会用到数据清洗与特征提取的方法PCA,从理论、数据、代码三个层次予以分析。

6.7K5
来自专栏机器之心

研学社•架构组 | CoCoA:大规模机器学习的分布式优化通用框架

机器之心原创 作者:Yanchen Wang 参与:panda 去年,Michael I. Jordan 实验室发表论文《CoCoA: A General Fr...

2926
来自专栏大数据挖掘DT机器学习

如何上手深度学习中的图像领域?有这个资源库就够了

本页面收集了大量深度学习项目图像处理领域的代码链接。包括图像识别,图像生成,看图说话等等方向的代码,以便大家查阅使用。 图像生成 绘画风格到图片的转换:Neur...

4096
来自专栏钱塘大数据

Python的开源人脸识别库:离线识别率高达99.38%

以往的人脸识别主要是包括人脸图像采集、人脸识别预处理、身份确认、身份查找等技术和系统。现在人脸识别已经慢慢延伸到了ADAS中的驾驶员检测、行人跟踪、甚至到了动态...

1.9K7
来自专栏机器之心

ICLR 2018论文评审结果出炉:一文概览论文 TOP 5

3605
来自专栏IT派

GANs很难?这篇文章教你50行代码搞定(PyTorch)

量子位编译自Medium,作者Dev Nag,数据可视化分析平台Wavefront创始人、CTO,曾是Google、PayPal工程师。

1252
来自专栏目标检测和深度学习

如何上手深度学习中的图像领域?有这个资源库就够了

本页面收集了大量深度学习项目图像处理领域的代码链接。包括图像识别,图像生成,看图说话等等方向的代码,以便大家查阅使用。 图像生成 绘画风格到图片的转换:Neur...

52415
来自专栏目标检测和深度学习

学界 | 史上最强GAN图像生成器,Inception分数提高两倍

在向 ICLR 2019 提交的论文中,有一篇 GAN 生成图像的论文引起了所有人的注意,很多学者惊呼:不敢相信这样高质量的图像竟是 AI 生成出来的。其中生成...

1906
来自专栏钱塘大数据

Python的开源人脸识别库:离线识别率高达99.38%(附源码)

以往的人脸识别主要是包括人脸图像采集、人脸识别预处理、身份确认、身份查找等技术和系统。现在人脸识别已经慢慢延伸到了ADAS中的驾驶员检测、行人跟踪、甚至到了动态...

3.7K4
来自专栏媒矿工厂

视频编码性能提升新途径——面向编码的动态预/后处理技术

2017年9月17日至20日,IEEE国际图像处理会议(ICIP 2017)在北京国家会议中心举办,国内外许多学术界以及工业界的专家学者们都与会进行交流与讨论。...

4655

扫码关注云+社区